A-Parser 1.1 - продвинутый парсер поисковых систем, Suggest, PR, DMOZ, Whois, etc

1.2.595 - новый парсер Ahrefs, инструмент для создания CSV и много других улучшений

Улучшения

• Добавлен новый парсер Rank::Ahrefs
• Добавлен инструмент $tools.CSVline для простого создания CSV файлов
• В связи с тестированием Гуглом новой верстки в поисковике, добавлена ее поддержка в SE::Google::Modern
• В SE::Google::Modern в массив $serp добавлена переменная $amp, которая показывает, поддерживает ли страница AMP
• В SE::Yandex в $serp.$i.label добавлена поддержка Турбо страниц, а также добавлен сбор типов меток сайтов
• В Net::HTTP улучшена работа с редиректами, добавлена опция Follow common redirects
• Теперь в Util::ReCaptcha2 можно указать хост для используемого сервиса разгадывания, а также в Provider url можно указывать адреса через запятую (актуально для XEvil и CapMonster), парсер будет использовать каждый из них в случайном порядке
• Увеличено количество результатов в парсерах Rank::Bukvarix::*
• Добавлена опция ограничения числа логов, с целью оптимизации использования дискового пространства
• JS парсеры: улучшена пакетная обработка запросов

Исправления в связи с изменениями в выдаче

• В Maps::Yandex исправлена ситуация, при которой для части результатов не собирались данные
• Исправлен SE::Rambler

Исправления

• Исправлена проблема с рядом парсеров, из-за которой они не работали, появилась в одной из предыдущих версий
• Исправлена ошибка в Rank::Alexa, из-за которой при отсутствующих значениях запрос завершался с ошибкой
• Исправлен баг в Rank::MajesticSEO, из-за которого в некоторых случаях запросы завершались с ошибкой
• Для парсеров Social::Instagram:rofile и Social::Instagram::Tag изменен перечень доступных переменных в связи с не совсем корректной работой в некоторых случаях

 

Видео урок: Парсинг Google Maps для сбора всех организаций в определенной местности

В этом видео уроке рассмотрен способ сбора данных об организациях в указанной местности из Google Maps, используя встроенный парсер Гугл карт. Также показано как определить необходимые координаты на карте и задать их в парсере.



В уроке рассмотрено:

• Парсинг карт Google с использованием Maps::Google
• Пример получения координат для использования в макросах подстановок
• Работа с макросами подстановок при наличии отрицательных чисел
• Импорт результата в Excel

Полезные ссылки:

• Готовый пресет в Каталоге
• Описание парсера Maps::Google
• Документация по макросам подстановок

Оставляйте комментарии и подписывайтесь на наш канал на YouTube!

 

Сборник статей #9: анализ страниц сайта, парсинг всех страниц сайта из индекса и проверка запросов

9-й сборник статей. В нем мы разберемся, как делать пресеты для анализа всех страниц сайта, научимся парсить все ссылки сайта из индекса ПС и будем проверять существование запросов. Поехали!

Создание пресета для анализа страниц сайта
Анализ страниц на сайте - это один из самых популярных кейсов использования А-Парсера. При этом можно собирать очень много различных параметров, начиная от проверки доступности и заканчивая поиском определенных слов на странице.
О том, как сделать простой анализатор сайта и пойдет речь в этой статье.


Парсинг разными способами максимум результатов из индекса поисковых систем
Парсинг из индекса поисковых систем всех страниц сайта - это еще один популярный кейс для A-Parser. ПС ограничивают кол-во результатов по одному запросу, поэтому нужно как-то обходить это ограничение. Как это сделать - описано в нашей статье.


Проверка существования запросов
Пресет из этого примера позволяет проверить базу ключевых слов и определить, был ли запрос одноразовым без постоянного спроса или нет. Тем самым появляется возможность отфильтровать семантику и оставить только "хорошие" запросы. Больше деталей, а также готовый пресет - по ссылке выше.



Если вы хотите, чтобы мы более подробно раскрыли какой-то функционал парсера, у вас есть идеи для новых статей или вы желаете поделиться собственным опытом использования A-Parser (за небольшие плюшки ) - пишите здесь.

Подписывайтесь на наш канал на Youtube - там регулярно выкладываются видео с примерами использования A-Parser, а также следите за новостями в Twitter.

Предыдущие сборники статей

• Сборник статей #1: A-Parser для маркетологов, SEO-специалистов и реальный опыт работы
• Сборник статей #2: цикл статей-уроков по созданию JS парсеров
• Сборник статей #3: пагинация, переменные и БД SQLite
• Сборник статей #4: добавление товаров в OpenCart и парсинг JSON
• Сборник статей #5: собственный канал в Telegram и массовое добавление товаров в OpenCart
• Сборник статей #6: работа с API, сохранение в YML и мануал по подключению Node.js модулей
• Сборник статей #7: сохранение в xlsx, работа с API и обзор методов автоматизации
• Сборник статей #8: ссылки с GET параметрами, скачивание Google документов, очистка очереди через API

 

[1.2.678 - оптимизация работы с прокси, улучшения во встроенных парсерах, исправления ошибок](https://a-parser.com/threads/5701/)



Улучшения

• В [SE::Google::ByImage](https://a-parser.com/wiki/se-google-byimage/) добавлена поддержка рекаптч, а также улучшена работа в целом
• В [SE::Yandex](https://a-parser.com/wiki/se-yandex/) добавлена возможность одновременной работы авторазгадывания каптч и антигейта
• В [Rank::Ahrefs](https://a-parser.com/wiki/rank-ahrefs/) добавлена возможность выбора типа домена
• Полностью переписан [SE::Yandex::SQI](https://a-parser.com/wiki/se-yandex-sqi/), изменен набор собираемых данных
• Реализован бан прокси в [SE:: DuckDuckGo::Images](https://a-parser.com/wiki/se-duckduckgo-images/)
• В [Net::Whois](https://a-parser.com/wiki/net-whois/) добавлен парсинг даты освобождения домена
• Оптимизирована работа с прокси при использовании большого числа попыток
• Улучшена работа функции Bypass Cloudflare
• Добавлен tools.aparser.version(), позволяющий получить информацию о версии A-Parser

Исправления в связи с изменениями в выдаче

• В мобильной верстке [SE::Google::Modern](https://a-parser.com/wiki/se-google-modern/) исправлен парсинг новостей, а также исправлен парсинг ссылок и анкоров в desktop выдаче
• В [SE::Yandex](https://a-parser.com/wiki/se-yandex/) исправлено определение каптчи, а также исправлен сбор ссылок на кеш
• Исправлен парсинг цен и количества комментариев в [Shop::Amazon](https://a-parser.com/wiki/shop-amazon/)
• Исправлена работа [SE:: DuckDuckGo::Images](https://a-parser.com/wiki/se-duckduckgo-images/) с запросами, содержащими более 1 слова
• [GooglePlay::Apps](https://a-parser.com/wiki/googleplay-apps/), [SE::Youtube](https://a-parser.com/wiki/se-youtube/) , [Rank::Ahrefs](https://a-parser.com/wiki/rank-ahrefs/)

Исправления

• Исправлена проблема с рандомизацией прокси на Windows 10
• Исправлено зависание при использовании [Check::BackLink](https://a-parser.com/wiki/check-backlink/)
• Исправлена проблема, при которой не применялся Content-Type в [Net::HTTP](https://a-parser.com/wiki/net-http/)
• Исправлена редкая проблема с выбором файла запросов
• Исправлена обработка редиректов при нестандартном порте
• Исправлен вывод многострочных данных в tools.CSVline
• JS парсеры: исправлена проблема с интерфейсом при отсутствии необходимых Node.js модулей
• JS парсеры: исправлена проблема с подключением модуля jimp

[](https://telegram.me/joinchat/B52bKz_xVDH2GDiEU1MPsQ)

 

Видео урок: Парсинг сайта в глубину на основе парсера HTML::LinkExtractor

В этом видео уроке рассмотрен способ создания пресета для анализа сайта в глубину.



В уроке рассмотрено:

• Парсинг в глубину (уровень) сайта относительно страницы запроса при помощи функции "Парсить до уровня"
• Получение title (с очисткой от HTML сущностей)
• Получение таких параметров как:
  • кол-во предыдущих редиректов
  • код ответа сервера
  • кол-во внешних ссылок

Полезные ссылки:

• https://a-parser.com/resources/357/ - готовый пресет в Каталоге
• https://a-parser.com/resources/356/ - подробное описание по созданию настроек для парсинга в глубину сайта
• https://a-parser.com/wiki/advanced-options/#parse-all-results - документация по функции "Парсить до уровня"

Оставляйте комментарии и подписывайтесь на наш канал на YouTube!

 

Сборник рецептов #36: уникальность текста, парсер GitHub, посещаемость сайтов, результаты розыгрыша

36-й сборник рецептов, в котором опубликованы парсер для проверки текстов на уникальность, парсер GitHub и парсер для получения информации о посещаемости сайтов. А также список обновленных пресетов из нашего Каталога.

Но, в первую очередь хотим поделиться результатами розыгрыша, который был проведен в связи с Черной пятницей. Мы разыграли 5 лицензий на А-Парсер среди всех новых участников нашего telegram чата, которые присоединились к нему в период проведения акции. Результаты розыгрыша в видео:




А теперь перейдем непосредственно к сборнику.

Проверка текста на уникальность

Задача проверки текстов на уникальность является одной из самых частых для копирайтеров. Возможность осуществлять такую проверку предоставляют много ресурсов. И парсер для одного из таких сервисов опубликован по ссылке выше.



Парсер Github

Согласно Википедии, GitHub - это крупнейший веб-сервис для хостинга IT-проектов и их совместной разработки. Поэтому мы не могли обойти его стороной и публикуем парсер данных о репозиториях при поиске по ключевому слову на данном ресурсе.



Парсинг количества трафика на сайтах

Этот парсер позволяет получать информацию о просмотрах и посещениях страниц за день, месяц и год. В качестве источника данных используется один из известных сервисов.



Кроме этого были обновлены:

• Парсинг базы телефонов из olx.ua
• Парсинг Авито
• Парсинг телефонов и email фрилансеров fl.ru
• Проверка блокировки РосКомНадзора через GitHub
• JS::MailValidator

Еще больше различных рецептов в нашем Каталоге!
Предлагайте ваши идеи для новых парсеров здесь, лучшие будут реализованы и опубликованы.

Подписывайтесь на наш канал на Youtube - там регулярно выкладываются видео с примерами использования A-Parser, а также следите за новостями в Twitter.

Все сборники рецептов

 

1.2.713 - новые парсеры: Telegram и eBay, оптимизации во встроенных парсерах, новые инструменты



Улучшения

• Добавлен новый парсер Telegram::GroupScraper, который собирает из публичных групп в Telegram данные о сообщениях: текст, дата, автор, ссылки на фото и видео
• Добавлен новый парсер Shop::eBay, который позволяет парсить поисковую выдачу на ebay.com
• Изменения в парсерах Google:
  • Добавлена переменная $detected_geo, в которой содержится информация о геолокации
  • В связи с неактуальностью удалены опции:
    • Old desktop computer (IE6) в Device
    • Util::AntiGate preset
    • Use digit captcha
• В SE::Yandex увеличено максимальное значение Pages count до 25
• В SE::Google::Images добавлена поддержка новой верстки
• В Util::ReCaptcha2 добавлена поддержка capmonster.cloud
• Парсер SE::MailRu полностью переписан, добавлена поддержка каптч и сессий и добавлен сбор ссылок на кешированные страницы
• Парсер SE::Yandex:: Direct полностью переписан, добавлен сбор тегов и дополнительных ссылок с анкорами
• Добавлен новый инструмент шаблонизатора tools.task, на данный момент он умеет возвращать id задания и число потоков
• JS парсеры: this.query.add теперь поддерживает передачу дополнительных параметров

Исправления в связи с изменениями в выдаче

• Множество исправлений в SE::Google, он теперь полностью дублирует SE::Google::Modern
• Исправлен парсинг $indexed в Rank::MajesticSEO
• В Net::Whois исправлена работа с доменной зоной .sex
• Исправлен парсинг $title в Shop::Yandex::Market
• Shop::Amazon, SE:: Dogpile, Rank::Ahrefs, SE::Bing, Rank::SEMrush, SE:: DuckDuckGo, SE:: DuckDuckGo::Images, SE::Baidu

Исправления

• В парсерах Google исправлена ошибка, при которой собираемые ссылки были с переводчиком
• Исправлены проблемы с рандомизацией в некоторых случаях
• Исправлена ошибка в Social::Instagram:: post при парсинге только массивов данных
• Исправлена проблема с проходом по пагинации, которая возникла в одной из предыдущих версий
• JS парсеры: исправлена работа с Node.js модулем socks

 

Сборник рецептов #37: парсинг Twitter, поиск и скачивание картинок, парсинг групп в Telegram

37-й сборник рецептов. В него вошли: парсер Twitter, который умеет собирать сообщения, их авторов и т.п.; JS парсер, в котором объединены поиск и скачивание картинок; а также 2 пресета для парсинга Telegram, которые демонстрируют возможности по сбору данных из публичных групп.

Парсер постов из Twitter
Публикуем парсер, который по ключевому слову парсит данные из сообщений в Twitter. Собираются имя и логин автора, текст сообщения, дата публикация, количество лайков, ответов и ретвитов. Есть возможность указать количество страниц для парсинга.


JS::ImagesFromSE
Ранее мы уже публиковали JavaScript парсер, в котором объединены парсинг выдачи ПС и парсинг текста со страниц. Теперь представляем вашему вниманию JS парсер, в котором объединены поиск и скачивание картинок.


Пресеты для парсинга публичных групп в Telegram
Начиная с версии 1.2.709 в А-Парсер был добавлен Telegram::GroupScraper. Для демонстрации его возможностей мы опубликовали в Каталоге 2 пресета:

• Парсинг пользователей публичных групп в Telegram
  
• Парсинг всех сообщений из публичных групп в Telegram

Еще больше различных рецептов в нашем Каталоге!
Предлагайте ваши идеи для новых парсеров здесь, лучшие будут реализованы и опубликованы.

Подписывайтесь на наш канал на Youtube - там регулярно выкладываются видео с примерами использования A-Parser, а также следите за новостями в Twitter.

Все сборники рецептов

 

Сборник статей #10: отслеживание цен с уведомлением, парсинг характеристик товаров, редиректы

10-й сборник статей, в котором будет показано, как с помощью А-Парсера получать уведомления в Телеграм об изменении цен на товары, как парсить характеристики товаров и выводить их в виде удобной таблицы, а также подробно описана работа с редиректами.

Периодический мониторинг цен с уведомлением в Telegram

В этой статье пошагово описан процесс создания парсера, с помощью которого можно отслеживать изменение цен товаров. При этом парсер будет присылать уведомление в Телеграм, а также можно легко добавить поддержку других сайтов.



Сбор характеристик товара

Одной из частых задач для А-Парсера является сбор характеристик товаров в интернет-магазинах. И если сам парсинг совсем не проблема, то формирование итоговой таблицы, при условии, что характеристики должны быть распределены по отдельным столбцам, вызывает вопросы. Поэтому, в данной статье будет описан способ такого парсинга.



Всё о редиректах

Большая справочная статья, посвященная тематике редиректов.



Если вы хотите, чтобы мы более подробно раскрыли какой-то функционал парсера, у вас есть идеи для новых статей или вы желаете поделиться собственным опытом использования A-Parser (за небольшие плюшки ) - отписывайтесь здесь.

Подписывайтесь на наш канал на Youtube - там регулярно выкладываются видео с примерами использования A-Parser, а также следите за новостями в Twitter.

Предыдущие сборники статей

• Сборник статей #1: A-Parser для маркетологов, SEO-специалистов и реальный опыт работы
• Сборник статей #2: цикл статей-уроков по созданию JS парсеров
• Сборник статей #3: пагинация, переменные и БД SQLite
• Сборник статей #4: добавление товаров в OpenCart и парсинг JSON
• Сборник статей #5: собственный канал в Telegram и массовое добавление товаров в OpenCart
• Сборник статей #6: работа с API, сохранение в YML и мануал по подключению Node.js модулей
• Сборник статей #7: сохранение в xlsx, работа с API и обзор методов автоматизации
• Сборник статей #8: ссылки с GET параметрами, скачивание Google документов, очистка очереди через API
• Сборник статей #9: анализ страниц сайта, парсинг всех страниц сайта из индекса и проверка запросов

 

Видео урок: Парсинг тематических доменов из Google и получение различных параметров по доменам

В этом видео уроке рассмотрен способ создания пресета для парсинга тематических доменов по ключевой фразе из поисковой выдачи Google, и получение для доменов различных параметров.



В уроке рассмотрено:

• Парсинг поисковой выдачи Google
• Вывод уникальных результатов в качестве главных доменов
• Получение таких параметров как:
  • зарегистрирован домен или нет
  • дата регистрации и дата окончания регистрации домена
  • язык сайта
  • title и description
  • индекс качества сайта
  • позицию в глобальном рейтинге Alexa
  • cтрану с наибольшим числом трафика по Alexa
  • позицию в рейтинге этой страны по Alexa

Полезные ссылки:

• https://a-parser.com/wiki/net-whois/ - парсер Net::Whois
• https://a-parser.com/wiki/html-textextractor-langdetect/ - парсер HTML::TextExtractor::LangDetect
• https://a-parser.com/wiki/se-yandex-sqi/ - парсер SE::Yandex::SQI

Оставляйте комментарии и подписывайтесь на наш канал на YouTube!

 

1.2.752 - полноценная поддержка Node.js, функция Memory Saver, оптимизация производительности

Улучшения

• Полноценная поддержка NodeJS 12.13.х, включая нативные модули, подробнее: https://a-parser.com/threads/5807/
• Новая опция Memory Saver, которая позволяет регулировать потребление памяти парсером
• Улучшена производительность SE::Yandex
• В Shop::Amazon добавлена возможность подключать антигейт, а также поддержка сессий
• В SE::Google::ByImage добавлена возможность выбирать язык интерфейса, язык результатов и страну
• Уменьшено потребление памяти, при использовании нескольких парсеров в задании, разница может достигать 100%

Исправления в связи с изменениями в выдаче

• Исправлена работа с каптчами в Maps::Yandex
• Исправлен парсинг рекламы в SE::Google
• SE::Yandex, Rank::Ahrefs, SE:: Dogpile, SE:: Dogpile::Images, SE:: DuckDuckGo::Images, Rank::MajesticSEO, Rank::SerpStat::Keyword, Rank::Bukvarix:: Domain

Исправления

• Исправлена работа Bypass Cloudflare в некоторых случаях
• Исправлена работа при малом числе прокси
• Исправлена проблема при редактировании дополнительных форматов результатов

 

Сборник рецептов #38: парсер Яндекс.Кью, парсер сайтов из Яндекс.Радар и определение типов сайтов

38-й сборник рецептов. В нем опубликованы: парсер сервиса вопросов-ответов Яндекс.Кью, парсер для сбора сайтов из Яндекс.Радара, а также парсер для определения типа сайта.

Парсер Яндекс Кью

Яндекс.Кью - это сервис вопросов-ответов, запущенный в конце 2019 года. Он объединил в себе несколько других сервисов, поэтому уже на момент запуска обладал большой базой информации. Мы не могли оставить это просто так и публикуем парсер для сбора данных из этого сервиса.



Парсинг сайтов из Яндекс.Радар

Яндекс.Радар - это сравнительно новый сервис Яндекса, который в отчасти заменил ранее популярный Яндекс.Каталог. Это большой каталог популярных в рунете сайтов с данными о их посещаемости и некоторой информацией о посетителях. Мы подготовили парсер, с помощью которого можно собрать список сайтов с необходимыми фильтрами.



Определение типа сайта по Яндекс Радару

И еще один парсер для Яндекс.Радар от нашего пользователя. С его помощью можно определять типы сайтов, если они есть в базе Яндекс.Радара.



Еще больше различных рецептов в нашем Каталоге!
Предлагайте ваши идеи для новых парсеров здесь, лучшие будут реализованы и опубликованы.

Подписывайтесь на наш канал на Youtube - там регулярно выкладываются видео с примерами использования A-Parser, а также следите за новостями в Twitter.

Все сборники рецептов

 

Сборник статей #11: анализ содержимого картинок, добавление ссылок в индекс Google и поиск RSS лент

11-й сборник статей, в котором рассказано, как в А-Парсере анализировать содержимое картинок, добавлять страницы своих сайтов в индекс Google и искать RSS ленты необходимой тематики.

Фильтрация картинок по их содержимому

В этой статье на примере поиска картинок с определенным содержимым, показана работа с Google Vision. С помощью "компьютерного зрения" для каждого изображения присваивается набор меток, который описывает содержимое.



Инструкция по использованию Google Indexing API

В данной статье рассмотрена работа с Google Indexing API, который позволяет владельцам сайтов напрямую уведомлять Google о добавлении или удалении страниц. Таким образом ваш сайт будет быстрее просканирован Google, что способствует повышению качества трафика.



Поиск и сбор rss лент

В этой статье рассмотрен простой пример поиска ссылок на rss ленты по заданной тематике. Решение состоит из 3-х пресетов, каждый из которых отвечает за определенный этап работы.



Если вы хотите, чтобы мы более подробно раскрыли какой-то функционал парсера, у вас есть идеи для новых статей или вы желаете поделиться собственным опытом использования A-Parser (за небольшие плюшки ) - отписывайтесь здесь.

Подписывайтесь на наш канал на Youtube - там регулярно выкладываются видео с примерами использования A-Parser, а также следите за новостями в Twitter.

Все сборники статей

 

1.2.799 - новый парсер для поиска картинок, улучшения в существующих парсерах



Улучшения

• Добавлен новый парсер SE::Yandex::ByImage - поиск картинок в Яндексе по ссылке
• В Social::Instagram:: post добавлена возможность собирать ссылки на локации
• В Util::YandexRecognize добавлена поддержка сессий
• В SE::Yandex::SQI добавлена возможность определять считается ли домен "официальным"
• Улучшения в HTML::EmailExtractor для более качественного сбора почт
• В SE::Google::Trends обновлен и значительно расширен список регионов
• Из SE::Seznam удален парсинг $related в связи с тем, что связанные ключевые слова больше не выводятся на странице выдачи

Исправления в связи с изменениями в выдаче

• Исправлен парсинг $totalcount, рекламы и мобильной выдачи в парсерах Google
• Исправлен парсинг анкоров и сниппетов в SE::Yandex
• Исправлены парсеры SerpStat
• SE::Yandex:: Direct, SE::Bing::LangDetect , Rank::Ahrefs, SE::Bing , SE::Startpage , Shop::eBay

Исправления

• Исправлен выбор страны в SE::Yahoo
• Исправлен баг с декодированием ссылок в SE::Google::Images
• В режиме -newnode исправлены проблемы с кодировкой и оптимизировано потребление памяти

 

Парсинг booking.com с помощью A-Parser

В этом видео уроке рассмотрен парсинг ресурса booking.com, получение результатов поиска квартир и отелей на сайте. Подробную информацию о них будем получать при помощи парсера Net::HTTP.



В видео рассмотрено

• Пользование разделом тестового парсинга
• Переход по страницам пагинации
• Проверка наличия определенного контента на странице сайта
• Использование регулярных выражений
• Применение конструктора результатов (декодирование HTML сущностей)
• Применение шаблонизатора Template Toolkit в формате результата:
  • Использование инструмента $tools.CSVline
  • Циклическая обработка директивой FOREACH
  • Виртуальный метод .match
  • Фильтры: .remove, .collapse, .replace

Полезные ссылки

• Net::HTTP - https://a-parser.com/wiki/net-http/
• Тестовый парсинг - https://a-parser.com/wiki/test-parsing/
• Template Toolkit - https://a-parser.com/wiki/template-toolkit/
• tools.CSVline - https://a-parser.com/wiki/template-tools/#tools-csvline-простое-создание-csv-файлов
• Готовый пресет: https://a-parser.com/resources/383/

Оставляйте комментарии и подписывайтесь на наш канал на YouTube!

 

Сборник рецептов #39: бот-опросник, парсер hotline.ua и copart.com

Представляем вашему вниманию 39-й сборник рецептов, в который вошли:

• телеграмм бот опросник
• парсер агрегатора цен hotline.ua
• парсер аукционов транспортных средств copart.com

Телеграмм бот опросник

Данный бот позволяет организовать ежедневный опрос сотрудников, при этом список вопросов можно гибко менять. Все настройки берутся из Google таблицы, а также туда пишутся ответы по каждому сотруднику.
Также, этот пример демонстрирует возможность создания телеграмм бота на базе A-Parser и работу с Google таблицами.



Парсер hotline.ua

hotline.ua - это самый большой агрегатор цен в Украине. С его помощью можно мониторить и анализировать цены на товары у конкурентов или искать наиболее выгодные предложения среди большого количества интернет-магазинов.



Парсер copart.com

Copart является одним из крупнейших интернет аукционов, специализирующихся на продаже новых и б/у автомобилей. По официальной информации каждый день на аукционе выставляется на продажу более 150 000 транспортных средств.



Еще больше различных рецептов в нашем Каталоге!
Предлагайте ваши идеи для новых парсеров здесь, лучшие будут реализованы и опубликованы.

Подписывайтесь на наш канал на Youtube - там регулярно выкладываются видео с примерами использования A-Parser, а также следите за новостями в Twitter.

Все сборники рецептов

 

Видео урок: Именование файлов результатов

Мы начинаем публикацию серии коротких видеоуроков, каждый из которых будет посвящен какому-то одному функционалу.
И в этом уроке будут рассмотрены варианты формирования имени файла результата.



В видео рассмотрено:

• Нумерация файла результата в соответствии с запросами
• Нумерация файла результата + часть имени запроса
• Именование файла результата по запросу, если запрос линк

Полезные ссылки:

• Формат результата - https://a-parser.com/wiki/tips-v1-1-0/#Формат-результата
• Шаблонизатор Template Toolkit - https://a-parser.com/wiki/template-toolkit/
• Метод replace - http://template-toolkit.ru/Manual/VMethods.html

Оставляйте комментарии и подписывайтесь на наш канал на YouTube!

 

1.2.852 - новый парсер для Google Keyword Planner, Native NodeJS, множество исправлений и улучшений


Улучшения

• Добавлен парсер SE::Google::KeywordPlanner
  • собираются списки подсказок и варианты ключевых слов
  • для каждого варианта парсится среднее кол-во запросов в месяц, конкуренция, объемы поиска, а также минимальная и максимальная ставки
  • присутствует возможность указывать несколько ключевых слов в запросе
• В SE::Yandex::ByImage добавлена функция Get full links to page, которая позволяет получать реальные ссылки на страницы
• В SE::Yandex::SQI добавлены переменные сбор количества отзывов и оценок, а также рейтинга
• Улучшена проверка правильности разгадывания каптчи в парсерах Яндекса
  
• Автоматическое увеличение лимитов на ОС Linux
  
• Улучшена работа с регулярными выражениями
  
• При бане прокси в лог задания теперь выводится более детальная информация
• Native NodeJS переведена из стадии альфы в бету, проведено множество оптимизаций, за счет чего в большинстве сценариев это дает повышение максимальной скорости в 1.5-2 раза, а также уменьшение потребление памяти в 2-4 раза
  • Начиная с 1.2.822 все бета версии имеют включенный Native NodeJS, стабильные версии выходят с включенным oldnode
• Native NodeJS: добавлена экспериментальная поддержка HTTP/2
• Native NodeJS: обновление Node.js до актуальной версии
  
• JS парсеры: добавлена опция allow_dangerous_node_modules, подробнее тут

Исправления в связи с изменениями в выдаче

• Исправлено скачивание каптчи в SE::Yandex
  
• Исправлен Rank::Ahrefs: в $anchors переменная $bl заменена на $domains
• В SE::Google исправлены:
  • парсинг mobile news
  • баг с дублированием ссылок в выдаче
    
  • парсинг анкоров в рекламе, связанных ключевых слов, а также первый результат в выдаче не всегда попадал в serp
• В SE::Google::Images исправлен парсинг gif
• Исправлен SE::Yandex::ByImage, убраны flat переменные $height и $width
• SE::Yandex, SE::Google::ByImage, SE:uckDuckGo, Social::Instagram:ost, Rank::Ahrefs, Rank::Bukvarix:omain, SE::MailRu, SE::Yandex::Suggest

Исправления

• Исправлена работа Net::Whois с доменами 3го уровня, а также улучшена проверка получаемого ответа
• Исправлена работа Extra query string в SE::Bing
  
• Исправлена работа Rank::SEMrush и Rank::SerpStat::Keyword при получении ответа без данных
• Исправлен баг с типами переменных
• Исправлена ошибка, при которой запросы ошибочно считались неудачными при постановке задания на паузу
• Исправлена работа Bypass Cloudflare
• Исправлен динамический лимит потоков
• Исправлена ошибка при использовании Request delay
  
• Исправлено предупреждение о превышении лимита в Поле запросов
• Исправлена работа $tools.task.id в имени файла результата
• JS парсеры: исправлены получение сессий и работа http2 (баг появился в одной из предыдущих версий)
• JS парсеры: исправлено определение кодировки страницы
• Native NodeJS: исправлено поведение при некоторых ошибках
• Native NodeJS: исправлена проблема при обновлении A-Parser на OS Windows
• Native NodeJS: исправлена работа save_to_file, а также еще ряд ошибок
• Native NodeJS: исправлена работа SOCKS5 с авторизацией
  
• Native NodeJS: исправлена подстановка данных после Конструктора запросов

 

Сборник рецептов #40: посещаемость организаций, SSL сертификаты, ikea и анализ доменов

Представляем вашему вниманию 40-й сборник рецептов, в который вошли:

• парсер данных о посещаемости организаций
• парсер данных о SSL сертификатах
• парсер товаров на ikea.com
• комплексный пресет для анализа доменов по ряду характеристик
• способ извлечения доменов из ссылок без фактического захода на страницу

Посещаемость в Google Maps
В поисковой выдаче Google для определенных запросов отображается расширенный сниппет с информацией об организации из Google карт. В частности, обычно отображается информация о посещаемости в разрезе дней недели.
Представляем парсер, который собирает данные о посещаемости.


Данные по SSL сертификату
Данный парсер собирает информацию о SSL сертификате сайта. В качестве источника данных используется сторонний ресурс.


Парсер ikea.com
Парсер данных из ikea.com, который позволяет собирать различную информацию о товарах. Согласно данным из Википедии, ikea - это одна из крупнейших в мире торговых сетей по продаже мебели и товаров для дома.


Кроме этого:

• Получение доменов из ссылок без захода на страницу
• Информация о сайте (домене)

Еще больше различных рецептов в нашем Каталоге!
Предлагайте ваши идеи для новых парсеров здесь, лучшие будут реализованы и опубликованы.
Подписывайтесь на наш канал на Youtube - там регулярно выкладываются видео с примерами использования A-Parser, а также следите за новостями в Twitter.

Все сборники рецептов

 

Видео урок: Сохранение результатов в несколько файлов используя переменные, массивы и условия

В этом видео уроке рассмотрены способы сохранения результатов в несколько файлов, используя переменные и массив, при определенных условиях.



В видео рассмотрено:

• Вывод результатов в разные файлы с разными именами используя переменные
• Вывод результатов для каждого файла отдельно по определенному условию
• Вывод результатов для двух файлов с условием, используя массив

Полезные ссылки:

• https://a-parser.com/wiki/template-toolkit/- Шаблонизатор Template Toolkit
• http://template-toolkit.ru/Manual/Directives.html#Uslovnaya_obrabotka- условная обработка (IF, UNLESS, ELSIF, ELSE)
• http://template-toolkit.ru/Manual/Directives.html#Ciklicheskaya_obrabotka- циклическая обработка FOREACH
• https://a-parser.com/wiki/task-tester/- тестировщик заданий

Оставляйте комментарии иподписывайтесь на наш канал на YouTube!