Автор Тема: Медленная скорость парсинга  (Прочитано 23754 раз)

Александр

  • Новичок
  • *
  • Сообщений: 31
    • Просмотр профиля
Медленная скорость парсинга
« : 04 Август 2013, 18:41:05 »
Здравствуйте, Георгий.
Решил, что пора донимать Вас проблемами здесь на форуме, а не по почте.  :)
Итак проблема... Запустил парсинг, а он в несколько раз медленнее, чем обычно работает. Ничего не менял по сравнению с предыдущими сканированиями в настройках программы.
Вот не знаю чего делать...

byterus

  • Администратор
  • Ветеран
  • *****
  • Сообщений: 1168
    • Просмотр профиля
Re: Медленная скорость парсинга
« Ответ #1 : 04 Август 2013, 18:51:37 »
Александр, если ничего не менялось в настройках, то попробуйте настроить антивирус
http://serpparser.ru/doc_firewall_options.html

Александр

  • Новичок
  • *
  • Сообщений: 31
    • Просмотр профиля
Re: Медленная скорость парсинга
« Ответ #2 : 04 Август 2013, 20:20:43 »
Сделал, но эффекта никакого не вижу. Правда парсинг в данный момент идёт. Может стоит остановить и запустить ещё раз?
Кстати, непонятно почему исключения слетели в антивирусе. Настраивал же когда-то.

byterus

  • Администратор
  • Ветеран
  • *****
  • Сообщений: 1168
    • Просмотр профиля
Re: Медленная скорость парсинга
« Ответ #3 : 04 Август 2013, 20:27:05 »
Александр, возможно стоит перезапустить программу. Какая скорость в страницах была раньше и какая стала сейчас?

Александр

  • Новичок
  • *
  • Сообщений: 31
    • Просмотр профиля
Re: Медленная скорость парсинга
« Ответ #4 : 04 Август 2013, 20:49:26 »
Было 1-3 секунды. Сейчас и до 30 доходит.

Попробовал перезапустить программу. Скорость та же.
« Последнее редактирование: 04 Август 2013, 21:17:26 от Александр »

byterus

  • Администратор
  • Ветеран
  • *****
  • Сообщений: 1168
    • Просмотр профиля
Re: Медленная скорость парсинга
« Ответ #5 : 05 Август 2013, 06:33:48 »
Александр, если проблема еще не исчезла, то пришлите пожалуйста журнал работы любого блока после нескольких минут съема позиций.

Александр

  • Новичок
  • *
  • Сообщений: 31
    • Просмотр профиля
Re: Медленная скорость парсинга
« Ответ #6 : 05 Август 2013, 09:52:32 »
Письмо с журналами отправил. Тема письма такая же как тут на форуме: Медленная скорость парсинга.

byterus

  • Администратор
  • Ветеран
  • *****
  • Сообщений: 1168
    • Просмотр профиля
Re: Медленная скорость парсинга
« Ответ #7 : 05 Август 2013, 09:58:46 »
Александр, спасибо за логи. Посмотрел локальное подключение, абсолютно нормальная скорость, 2-6 секунд на страницу. При работе через прокси скорость зависит от качества прокси.

Александр

  • Новичок
  • *
  • Сообщений: 31
    • Просмотр профиля
Re: Медленная скорость парсинга
« Ответ #8 : 05 Август 2013, 10:47:06 »
Честно говоря мне сегодня тоже показалось, что всё нормально.
Но вот вчера ооочень долго сканировал. Уж не знаю с чем это тогда связано было. Список прокси был один и тот же.
Яндекс кажется сильно притормаживал.

Александр

  • Новичок
  • *
  • Сообщений: 31
    • Просмотр профиля
Re: Медленная скорость парсинга
« Ответ #9 : 07 Август 2013, 21:53:24 »
Что-то прям беда со скоростью съёма позиций в Яндексе. В несколько раз дольше, чем с Гугла.А раньше всё нормально было.
Это только у меня так или ещё кто страдает?
И не из-за введения "Островов" такая ерунда происходит?

byterus

  • Администратор
  • Ветеран
  • *****
  • Сообщений: 1168
    • Просмотр профиля
Re: Медленная скорость парсинга
« Ответ #10 : 08 Август 2013, 06:35:32 »
Александр, на локальном подключении тоже низкая скорость? Если да, то пришлите журнал работы с локальным подключением.

Александр

  • Новичок
  • *
  • Сообщений: 31
    • Просмотр профиля
Re: Медленная скорость парсинга
« Ответ #11 : 10 Август 2013, 10:51:24 »
Вот посмотрите на локальное по яндексу. Может что-то можно сделать.

byterus

  • Администратор
  • Ветеран
  • *****
  • Сообщений: 1168
    • Просмотр профиля
Re: Медленная скорость парсинга
« Ответ #12 : 10 Август 2013, 16:57:58 »
Александр, Не сказать что медленно, 7 секунд на страницу, скорее всего это задержка в настройках. Попробуйте уменьшить задержки, но тогда будет больше вероятность бана IP.

Александр

  • Новичок
  • *
  • Сообщений: 31
    • Просмотр профиля
Re: Медленная скорость парсинга
« Ответ #13 : 10 Август 2013, 17:43:37 »
Не знаю, не знаю. Что-то 7 секунд я там далеко не всегда вижу. Бывает в разы больше.
Задержки у меня стоят до 3 секунд. Пробовал отключать Разрешение задержки во время парсинга. Не помогает.

Может так и должно быть, но есть два но.
1. Гугл снимает также быстро как и раньше.
2. Скорость по яндексу упала всего пару недель назад. Раньше было нормально.

В общем кажется придётся пережить это... Хотя досадно. Гугл закончил за пару часов, а Яндекс кажется и за 6 не управится.

byterus

  • Администратор
  • Ветеран
  • *****
  • Сообщений: 1168
    • Просмотр профиля