Вопросы по теме 'scrapyd'

Ошибка атрибута развертывания Scrapyd: объект NoneType не имеет атрибута 'имя_модуля'
Я пытаюсь использовать scrapy для развертывания моего проекта поискового робота в экземпляре scrapyd, но вызов commend возвращает следующую ошибку: Ответ сервера (200): {"status": "error", "message": "AttributeError: объект 'NoneType' не имеет...
2265 просмотров
schedule 19.03.2022

Scrapy/Python и SQL Server
Можно ли получить данные с веб-сайтов с помощью Scrapy и сохранить эти данные в базе данных Microsoft SQL Server? Если да, есть ли примеры того, как это делается? Это в основном проблема Python? то есть, если я найду какой-то код сохранения...
3008 просмотров
schedule 17.09.2022

изучаю python, а также пытаюсь внедрить scrapy.. получаю эту ошибку
Я просматриваю учебник по скрэпи http://doc.scrapy.org/en/latest/intro/tutorial.html и я следовал за ним, пока не запустил эту команду scrapy crawl dmoz И это дало мне вывод с ошибкой 2013-08-25 13:11:42-0700 [scrapy] INFO: Scrapy...
2722 просмотров
schedule 20.08.2023

Ограничение доступа к порту 6800
Недавно я настроил свой первый сервер Ubuntu и установил scrapy и scrapyd. Я написал несколько пауков и выяснил, как запускать пауков через API на порту 6800. Я также заметил, что там есть веб-интерфейс. Я также заметил, что почти каждый может...
504 просмотров

Неустранимая ошибка при запуске scrapyd в терминале
Я только что установил scrapyd на Ubuntu 14.04 и после установки просто набрал «scrapyd» в командной строке и получил: Не удалось загрузить приложение: нет модуля с именем txweb Я использовал как общие, так и специфичные для Ubuntu установки ,...
647 просмотров
schedule 30.04.2022

Команда Scrapyd-deploy не найдена после установки scrapyd
Я создал пару веб-пауков, которые собираюсь запускать одновременно со scrapyd. Сначала я успешно установил scrapyd в Ubuntu 14.04 с помощью команды: pip install scrapyd, и когда я запускаю команду: scrapyd, я получаю следующий вывод в терминале:...
5697 просмотров
schedule 14.08.2023

Ошибка развертывания scrapyd: нет модуля с именем project.models "
Моя команда scrapy crawl работает хорошо Но когда я хочу развернуть scrapyd, я столкнулся с проблемами scrapyd-deploy <target> -p <project> Я пытаюсь использовать свой Mac и удаленный сервер (centos), но оба имеют ошибку...
1236 просмотров
schedule 02.03.2022

scrapyd, запущенный как демон, не может найти паука или проект
Имя паука quotes14 , и он хорошо работает из командной строки. т.е. если я запускаю scrapy crawl quotes14 из каталога /var/www/html/sprojects/tutorial/ , он отлично работает в командной строке. У меня scrapyd работает как демон. Мои файлы...
1161 просмотров
schedule 19.10.2023

Ускорить время инициализации скрап-пауков
У меня есть несколько пауков Scrapy, которые мне нужно запускать одновременно каждые 5 минут. Проблема в том, что для запуска требуется от 30 секунд до 1 минуты. Создается впечатление, что они все заводят свой закрученный двигатель, и поэтому на...
245 просмотров
schedule 19.06.2023