文章詳情頁
python - 基于scrapy-redis的分布式爬蟲運行的時候不能正常運行 遇到的問題如下截圖所示
瀏覽:142日期:2022-08-03 11:20:00
問題描述
爬蟲運行時一直是這樣的每一分鐘出現一條這樣的信息,無限循環。不能爬取下來數據
這是redis服務端的顯示
這樣是什么問題,望有高手可以為我解惑,謝謝。
問題解答
回答1:使用scrapy_redis,你要去投放url讓spider去爬取,你投放了嗎?比如
redis-cli lpush myspider:start_urls http://google.com
相關文章:
1. css - 新手做響應式布局, 斷點過后右側出現空白,求幫助,謝謝。2. css3 - 純css實現點擊特效3. python - 啟動Eric6時報錯:’qscintilla_zh_CN’ could not be loaded4. mysql - 查詢字段做了索引為什么不起效,還有查詢一個月的時候數據都是全部出來的,如果分拆3次的話就沒問題,為什么呢。5. mysql - 記得以前在哪里看過一個估算時間的網站6. ID主鍵不是自增的嗎 為什么還要加null7. 大家好,我想請問一下怎么做搜索欄能夠搜索到自己網站的內容。8. MySQL中的enum類型有什么優點?9. android下css3動畫非常卡,GPU也不差啊10. javascript - 關于<a>元素與<input>元素的JS事件運行問題
排行榜
