文章詳情頁
python - pyspider 定時爬取問題
瀏覽:128日期:2022-07-14 10:37:31
問題描述
在寫爬蟲的時候,發現 在代碼中設置了 every 之后,21號爬取了一次之后,今天看 result 沒有更新,那個 lastcrawltime 依舊是 21號的。請問是不是我的參數設置的不正確?
問題解答
回答1:你貼的這個 task 的圖,是什么任務的?
貼的是 detail_page 的任務的
題主給 index_page 設置了小于 cronjob 間隔的時間。然而沒有給 detail_page 設置。這樣 detail_page 是不會被重新調度的
project 隊列狀態,最近活動任務是怎樣的?
回答2:有可能是 every 和 age 不匹配。如果 age 沒問題的話,說實話這屬于疑難雜癥了,我也經常遇到,我都是去 taskdb 把相應的表清空,然后重啟 pyspider 重新運行項目
相關文章:
1. mysql - 數據庫建字段,默認值空和empty string有什么區別 1102. 新人求教MySQL關于判斷后拼接條件進行查詢的sql語句3. 在mybatis使用mysql的ON DUPLICATE KEY UPDATE語法實現存在即更新應該使用哪個標簽?4. mysql - 這種分級一對多,且分級不平衡的模型該怎么設計表?5. Navicat for mysql 中以json格式儲存的數據存在大量反斜杠,如何去除?6. mysql - 數據庫表中,兩個表互為外鍵參考如何解決7. php - 公眾號文章底部的小程序二維碼如何統計?8. mysql - 表名稱前綴到底有啥用?9. mysql - 千萬數據 分頁,當偏移量 原來越大時,怎么優化速度10. mac OSX10.12.4 (16E195)下Mysql 5.7.18找不到配置文件my.cnf
排行榜
