文章詳情頁(yè)
python - Scrapy的spider在IDE中方便運(yùn)行調(diào)試
瀏覽:83日期:2022-06-27 11:03:29
問(wèn)題描述
我有很多spider,不能每次調(diào)試都手動(dòng)創(chuàng)建一個(gè)debugger吧(scrapy crawl spider_name)
想可以在spider文件中直接右鍵運(yùn)行/調(diào)試。
問(wèn)題解答
回答1:參考文章:Scrapy爬蟲常見(jiàn)問(wèn)題總結(jié)
spider方便運(yùn)行/調(diào)試在spider文件中,加入cmdline的調(diào)用方法
import scrapy.cmdline#Your Spider Class...def main(): scrapy.cmdline.execute([’scrapy’, ’crawl’, ’your_spider_name’])if __name__ == ’__main__’: main()回答2:
新建一個(gè)py文件,用這個(gè)來(lái)調(diào)試
from scrapy.cmdline import executeimport sysimport ossys.path.append(os.path.dirname(os.path.abspath(__file__)))execute(['scrapy','crawl','YOUR_SPIDER'])
相關(guān)文章:
1. javascript - node.js服務(wù)端渲染解疑2. javascript - 求助關(guān)于js正則問(wèn)題3. html5 - 如何解決bootstrap打開(kāi)模態(tài)modal窗口引起頁(yè)面抖動(dòng)?4. javascript - 求助這種功能有什么好點(diǎn)的插件?5. objective-c - ios百度地圖定位問(wèn)題6. 微信開(kāi)放平臺(tái) - Android調(diào)用微信分享不顯示7. html - css 如何添加這種邊框?8. html5 - rudy編譯sass的時(shí)候有中文報(bào)錯(cuò)9. javascript - 關(guān)于定時(shí)器 與 防止連續(xù)點(diǎn)擊 問(wèn)題10. 為何 localStorage、sessionStorage 屬于html5的范疇,但是為何 IE8卻支持?
排行榜

熱門標(biāo)簽