成人在线亚洲_国产日韩视频一区二区三区_久久久国产精品_99国内精品久久久久久久

您的位置:首頁(yè)技術(shù)文章
文章詳情頁(yè)

node.js - node async寫(xiě)的爬蟲(chóng)小程序請(qǐng)求高手指導(dǎo)

瀏覽:214日期:2024-08-03 18:32:21

問(wèn)題描述

var cnodeUrl = 'https://segmentfault.com/';// 存放所有主題鏈接鏈接var topicUrls = [];/** * 所有的url請(qǐng)求完成后,ep控制異步結(jié)束,進(jìn)入每一個(gè)主題 */ep.after(’topic_html’, topicUrls.length, function(topics) { var concurrencyCount = 0; // 記錄并發(fā)數(shù) /** * 進(jìn)入主題,取得題目 * @callback topics [{title:’’}] */ var fetchUrl = function(myurl, callback) {var fetchStart = new Date().getTime();concurrencyCount++;console.log(’現(xiàn)在的并發(fā)數(shù)是’, concurrencyCount, ’,正在抓取的是’, myurl);superagent.get(myurl).end(function(err, ssres) { if (err) {callback(err, myurl + ’ error happened!’); } var time = new Date().getTime() - fetchStart; console.log(’抓取 ’ + myurl + ’ 成功’, ’,耗時(shí)’ + time + ’毫秒’); concurrencyCount--; var $ = cheerio.load(ssres.text); var reslut = {title: $(’.question__author>a>strong’).text(),answer: $(’#answers-title’).text() }; callback(null, result);}) } // 控制最大并發(fā)數(shù)為5,在結(jié)果中取出callback返回來(lái)的整個(gè)結(jié)果數(shù)組。 async.mapLimit(topicUrls, 5, function (myurl, callback) {fetchUrl(myurl, callback); }, function (err, result) {console.log(’===== result: ======n’, result);//res.send(result); });})// 獲得所有主題鏈接 topicUrlssuperagent.get(cnodeUrl).end(function(err, sres) { if(err) {return next(err); } var $ = cheerio.load(sres.text); $(’.stream-list’).each(function(idx, element) {var $element = $(element).find(’.title>a’);var href = url.resolve(cnodeUrl, $element.attr(’href’));topicUrls.push(href); }) console.log(’get authorUrls successful!n’, topicUrls); ep.emit(’topic_html’, ’get topicUrls successful’);})

得到的結(jié)果是:

node.js - node async寫(xiě)的爬蟲(chóng)小程序請(qǐng)求高手指導(dǎo)

請(qǐng)教一下哪里出了問(wèn)題?

問(wèn)題解答

回答1:

重寫(xiě)了下:

var async = require(’async’);var cheerio = require(’cheerio’);var superagent = require(’superagent’);var url = require(’url’);var cnodeUrl = 'https://segmentfault.com/';// 存放所有主題鏈接鏈接var topicUrls = [];// 獲得所有主題鏈接 topicUrlssuperagent.get(cnodeUrl).end(function(err, sres) { if(err) {return next(err); } var $ = cheerio.load(sres.text); $(’.stream-list__item’).each(function(idx, element) {var $element = $(element).find(’.title>a’);var href = url.resolve(cnodeUrl, $element.attr(’href’));topicUrls.push(href); }) // 控制最大并發(fā)數(shù)為5,在結(jié)果中取出callback返回來(lái)的整個(gè)結(jié)果數(shù)組。 async.mapLimit(topicUrls, 5, function (myurl, callback) {fetchUrl(myurl, callback); }, function (err, result) {console.log(’===== result: ======’, result); });})function fetchUrl(myurl,callback) { var fetchStart = new Date().getTime(); superagent.get(myurl).end(function(err, ssres) {if (err) { callback(err, myurl + ’ error happened!’);}var time = new Date().getTime() - fetchStart;console.log(’抓取 ’ + myurl + ’ 成功’, ’,耗時(shí)’ + time + ’毫秒’);// concurrencyCount--;var $ = cheerio.load(ssres.text);var reslut = { title: $(’.question__author>a>strong’).text(), answer: $(’#answers-title’).text()};callback(null, reslut); })}

你上面的代碼,我感覺(jué)你是參考

https://github.com/alsotang/node-lessons/blob/master/lesson4/app.js

這個(gè)課程寫(xiě)的吧,應(yīng)該是你用的eventproxy方式不正確

相關(guān)文章:
成人在线亚洲_国产日韩视频一区二区三区_久久久国产精品_99国内精品久久久久久久
亚洲国产精品一区| 亚洲综合精品久久| 一区二区欧美在线观看| 欧美一区免费视频| 欧美精品一区二| 精品制服美女丁香| 在线欧美日韩精品| 青青草国产成人av片免费| 久久欧美肥婆一二区| 同产精品九九九| 久久性天堂网| 丝袜美腿亚洲色图| 色综合久久久网| 日本免费在线视频不卡一不卡二| 久久久99爱| 日韩av网站在线观看| 久久久精品午夜少妇| 亚洲成人免费影院| 久久精品日产第一区二区 | 亚洲制服丝袜一区| 在线视频免费在线观看一区二区| 国产偷自视频区视频一区二区| 亚洲最大成人综合| 美女精品一区| 美国毛片一区二区三区| 在线视频中文字幕一区二区| 久久国产精品72免费观看| 欧美色图片你懂的| 韩国在线一区二区| 日韩欧美国产麻豆| 99这里只有久久精品视频| 久久综合色8888| 欧美日韩精选| 亚洲欧美aⅴ...| 鲁大师成人一区二区三区| 蜜臀国产一区二区三区在线播放| 欧美军同video69gay| 高潮精品一区videoshd| 91视视频在线直接观看在线看网页在线看| 久久精品视频网| 激情欧美丁香| 亚洲成人av中文| 欧美在线free| 国产精品一区二区男女羞羞无遮挡| 欧美一区二区精品久久911| 波多野结衣亚洲| 国产亚洲欧洲997久久综合 | 国产精品盗摄一区二区三区| 一区二区三区精品国产| 日韩一区精品视频| 欧美精选午夜久久久乱码6080| 高清成人在线观看| 国产精品视频一二三| 免费欧美日韩| 国产成人精品在线看| 久久夜色精品一区| 亚洲最新在线| 老司机精品视频一区二区三区| 欧美一区二区观看视频| 欧美成人69av| 亚洲成人激情综合网| 在线播放91灌醉迷j高跟美女 | 国产偷国产偷亚洲高清97cao| 午夜亚洲福利老司机| 在线电影院国产精品| 欧美精品入口| 亚洲一区二区三区激情| 日本丶国产丶欧美色综合| 国产夫妻精品视频| 国产精品人成在线观看免费 | 国产精品av久久久久久麻豆网| 亚洲一区二区综合| 欧美精选在线播放| 国产精品激情| 午夜av区久久| 欧美成人激情免费网| 亚洲激情一区二区三区| 免费在线观看日韩欧美| 国产午夜亚洲精品午夜鲁丝片| 最新日韩欧美| 国产一区二区在线观看视频| 国产精品灌醉下药二区| 欧美午夜精品久久久| 欧美精品亚洲| 久久精品久久综合| 国产精品欧美极品| 欧美唯美清纯偷拍| 欧美体内she精视频在线观看| 亚洲大片在线观看| 精品美女在线观看| 免费不卡亚洲欧美| 欧美一区二区三区四区夜夜大片| 日韩精品国产欧美| 久久综合久久久久88| 国产九九精品| av网站一区二区三区| 亚洲国产精品人人做人人爽| 日韩精品在线看片z| 亚洲一区高清| 972aa.com艺术欧美| 亚洲成人自拍偷拍| 久久精品在线观看| 欧美日韩一区久久| 一区二区三区成人精品| 成人精品视频网站| 日本美女一区二区| 国产精品情趣视频| 欧美一区二区三区性视频| 99热免费精品| 国产iv一区二区三区| 亚洲在线中文字幕| 国产亚洲1区2区3区| 欧美肥胖老妇做爰| 国产精品女主播一区二区三区| 99国产精品国产精品毛片| 日本欧美久久久久免费播放网| 国产精品久久久一本精品| 欧美人与z0zoxxxx视频| 国产一区二区高清| 午夜视频久久久| 国产精品自拍毛片| 视频在线观看一区| 日韩美女视频一区二区| 26uuu精品一区二区三区四区在线 26uuu精品一区二区在线观看 | 91精品国产综合久久久蜜臀粉嫩| 国产婷婷精品| 欧美.www| 国产成人精品免费视频网站| 日日噜噜夜夜狠狠视频欧美人 | 中文字幕精品在线不卡| 欧美日韩激情一区| 国产精品一区毛片| 欧美日韩ab| 成人激情小说网站| 国内久久婷婷综合| 免费成人结看片| 五月激情综合色| 亚洲乱码国产乱码精品精小说 | 麻豆91免费观看| 一区二区欧美在线观看| 国产精品天天摸av网| 欧美成人精品福利| 欧美日韩1234| 日本韩国欧美一区| 免费久久99精品国产自在现线| 亚洲大黄网站| 国产精品a级| 欧美精品播放| 91啪九色porn原创视频在线观看| 国产成人夜色高潮福利影视| 蜜臀a∨国产成人精品| 亚洲成人黄色小说| 亚洲尤物在线视频观看| 国产精品久久一级| 久久老女人爱爱| 日韩视频免费观看高清在线视频| 欧美日韩精品系列| 欧美伊人精品成人久久综合97 | 国产精品美女久久久| 狠狠爱成人网| 欧美搞黄网站| aaa亚洲精品一二三区| 国产成a人亚洲精| 国产一区二区中文字幕| 国内偷窥港台综合视频在线播放| 奇米综合一区二区三区精品视频| 亚洲成人动漫精品| 亚洲成人免费视| 亚洲成人黄色影院| 五月天欧美精品| 午夜免费欧美电影| 日韩精品国产欧美| 麻豆成人在线观看| 精品一区二区三区av| 老司机精品视频导航| 久久99精品久久久久婷婷| 久久99热狠狠色一区二区| 精品一区二区三区av| 久久99精品久久久久久| 久久99国产乱子伦精品免费| 精品在线观看视频| 国产乱子伦一区二区三区国色天香| 国产麻豆成人精品| www.性欧美| 欧美xxx在线观看| 精品91在线| 国产精品入口66mio| 色婷婷精品久久二区二区蜜臂av| 日本道色综合久久| 欧美日韩国产天堂| 欧美一级黄色录像| 久久男人中文字幕资源站| 国产精品美女www爽爽爽| 亚洲欧洲色图综合| 亚洲自拍偷拍综合| 日韩电影一区二区三区| 久久成人免费日本黄色| 国产精品一区二区视频| 成人精品免费看| 欧美一区亚洲|