基于Node.js的爬虫工具Node Crawler详解
沉沙 2018-07-26 来源 : 阅读 2600 评论 0

摘要:本篇Node.js教程探讨了基于Node.js的爬虫工具Node Crawler,希望阅读本篇文章以后大家有所收获,帮助大家对Node.js的理解更加深入。

Node Crawler的目标是成为最好的node.js爬虫工具,目前已经停止维护。

我们来抓取光合新知博客tech栏目中的文章信息。
访问//dev.guanghe.tv/category/tech/,右键查看页面源代码,可以看到文章信息等内容,如下所示:


<ul class="posts">

    <li>

        <span class="post-date">Dec 31, 2015</span>

        <a class="post-link" href="/2015/12/Getting-Started-With-React-And-JSX.html">React和JSX入门指导</a>

    </li>

    <li>

        <span class="post-date">Dec 30, 2015</span>

        <a class="post-link" href="/2015/12/ReactJS-For-Stupid-People.html">React 懒人教程</a>

    </li>

</ul>

因为每篇文章都是一个<li>标签,所以我们从页面代码的所有<li>中获取文章的发布时间、链接和标题。

爬虫代码:

var Crawler = require('crawler');

var crawler = new Crawler({

    maxConnections: 10,

    callback: function(err, result, $) {

        $('li').each(function(index, li) {

            console.log(index + ' :');

            console.log('time:' + $(li).children(0).text());

            console.log('url:' + result.uri + $(li).children(1).attr('href'));

            console.log('title:' + $(li).children(1).text());

        });

    }

});

crawler.queue('//dev.guanghe.tv/category/tech/');

npm install安装crawler模块,node app.js运行程序。
你将会获得如下内容(仅展示部分内容):

0 :

time:Dec 31, 2015

url://dev.guanghe.tv/category/tech//2015/12/Getting-Started-With-React-And-JSX.html

title:React和JSX入门指导

1 :

time:Dec 30, 2015

url://dev.guanghe.tv/category/tech//2015/12/ReactJS-For-Stupid-People.html

title:React 懒人教程

2 :

time:Dec 24, 2015

url://dev.guanghe.tv/category/tech//2015/12/iOSCustomProblem.html

title:iOS开发常见问题

3 :

time:Dec 17, 2015

url://dev.guanghe.tv/category/tech//2015/12/iOSXcodeDebug.html

title:Xcode Debug技巧


本文由职坐标整理并发布,希望对同学们有所帮助。了解更多详情请关注WEB前端Node.js频道!

本文由 @沉沙 发布于职坐标。未经许可,禁止转载。
喜欢 | 0 不喜欢 | 2
看完这篇文章有何感觉?已经有2人表态,0%的人喜欢 快给朋友分享吧~
评论(0)
后参与评论

您输入的评论内容中包含违禁敏感词

我知道了

助您圆梦职场 匹配合适岗位
验证码手机号,获得海同独家IT培训资料
选择就业方向:
人工智能物联网
大数据开发/分析
人工智能Python
Java全栈开发
WEB前端+H5

请输入正确的手机号码

请输入正确的验证码

获取验证码

您今天的短信下发次数太多了,明天再试试吧!

提交

我们会在第一时间安排职业规划师联系您!

您也可以联系我们的职业规划师咨询:

小职老师的微信号:z_zhizuobiao
小职老师的微信号:z_zhizuobiao

版权所有 职坐标-一站式IT培训就业服务领导者 沪ICP备13042190号-4
上海海同信息科技有限公司 Copyright ©2015 www.zhizuobiao.com,All Rights Reserved.
 沪公网安备 31011502005948号    

©2015 www.zhizuobiao.com All Rights Reserved

208小时内训课程