你的位置:首页 > Java教程

[Java教程]Node.js 爬虫初探


前言

      在学习慕课网视频和Cnode新手入门接触到爬虫,说是爬虫初探,其实并没有用到爬虫相关第三方类库,主要用了node.js基础模块http、网页分析工具cherrio。 使用http直接获取url路径对应网页资源,然后使用cherrio分析。 这里我主要是把慕课网教学视频提供的案例自己敲了一边,加深理解。在coding的过程中,我第一次把jq获取后的对象直接用forEach遍历,直接报错,是因为jq没有对应的这个方法,只有js数组可以调用。

 

知识点

    ①:superagent抓去网页工具。我暂时未用到。

    ②:cherrio 网页分析工具,你可以理解其为服务端的jQuery,因为语法都一样。

 

效果图

1、抓取整个网页

 

2、分析后的数据, 我这里是以慕课网提供的示例为案例实现的例子。

 

爬虫初探源码分析

var http=require('http');var cheerio=require('cheerio');var url='http://www.imooc.com/learn/348';/****************************打印得到的数据结构[{	chapterTitle:'',	videos:[{		title:'',		id:''	}]}]********************************/function printCourseInfo(courseData){	courseData.forEach(function(item){		var chapterTitle=item.chapterTitle;		console.log(chapterTitle+'\n');		item.videos.forEach(function(video){			console.log(' 【'+video.id+'】'+video.title+'\n');		})	});}/*************分析从网页里抓取到的数据**************/function filterChapter(html){	var courseData=[];	var $=cheerio.load(html);	var chapters=$('.chapter');	chapters.each(function(item){		var chapter=$(this);		var chapterTitle=chapter.find('strong').text(); //找到章节标题		var videos=chapter.find('.video').children('li');		var chapterData={			chapterTitle:chapterTitle,			videos:[]		};		videos.each(function(item){			var video=$(this).find('.studyvideo'); 			var title=video.text();			var id=video.attr('href').split('/video')[1];			chapterData.videos.push({				title:title,				id:id			})		})		courseData.push(chapterData);	});  return courseData;}http.get(url,function(res){	var html='';	res.on('data',function(data){		html+=data;	})	res.on('end',function(){		var courseData=filterChapter(html);		printCourseInfo(courseData);	})}).on('error',function(){	console.log('获取课程数据出错');})

 

参考资料

https://github.com/alsotang/node-lessons/tree/master/lesson3

http://www.imooc.com/video/7965