星空网 > 软件开发 > Java

使用NodeJS+AngularJS+MongoDB实现一个Web数据扒取

说到Web爬虫,Python占了半壁江山。但是Web页面不是Python的强项了,如果需要扒取Web数据,再Mashup出来一个自己的系统,全端JS是个不错的解决方案(其实不用Python扒数据是因为我只能熟练掌握Python的HelloWorld编写)。

那么开始做了。

00.要做一只麻雀

想做一个五脏俱全的系统先设计一下结构吧。思路是要扒数据先要配置怎么扒,然后去把扒来的数据处理成想要的东西,再然后存起来慢慢蹂躏。来张UML活动图压压惊。数据CRUD和如何展现不在设计图中,这部分打算做一个类似于数据库可视化工具的东西,可配置好操作的Web页面。

使用NodeJS+AngularJS+MongoDB实现一个Web数据扒取

01.来一桶万金油

JS函数也是对象,而且惊讶的发现MongoDB也可以存Function,这让我觉得把所有的逻辑抽象成配置是有可能实现的。设想一下,数据分析的逻辑如果存到数据库里,执行的时候一把抓出来,call或者apply一下,结果就出来了,岂不是很酷炫?然而鄙人对JS才疏学浅,只是设想,至于怎么做,慢慢来吧。

10.先夯地基

核心是数据,数据的灵活存储和展示是基础。见过的框架都是把ORM不是写在

 




原标题:使用NodeJS+AngularJS+MongoDB实现一个Web数据扒取

关键词:JS

JS
*特别声明:以上内容来自于网络收集,著作权属原作者所有,如有侵权,请联系我们: admin#shaoqun.com (#换成@)。
相关文章
我的浏览记录
最新相关资讯
海外公司注册 | 跨境电商服务平台 | 深圳旅行社 | 东南亚物流