使用phantomjs进行网页抓取的实现代码

概述phantomjs因为是无头浏览器可以跑js，所以同样可以跑dom节点，用来进行网页抓取是再好不过了。

phantomJs因为是无头浏览器可以跑Js，所以同样可以跑dom节点，用来进行网页抓取是再好不过了。

比如我们要批量抓取网页 “历史上的今天” 的内容。网站

对dom结构的观察发现，我们只需要取到 .List li a的Title值即可。因此我们利用高级选择器构建dom片段

var d= ''var c = document.querySelectorAll('.List li a')var l = c.length;for(var i =0;i<l;i++){d=d+c[i].Title+'\n'}

之后只需要让Js代码在phantomJs里跑起来即可~

var page = require('webpage').create();	page.open('http://www.todayonhistory.com/',function (status) { //打开页面		if (status !== 'success') {			console.log('FAIL to load the address');		} else {			console.log(page.evaluate(function () {					var d= ''					var c = document.querySelectorAll('.List li a')					var l = c.length;					for(var i =0;i<l;i++){					d=d+c[i].Title+'\n'					}						return d				}))		}		phantom.exit();	});

最终我们另存为catch.Js，在dos里面执行一下，输出内容到txt文件(也可以用phantomJs的文件API来写)

总结

以上是内存溢出为你收集整理的使用phantomjs进行网页抓取的实现代码全部内容，希望文章能够帮你解决使用phantomjs进行网页抓取的实现代码所遇到的程序开发问题。

如果觉得内存溢出网站内容还不错，欢迎将内存溢出网站推荐给程序员好友。