输入cmd,点击确定按钮,打开cmd窗口
在cmd窗口中输入命令 python -m pip install scikit-image --user,安装skimage
在cmd窗口中巧告输入命令 python -m pip install scipy --user,安装scipy
安装完成后,打开代码编辑器,输入通过url打开图片嫌宽察的代芹茄码,如下图所示
按下F5运行程序
Python是一枣培衡门非常适合开发网络爬虫的编程语言,相比于其他静凳做态编程语言,Python抓取网页文档的接口更简洁相比于其他动态脚本语言,Python的urllib2包提供了较为完整的访问网页文档的API。此外,python中有优秀的第三方包可以高效实现网页抓取,并可用极短的代码完成网页的标签过滤功能。
Python爬虫架构组成:
1. URL管理器:管理待爬取的url集合和已爬取的url集合,传送待爬取的url给网页下载器
2. 网页下载器:爬取url对应的网页,存储成字符串,传送给网页解析器
3. 网页解析器:解析出有价值的数据,存储下来,同时补充url到URL管理器。
Python爬虫工作原理:
Python爬虫通过URL管理器,判断是否有待爬URL,如果有待爬URL,通过调度器进行传递给下载器,下载URL内容,并通过调度器传送给解析器,解析URL内容,并将价值数据和新URL列表通过调度器传递给应用程序,并输出价值信息的过程。
爬虫可以做什么?
你可以用爬虫爬图片,爬取视频等等你想要爬取的数据,只要你能通过浏览器访问的数据都可以通过爬虫获取。
Python爬虫常用框架有:
grab:网络爬虫框架
scrapy:网络爬虫框架,不支持Python3
pyspider:一个强大的爬虫系统
cola:一个分布式爬虫框架
portia:基于Scrapy的可视化爬虫
restkit:Python的HTTP资中颤源工具包。它可以让你轻松地访问HTTP资源,并围绕它建立的对象。
demiurge:基于PyQuery的爬虫微框架。
今天简单使用了一下python的re模块和lxml模块,分别利用的它们提供的正则表达式和xpath来解析页面橡衡源码从中提取所需的title,xpath在完成这样的小任务上效率非常好,在这里之所以又使用了一下正则表达式是因为xpath在处理一些特殊的页面的时候会出现乱码的情况,当然这不是xpath的原因,而是页面本身编码,跟utf-8转码之间有冲突所致,这里看代码:python抽举差取指定url页面的title方法(python获取当前页面的url) python 抽取 url title 脚本之家 第1张
# !/usr/bin/python
#-*-coding:utf-8-*-
'''
功能:抽取指定url的页面内容中的title
'''
import re
import chardet
import urllib
from lxml import etree
def utf8_transfer(strs):
'''
utf8编码转换
'''
try:
if isinstance(strs, unicode):
strs = strs.encode('utf-8')
elif chardet.detect(strs)['encoding'] == 'GB2312':
strs = strs.decode("gb2312", 'ignore').encode('utf-8')
elif chardet.detect(strs)['encoding'] == '正如皮utf-8':
strs = strs.decode('utf-8', 'ignore').encode('utf-8')
except Exception, e:
print 'utf8_transfer error', strs, e
return strs
def get_title_xpath(Html):
'''
用xpath抽取网页Title
'''
Html = utf8_transfer(Html)
Html_encoding = chardet.detect(Html)['encoding']
page = etree.HTML(Html, parser=etree.HTMLParser(encoding=Html_encoding
欢迎分享,转载请注明来源:内存溢出
评论列表(0条)