python爬虫入门（一）urllib和urllib2_随笔

python爬虫入门（一）urllib和urllib2 爬虫简介

什么是爬虫？

爬虫：就是抓取网页数据的程序。

HTTP和HTTPS

HTTP协议（HyperText Transfer Protocol，超文本传输协议）：是一种发布和接收 HTML页面的方法。

HTTPS（Hypertext Transfer Protocol over Secure Socket Layer）简单讲是HTTP的安全版，在HTTP下加入SSL层。

SSL（Secure Sockets Layer 安全套接层）主要用于Web的安全传输协议，在传输层对网络连接进行加密，保障在Internet上数据传输的安全。

浏览器发送HTTP请求的过程：

当用户在浏览器的地址栏中输入一个URL并按回车键之后，浏览器会向HTTP服务器发送HTTP请求。

HTTP请求主要分为“Get”和“Post”两种方法。
当我们在浏览器输入URL http://www.baidu.com 的时候，浏览器发送一个Request请求去获取 http://www.baidu.com 的html文件，服务器把Response文件对象发送回给浏览器。
浏览器分析Response中的 HTML，发现其中引用了很多其他文件，比如Images文件，CSS文件，JS文件。

浏览器会自动再次发送Request去获取图片，CSS文件，或者JS文件。
当所有的文件都下载成功后，网页会根据HTML语法结构，完整的显示出来了。

URL（Uniform / Universal Resource Locator的缩写）

定义：统一资源定位符，是用于完整地描述Internet上网页和其他资源的地址的一种标识方法。

基本格式：scheme://host[:port#]/path/…/[?query-string][#anchor]

scheme：协议(例如：http, https, ftp)
host：服务器的IP地址或者域名
port#：服务器的端口（如果是走协议默认端口，缺省端口80）
path：访问资源的路径
query-string：参数，发送给http服务器的数据
anchor：锚（跳转到网页的指定锚点位置）

客户端HTTP请求

URL只是标识资源的位置，而HTTP是用来提交和获取资源。

客户端发送一个HTTP请求到服务器的请求消息，包括以下格式：

请求行、请求头部、空行、请求数据

一个典型的HTTP请求

GET https://www.baidu.com/ HTTP/1.1

Host: www.baidu.com

Connection: keep-alive

Upgrade-Insecure-Requests: 1

User-Agent: Mozilla/5.0 (Windows NT 6.1; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/60.0.3112.101 Safari/537.36

Accept: text/html,application/xhtml+xml,application/xml;q=0.9,image/webp,image/apng,*/*;q=0.8

Accept-Encoding: gzip, deflate, br

Accept-Language: zh,zh-CN;q=0.8,ar;q=0.6,zh-TW;q=0.4

Cookie: BAIDUID=AE4D1DA6B2D6689BB8C557B3436893E3:FG=1; BIDUPSID=AE4D1DA6B2D6689BB8C557B3436893E3; PSTM=1501466227; BD_UPN=12314353; BD_CK_SAM=1; PSINO=1; H_PS_PSSID=1420_25548_21080_20929; BDORZ=B490B5EBF6F3CD402E515D22BCDA1598; BDSVRTM=0

1. Host (主机和端口号) Host：对应网址URL中的Web名称和端口号，用于指定被请求资源的Internet主机和端口号，通常属于URL的一部分。

2. Connection (链接类型) Connection：表示客户端与服务连接类型 Client 发起一个包含 Connection:keep-alive 的请求，HTTP/1.1使用 keep-alive 为默认值。

Server收到请求后：
如果 Server 支持 keep-alive，回复一个包含 Connection:keep-alive 的响应，不关闭连接；
如果 Server 不支持 keep-alive，回复一个包含 Connection:close 的响应，关闭连接。

如果client收到包含 Connection:keep-alive 的响应，向同一个连接发送下一个请求，直到一方主动关闭连接。

keep-alive在很多情况下能够重用连接，减少资源消耗，缩短响应时间，比如当浏览器需要多个文件时(比如一个HTML文件和相关的图形文件)，不需要每次都去请求建立连接。

3. Upgrade-Insecure-Requests (升级为HTTPS请求) Upgrade-Insecure-Requests：升级不安全的请求，意思是会在加载 http 资源时自动替换成 https 请求，让浏览器不再显示https页面中的http请求警报。

HTTPS 是以安全为目标的 HTTP 通道，所以在 HTTPS 承载的页面上不允许出现 HTTP 请求，一旦出现就是提示或报错。

4. User-Agent (浏览器名称) User-Agent：是客户浏览器的名称，以后会详细讲。

5. Accept (传输文件类型) Accept：指浏览器或其他客户端可以接受的MIME（Multipurpose Internet Mail Extensions（多用途互联网邮件扩展））文件类型，服务器可以根据它判断并返回适当的文件格式。

举例： Accept: */*：表示什么都可以接收。

Accept：image/gif：表明客户端希望接受GIF图像格式的资源； Accept：text/html：表明客户端希望接受html文本。

Accept: text/html, application/xhtml+xml;q=0.9, image/*;q=0.8：表示浏览器支持的 MIME 类型分别是 html文本、xhtml和xml文档、所有的图像格式资源。

q是权重系数，范围 0 =< q <= 1，q 值越大，请求越倾向于获得其“;”之前的类型表示的内容。

若没有指定q值，则默认为1，按从左到右排序顺序；若被赋值为0，则用于表示浏览器不接受此内容类型。

Text：用于标准化地表示的文本信息，文本消息可以是多种字符集和或者多种格式的；Application：用于传输应用程序数据或者二进制数据。

详细请点击
6. Referer (页面跳转处) Referer：表明产生请求的网页来自于哪个URL，用户是从该 Referer页面访问到当前请求的页面。

这个属性可以用来跟踪Web请求来自哪个页面，是从什么网站来的等。

有时候遇到下载某网站图片，需要对应的referer，否则无法下载图片，那是因为人家做了防盗链，原理就是根据referer去判断是否是本网站的地址，如果不是，则拒绝，如果是，就可以下载；
7. Accept-Encoding（文件编解码格式） Accept-Encoding：指出浏览器可以接受的编码方式。

编码方式不同于文件格式，它是为了压缩文件并加速文件传递速度。

浏览器在接收到Web响应之后先解码，然后再检查文件格式，许多情形下这可以减少大量的下载时间。

举例：Accept-Encoding:gzip;q=1.0, identity; q=0.5, *;q=0 如果有多个Encoding同时匹配, 按照q值顺序排列，本例中按顺序支持 gzip, identity压缩编码，支持gzip的浏览器会返回经过gzip编码的HTML页面。

如果请求消息中没有设置这个域服务器假定客户端对各种内容编码都可以接受。

8. Accept-Language（语言种类） Accept-Langeuage：指出浏览器可以接受的语言种类，如en或en-us指英语，zh或者zh-cn指中文，当服务器能够提供一种以上的语言版本时要用到。

9. Accept-Charset（字符编码） Accept-Charset：指出浏览器可以接受的字符编码。

举例：Accept-Charset:iso-8859-1,gb2312,utf-8 ISO8859-1：通常叫做Latin-1。

Latin-1包括了书写所有西方欧洲语言不可缺少的附加字符，英文浏览器的默认值是ISO-8859-1.
gb2312：标准简体中文字符集;
utf-8：UNICODE 的一种变长字符编码，可以解决多种语言文本显示问题，从而实现应用国际化和本地化。

如果在请求消息中没有设置这个域，缺省是任何字符集都可以接受。

10. Cookie （Cookie） Cookie：浏览器用这个属性向服务器发送Cookie。

Cookie是在浏览器中寄存的小型数据体，它可以记载和服务器相关的用户信息，也可以用来实现会话功能，以后会详细讲。

11. Content-Type (POST数据类型) Content-Type：POST请求里用来表示的内容类型。

举例：Content-Type = Text/XML; charset=gb2312：指明该请求的消息体中包含的是纯文本的XML类型的数据，字符编码采用“gb2312”。

常用请求报头

服务器和客户端的交互仅限于请求/响应过程，结束之后便断开，在下一次请求时，服务器会认为新的客户端。

为了维护他们之间的链接，让服务器知道这是前一个用户发送的请求，必须在一个地方保存客户端的信息。

Cookie：通过在客户端记录的信息确定用户的身份。

Session：通过在服务器端记录的信息确定用户的身份。

cookie和session

HTTP请求方法

序号方法描述
1 GET 请求指定的页面信息，并返回实体主体。

2 HEAD 类似于get请求，只不过返回的响应中没有具体的内容，用于获取报头
3 POST 向指定资源提交数据进行处理请求（例如提交表单或者上传文件），数据被包含在请求体中。

POST请求可能会导致新的资源的建立和/或已有资源的修改。

4 PUT 从客户端向服务器传送的数据取代指定的文档的内容。

5 DELETE 请求服务器删除指定的页面。

6 CONNECT HTTP/1.1协议中预留给能够将连接改为管道方式的代理服务器。

7 OPTIONS 允许客户端查看服务器的性能。

8 TRACE 回显服务器收到的请求，主要用于测试或诊断。

主要方法get和post请求

GET是从服务器上获取数据，POST是向服务器传送数据
GET请求参数显示，都显示在浏览器网址上，HTTP服务器根据该请求所包含URL中的参数来产生响应内容，即“Get”请求的参数是URL的一部分。

例如： http://www.baidu.com/s?wd=Chinese
POST请求参数在请求体当中，消息长度没有限制而且以隐式的方式进行发送，通常用来向HTTP服务器提交量比较大的数据（比如请求中包含许多参数或者文件上传 *** 作等），请求的参数包含在“Content-Type”消息头里，指明该消息体的媒体类型和编码.

HTTP响应状态码

1xx:信息 100 Continue
服务器仅接收到部分请求，但是一旦服务器并没有拒绝该请求，客户端应该继续发送其余的请求。

101 Switching Protocols
服务器转换协议：服务器将遵从客户的请求转换到另外一种协议。

2xx:成功 200 OK
请求成功（其后是对GET和POST请求的应答文档）
201 Created
请求被创建完成，同时新的资源被创建。

202 Accepted
供处理的请求已被接受，但是处理未完成。

203 Non-authoritative Information
文档已经正常地返回，但一些应答头可能不正确，因为使用的是文档的拷贝。

204 No Content
没有新文档。

浏览器应该继续显示原来的文档。

如果用户定期地刷新页面，而Servlet可以确定用户文档足够新，这个状态代码是很有用的。

205 Reset Content
没有新文档。

但浏览器应该重置它所显示的内容。

用来强制浏览器清除表单输入内容。

206 Partial Content
客户发送了一个带有Range头的GET请求，服务器完成了它。

3xx:重定向 300 Multiple Choices
多重选择。

链接列表。

用户可以选择某链接到达目的地。

最多允许五个地址。

301 Moved Permanently
所请求的页面已经转移至新的url。

302 Moved Temporarily
所请求的页面已经临时转移至新的url。

303 See Other
所请求的页面可在别的url下被找到。

304 Not Modified
未按预期修改文档。

客户端有缓冲的文档并发出了一个条件性的请求（一般是提供If-Modified-Since头表示客户只想比指定日期更新的文档）。

服务器告诉客户，原来缓冲的文档还可以继续使用。

305 Use Proxy
客户请求的文档应该通过Location头所指明的代理服务器提取。

306 Unused
此代码被用于前一版本。

目前已不再使用，但是代码依然被保留。

307 Temporary Redirect
被请求的页面已经临时移至新的url。

4xx:客户端错误 400 Bad Request
服务器未能理解请求。

401 Unauthorized
被请求的页面需要用户名和密码。

401.1
登录失败。

401.2
服务器配置导致登录失败。

401.3
由于 ACL 对资源的限制而未获得授权。

401.4
筛选器授权失败。

401.5
ISAPI/CGI 应用程序授权失败。

401.7
访问被 Web 服务器上的 URL 授权策略拒绝。

这个错误代码为 IIS 6.0 所专用。

402 Payment Required
此代码尚无法使用。

403 Forbidden
对被请求页面的访问被禁止。

403.1
执行访问被禁止。

403.2
读访问被禁止。

403.3
写访问被禁止。

403.4
要求 SSL。

403.5
要求 SSL 128。

403.6
IP 地址被拒绝。

403.7
要求客户端证书。

403.8
站点访问被拒绝。

403.9
用户数过多。

403.10
配置无效。

403.11
密码更改。

403.12
拒绝访问映射表。

403.13
客户端证书被吊销。

403.14
拒绝目录列表。

403.15
超出客户端访问许可。

403.16
客户端证书不受信任或无效。

403.17
客户端证书已过期或尚未生效。

403.18
在当前的应用程序池中不能执行所请求的 URL。

这个错误代码为 IIS 6.0 所专用。

403.19
不能为这个应用程序池中的客户端执行 CGI。

这个错误代码为 IIS 6.0 所专用。

403.20
Passport 登录失败。

这个错误代码为 IIS 6.0 所专用。

404 Not Found
服务器无法找到被请求的页面。

404.0
没有找到文件或目录。

404.1
无法在所请求的端口上访问 Web 站点。

404.2
Web 服务扩展锁定策略阻止本请求。

404.3
MIME 映射策略阻止本请求。

405 Method Not Allowed
请求中指定的方法不被允许。

406 Not Acceptable
服务器生成的响应无法被客户端所接受。

407 Proxy Authentication Required
用户必须首先使用代理服务器进行验证，这样请求才会被处理。

408 Request Timeout
请求超出了服务器的等待时间。

409 Conflict
由于冲突，请求无法被完成。

410 Gone
被请求的页面不可用。

411 Length Required
"Content-Length" 未被定义。

如果无此内容，服务器不会接受请求。

412 Precondition Failed
请求中的前提条件被服务器评估为失败。

413 Request Entity Too Large
由于所请求的实体的太大，服务器不会接受请求。

414 Request-url Too Long
由于url太长，服务器不会接受请求。

当post请求被转换为带有很长的查询信息的get请求时，就会发生这种情况。

415 Unsupported Media Type
由于媒介类型不被支持，服务器不会接受请求。

416 Requested Range Not Satisfiable
服务器不能满足客户在请求中指定的Range头。

417 Expectation Failed
执行失败。

423
锁定的错误。

5xx:服务器错误 500 Internal Server Error
请求未完成。

服务器遇到不可预知的情况。

500.12
应用程序正忙于在 Web 服务器上重新启动。

500.13
Web 服务器太忙。

500.15
不允许直接请求 Global.asa。

500.16
UNC 授权凭据不正确。

这个错误代码为 IIS 6.0 所专用。

500.18
URL 授权存储不能打开。

这个错误代码为 IIS 6.0 所专用。

500.100
内部 ASP 错误。

501 Not Implemented
请求未完成。

服务器不支持所请求的功能。

502 Bad Gateway
请求未完成。

服务器从上游服务器收到一个无效的响应。

502.1
CGI 应用程序超时。

　·
502.2
CGI 应用程序出错。

503 Service Unavailable
请求未完成。

服务器临时过载或当机。

504 Gateway Timeout
网关超时。

505 HTTP Version Not Supported
服务器不支持请求中指明的HTTP协议版本

浏览器内核

浏览器                         内核

IE                           Trident

Chrome                       Webkit

Firefox                      Gecho

Opera                        Pesto

Safari(Apple)                Webkit

HTTP代理工具Fiddler
Fiddler是一款强大Web调试工具，它能记录所有客户端和服务器的HTTP请求.

Request部分详解

Headers —— 显示客户端发送到服务器的 HTTP 请求的 header，显示为一个分级视图，包含了 Web 客户端信息、Cookie、传输状态等。

Textview —— 显示 POST 请求的 body 部分为文本。

WebForms —— 显示请求的 GET 参数和 POST body 内容。

HexView —— 用十六进制数据显示请求。

Auth —— 显示响应 header 中的 Proxy-Authorization(代理身份验证) 和 Authorization(授权) 信息.

Raw —— 将整个请求显示为纯文本。

JSON - 显示JSON格式文件。

XML —— 如果请求的 body 是 XML 格式，就是用分级的 XML 树来显示它。

Responser部分详解

Transformer —— 显示响应的编码信息。

Headers —— 用分级视图显示响应的 header。

TextView —— 使用文本显示相应的 body。

ImageVies —— 如果请求是图片资源，显示响应的图片。

HexView —— 用十六进制数据显示响应。

WebView —— 响应在 Web 浏览器中的预览效果。

Auth —— 显示响应 header 中的 Proxy-Authorization(代理身份验证) 和 Authorization(授权) 信息。

Caching —— 显示此请求的缓存信息。

Privacy —— 显示此请求的私密 (P3P) 信息。

Raw —— 将整个响应显示为纯文本。

JSON - 显示JSON格式文件。

XML —— 如果响应的 body 是 XML 格式，就是用分级的 XML 树来显示它。

了解了这些知识后，接下来真正迈向爬虫之路.......

urllib2

所谓网页抓取，就是把URL地址中指定的网络资源从网络流中读取出来，保存到本地。

在Python中有很多库可以用来抓取网页，先学习urllib2。

urllib2模块直接导入就可以用，在python3中urllib2被改为urllib.request

开始爬虫需要准备的一些工具

（1）下载Fiddeler抓包工具，百度直接下载安装就可以（抓包）

（2）下载chrome浏览器代理插件 Proxy-SwitchyOmega（代理）

（3）下载chrome浏览器插件XPath（解析HTML）

（4）工具网站：

　　　　　　http://www.json.cn/ (json解析网站)

　　　　　　http://tool.chinaz.com/tools/urlencode.aspx （url编码解码网站）

先写个简单的爬虫百度页面

urlopen

# _*_ coding:utf-8 _*_

import urllib2

#向指定的url地址发送请求，并返回服务器响应的类文件对象

response = urllib2.urlopen('http://www.baidu.com/')

#服务器返回的类文件对象支持python文件对象的 *** 作方法

#read()方法就是读取文件里的全部内容，返回字符串

html = response.read()

print html

urllib2默认的User-Agent是Python-urllib/2.7,容易被检查到是爬虫，所以我们要构造一个请求对象，要用到request方法。

模拟浏览器访问

浏览器访问时通过抓包工具获得的headers信息如下：

GET https://www.baidu.com/ HTTP/1.1

Host: www.baidu.com

Connection: keep-alive

Cache-Control: max-age=0

Upgrade-Insecure-Requests: 1

User-Agent: Mozilla/5.0 (Windows NT 6.1; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/60.0.3112.101 Safari/537.36

Accept: text/html,application/xhtml+xml,application/xml;q=0.9,image/webp,image/apng,*/*;q=0.8

Accept-Encoding: gzip, deflate, br

Accept-Language: zh,zh-CN;q=0.8,ar;q=0.6,zh-TW;q=0.4

Cookie: BAIDUID=AE4D1DA6B2D6689BB8C557B3436893E3:FG=1; BIDUPSID=AE4D1DA6B2D6689BB8C557B3436893E3; PSTM=1501466227; BD_CK_SAM=1; PSINO=1; BDORZ=B490B5EBF6F3CD402E515D22BCDA1598; BD_HOME=0; H_PS_PSSID=1420_25548_21080_20929; BD_UPN=12314353

我们要设置User-Agent模仿浏览器去访问数据

# _*_ coding:utf-8 _*_

import urllib2

# User-Agent是爬虫与反爬虫的第一步

ua_headers = {'User-Agent':'Mozilla/5.0 (Windows NT 6.1; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/60.0.3112.101 Safari/537.36'}

# 通过urllib2.Request()方法构造一个请求对象

request = urllib2.Request('http://www.baidu.com/',headers=ua_headers)

#向指定的url地址发送请求，并返回服务器响应的类文件对象

response = urllib2.urlopen(request)

# 服务器返回的类文件对象支持python文件对象的 *** 作方法

# read()方法就是读取文件里的全部内容，返回字符串

html = response.read()

print html

Request总共三个参数，除了必须要有url参数，还有下面两个：

data（默认空）：是伴随 url 提交的数据（比如要post的数据），同时 HTTP 请求将从 "GET"方式改为 "POST"方式。
headers（默认空）：是一个字典，包含了需要发送的HTTP报头的键值对。

response的常用方法

# _*_ coding:utf-8 _*_

import urllib2

# User-Agent是爬虫与反爬虫的第一步

ua_headers = {'User-Agent':'Mozilla/5.0 (Windows NT 6.1; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/60.0.3112.101 Safari/537.36'}

# 通过urllib2.Request()方法构造一个请求对象

request = urllib2.Request('http://www.baidu.com/',headers=ua_headers)

#向指定的url地址发送请求，并返回服务器响应的类文件对象

response = urllib2.urlopen(request)

# 服务器返回的类文件对象支持python文件对象的 *** 作方法

# read()方法就是读取文件里的全部内容，返回字符串

html = response.read()

# 返回HTTP的响应吗，成功返回200,4服务器页面出错，5服务器问题

print response.getcode()     #

# 返回数据的实际url,防止重定向

print response.geturl()     #https://www.baidu.com/

# 返回服务器响应的HTTP报头

print response.info()

# print html

随机选择一个Use-Agent

为了防止封IP，先生成一个user-agent列表，然后从中随机选择一个

# _*_ coding:utf-8 _*_

import urllib2

import random

url = 'http:/www.baidu.com/'

# 可以试User-Agent列表，也可以是代理列表

ua_list = ["Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.1 (KHTML, like Gecko) Chrome/22.0.1207.1 Safari/537.1",

    "Mozilla/5.0 (X11; CrOS i686 2268.111.0) AppleWebKit/536.11 (KHTML, like Gecko) Chrome/20.0.1132.57 Safari/536.11",

    "Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/536.6 (KHTML, like Gecko) Chrome/20.0.1092.0 Safari/536.6",

    "Mozilla/5.0 (Windows NT 6.2) AppleWebKit/536.6 (KHTML, like Gecko) Chrome/20.0.1090.0 Safari/536.6",

    "Mozilla/5.0 (Windows NT 6.2; WOW64) AppleWebKit/537.1 (KHTML, like Gecko) Chrome/19.77.34.5 Safari/537.1",

    "Mozilla/5.0 (X11; Linux x86_64) AppleWebKit/536.5 (KHTML, like Gecko) Chrome/19.0.1084.9 Safari/536.5",

    "Mozilla/5.0 (Windows NT 6.0) AppleWebKit/536.5 (KHTML, like Gecko) Chrome/19.0.1084.36 Safari/536.5",

    "Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/536.3 (KHTML, like Gecko) Chrome/19.0.1063.0 Safari/536.3",

    "Mozilla/5.0 (Windows NT 5.1) AppleWebKit/536.3 (KHTML, like Gecko) Chrome/19.0.1063.0 Safari/536.3",

    "Mozilla/5.0 (Macintosh; Intel Mac OS X 10_8_0) AppleWebKit/536.3 (KHTML, like Gecko) Chrome/19.0.1063.0 Safari/536.3",

    "Mozilla/5.0 (Windows NT 6.2) AppleWebKit/536.3 (KHTML, like Gecko) Chrome/19.0.1062.0 Safari/536.3",

    "Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/536.3 (KHTML, like Gecko) Chrome/19.0.1062.0 Safari/536.3",

    "Mozilla/5.0 (Windows NT 6.2) AppleWebKit/536.3 (KHTML, like Gecko) Chrome/19.0.1061.1 Safari/536.3",

    "Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/536.3 (KHTML, like Gecko) Chrome/19.0.1061.1 Safari/536.3",

    "Mozilla/5.0 (Windows NT 6.1) AppleWebKit/536.3 (KHTML, like Gecko) Chrome/19.0.1061.1 Safari/536.3",

    "Mozilla/5.0 (Windows NT 6.2) AppleWebKit/536.3 (KHTML, like Gecko) Chrome/19.0.1061.0 Safari/536.3",

    "Mozilla/5.0 (X11; Linux x86_64) AppleWebKit/535.24 (KHTML, like Gecko) Chrome/19.0.1055.1 Safari/535.24",

    "Mozilla/5.0 (Windows NT 6.2; WOW64) AppleWebKit/535.24 (KHTML, like Gecko) Chrome/19.0.1055.1 Safari/535.24"

]

# 在User-Agent列表中随机选择一个User-Agent

user_agent = random.choice(ua_list)

# 构造一个请求

request = urllib2.Request(url)

# add_header()方法添加/修改一个HTTP报头

request.add_header('User-Agent',user_agent)

#get_header()获取一个已有的HTTP报头的值,注意只能第一个字母大写，后面的要小写

print request.get_header('User-agent')

urllib和urllib2的主要区别

urllib和urllib2都是接受URL请求的相关模块，但是提供了不同的功能，最显著的区别如下：

（1）urllib仅可以接受URL，不能创建，设置headers的request类实例；

（2）但是urllib提供urlencode()方法用来GET查询字符串的产生，而urllib2则没有（这是urllib和urllib2经常一起使用的主要原因）

（3）编码工作使用urllib的urlencode()函数，帮我们讲key:value这样的键值对转换成‘key=value’这样的字符串，解码工作可以使用urllib的unquote()

函数

urllib.encode()的使用

urlencode（）里面必须是字典类型

# _*_ coding:utf-8 _*_

import urllib

dic = {'derek':'编码'}

print urllib.urlencode(dic)    #derek=%E7%BC%96%E7%A0%81

m = urllib.urlencode(dic)

print urllib.unquote(m)         #derek=编码

一般HTTP请求提交数据，需要编码成 URL编码格式，然后做为url的一部分，或者作为参数传到Request对象中。

GET请求一般用于我们向服务器获取数据，比如说，我们用百度搜索知乎：https://www.baidu.com/s?wd=知乎

发现GEThttps://www.baidu.com/s?wd=%E7%9F%A5%E4%B9%8E，后面是一个长长的字符串,urldecode后发现就是知乎

用urllib.urlencode()进行转码，然后组合url

# _*_ coding:utf-8 _*_

import urllib,urllib2

url = 'http://www.baidu.com/s'

headers = {'UserAgent':'Mozilla'}

keyword = raw_input('请输入关键字:')

wd = urllib.urlencode({'wd':keyword})

fullurl = url + '?' + wd

print fullurl

request = urllib2.Request(fullurl,headers=headers)

response = urllib2.urlopen(request)

print response.read()

然后输入关键字，爬取下对应的内容

爬取贴吧内容

先了解贴吧url组成:

每个贴吧url都是以'https://tieba.baidu.com/f?'开头，然后是关键字 kw=‘’贴吧名字‘’，再后面是 &pn=页数（pn=0第一页，pn=50第二页，依次类推）

1.先写一个main，提示用户输入要爬取的贴吧名，并用urllib.urlencode()进行转码，然后组合url

2.接下来，写一个百度贴吧爬虫接口tiebaSpider()，需要传递3个参数给这个接口，一个是main里组合的url地址，以及起始页码和终止页码，表示要爬取页码的范围。

3.前面写出一个爬取一个网页的代码。

然后，将它封装成一个小函数loadPage（），供我们使用。

4.将爬取到的每页的信息存储在本地磁盘上，我们可以简单写一个存储文件的接口writePage()

# _*_ coding:utf-8 _*_

import urllib,urllib2

def loadPage(url,filename):

    #根据url发送请求，获取服务器响应文件

    print '正在下载' + filename

    headers = {'User-Agent':'Mozilla/5.0 (Windows NT 6.1; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/60.0.3112.101 Safari/537.36'}

    request = urllib2.Request(url,headers = headers)

    content = urllib2.urlopen(request).read()

    return content

def writePage(html,filename):

    #将html内容写入到本地

    print '正在保存' + filename

    with open(unicode(filename,'utf-8'),'w') as f:

        f.write(html)

    print '_' * 30

def tiebaSpider(url,beginPage,endPage):

    #贴吧爬虫调度器，负责组合处理每个页面的url

    for page in range(beginPage,endPage + 1):

        pn = (page - 1) * 50

        filename = '第' + str(page) + '页.html'

        fullurl = url + '&pn=' + str(pn)

        # print fullurl

        html = loadPage(fullurl,filename)

        writePage(html,filename)

if __name__ == '__main__':

    kw = raw_input('请输入贴吧名：')

    beginPage = int(raw_input('请输入起始页：'))

    endPage = int(raw_input('请输入结束页：'))

    url = 'https://tieba.baidu.com/f?'

    key = urllib.urlencode({'kw':kw})

    fullurl = url + key

    tiebaSpider(fullurl,beginPage,endPage)

通过输入想要搜索的贴吧名字，爬取内容并保存到本地

获取Ajax方式加载的数据

爬虫最需要关注的不是页面信息，而是页面信息的数据来源

Ajax方式加载的页面，数据来源一定是JSON，直接对AJAX地址进行post或get，拿到JSON，就是拿到了网页数据,

（1）先通过浏览器访问豆瓣电影排行榜

https://movie.douban.com/typerank?type_name=%E5%89%A7%E6%83%85&type=11&interval_id=100:90&action=

（2）浏览器访问后，通过抓包工具就可以获取我们想要的一些信息

只要response里面有 JSON数据，我们就可以找到服务器的数据来源

分析发现变动的是start value和limit value, type,interval_id,action，固定不变，这三个url中已经包含了，所以formdata只用传start和limit

import urllib

import urllib2

url = 'https://movie.douban.com/typerank?type_name=%E5%89%A7%E6%83%85&type=11&interval_id=100:90&action='

headers = {'User-Agent':'Mozilla/5.0 (Windows NT 6.1; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/60.0.3112.101 Safari/537.36'}

# start和limit可以自己随便设置

formdata = {'start':'','limit':''}

data = urllib.urlencode(formdata)

request = urllib2.Request(url,data = data,headers=headers)

response = urllib2.urlopen(request)

print response.read()

欢迎分享，转载请注明来源：内存溢出

原文地址: http://outofmemory.cn/zaji/586314.html

python爬虫入门（一）urllib和urllib2

发表评论

评论列表（0条）