简单的做个例子,框架路径可以自己修改,调用像百度等网站时无法读取其中源码,涉及到一些安全问题,所以路径要求是合法的允许访问的路径 function GetFrameInnerHtml(objIFrame) { var iFrameHTML = ""; if (objIFramecontentDocument) { //针
一个月前实习导师布置任务说通过网络爬虫获取深圳市气象局发布的降雨数据,网页如下:
心想,爬虫不太难的,当年跟zjb爬煎蛋网无(mei)聊(zi)图的时候,多么清高。由于接受任务后的一个月考试加作业一大堆,导师也不催,自己也不急。
但是,导师等我一个月都得让我来写意味着这东西得有多难吧。。。今天打开一看的确是这样。网站是基于Ajax写的,数据动态获取,所以无法通过下载源代码然后解析获得。
从某不良少年写的抓取淘宝mm的例子中收到启发,对于这样的情况,一般可以同构自己搭建浏览器实现。phantomJs,CasperJS都是不错的选择。
导师的要求是获取过去一年内深圳每个区每个站点每小时的降雨量,执行该 *** 作需要通过如上图中的历史查询实现,即通过一个时间来查询,而这个时间存放在一个hidden类型的input标签里,当然可以通过js语句将其改为text类型,然后执行send_keys之类的 *** 作。然而,我失败了。时间可以修改设置,可是结果如下图。
为此,仅抓取实时数据。选取python的selenium,模拟搭建浏览器,模拟人为的点击等 *** 作实现数据生成和获取。selenium的一大优点就是能获取网页渲染后的源代码,即执行 *** 作后的源代码。普通的通过 url解析网页的方式只能获取给定的数据,不能实现与用户之间的交互。selenium通过获取渲染后的网页源码,并通过丰富的查找工具,个人认为最好用的就是find_element_by_xpath("xxx"),通过该方式查找到元素后可执行点击、输入等事件,进而向服务器发出请求,获取所需的数据。
[python] view plain copy
# coding=utf-8
from testString import
from selenium import webdriver
import string
import os
from seleniumwebdrivercommonkeys import Keys
import time
import sys
default_encoding = 'utf-8'
if sysgetdefaultencoding() != default_encoding:
reload(sys)
syssetdefaultencoding(default_encoding)
district_navs = ['nav2','nav1','nav3','nav4','nav5','nav6','nav7','nav8','nav9','nav10']
district_names = ['福田区','罗湖区','南山区','盐田区','宝安区','龙岗区','光明新区','坪山新区','龙华新区','大鹏新区']
flag = 1
while (flag > 0):
driver = webdriverChrome()
driverget("hianCe/")
# 选择降雨量
driverfind_element_by_xpath("//span[@id='fenqu_H24R']")click()
filename = timestrftime("%Y%m%d%H%M", timelocaltime(timetime())) + 'txt'
#创建文件
output_file = open(filename, 'w')
# 选择行政区
for i in range(len(district_navs)):
driverfind_element_by_xpath("//div[@id='" + district_navs[i] + "']")click()
# print driverpage_source
timeElem = driverfind_element_by_id("time_shikuang")
#输出时间和站点名
output_filewrite(timeElemtext + ',')
output_filewrite(district_names[i] + ',')
elems = driverfind_elements_by_xpath("//span[@onmouseover='javscript:changeTextOver(this)']")
#输出每个站点的数据,格式为:站点名,一小时降雨量,当日累积降雨量
for elem in elems:
output_filewrite(AMonitorRecord(elemget_attribute("title")) + ',')
output_filewrite('\n')
output_fileclose()
driverclose()
timesleep(3600)
文件中引用的文件testString只是修改输出格式,提取有效数据。[python] view plain copy
#Encoding=utf-8
def OnlyCharNum(s, oth=''):
s2 = slower()
fomart = 'abcdefghijklmnopqrstuvwxyz0123456789,'
for c in s2:
if not c in fomart:
s = sreplace(c, '')
return s
def AMonitorRecord(str):
str = strsplit(":")
return str[0] + "," + OnlyCharNum(str[1])
一小时抓取一次数据,结果如下:
使用python源文件的几种方法\运行python脚本:
a windows下打开shell(DOS提示符,命令行,cmd):
CMD命令进入某个目录
如在window 下cmd运行python源文件 xxxpy(注意这个xxxpy在C盘的python27目录下,若是其它盘的目录,就进入其它盘的目录来运行xxxpy):
打开cmd
输入c: 回车
输入cd c:/python27/ 回车 (ps:cd后面没有冒号!,如果需要在dos下查看带有空格的文件夹,要给文件夹加上引号如:CD "Program Files"/PHP )
输入python xxxpy 或者 xxxpy 回车
这是在找到文件路径下去执行某文件,直接在cmd,python环境下输入python xxxpy 会运行语法错误,不知是否是系统的环境变量没有添加好?
在linux下参见vamei :python 基础
另附:cmd命令
1进入上一层目录 CD /
2显示目录下的文件及了目录 dir
bLinux下运行python源文件:
$ python xxxpy
c在IDLE下运行python源文件
点击开始->程序->Python 27->IDLE(Python GUI)
点击file->open->xxxpy
ctrl+F5
quit()是退出程序
d在IDLE里,可以通过os执行系统命令,执行python源文件:
import os
ossystem('python c:/xxxpy')
e 直接双击xxxpy
双击xxxpy,窗口一闪而过。很像VC运行时的Ctrl+F5对不对?那怎么办呢?(非windows系统可以跳过,不用此技巧)
这里我们在代码里加入一句话raw_input(),就可以。
以上就是关于用Python怎么得到网页中iframe的源代码全部的内容,包括:用Python怎么得到网页中iframe的源代码、python爬虫怎么获取动态的网页源码、python文件的源代码文件夹怎么打开等相关内容解答,如果想了解更多相关内容,可以关注我们,你们的支持是我们更新的动力!
欢迎分享,转载请注明来源:内存溢出
评论列表(0条)