用python写的一个wordpress的采集程序

概述在学习python的过程中，经过不断的尝试及努力，终于完成了第一个像样的python程序，虽然还有很多需要优化的地方，但是目前基本上实现了我所要求的功能，先贴一下程序代码：

在学习python的过程中，经过不断的尝试及努力，终于完成了第一个像样的python程序，虽然还有很多需要优化的地方，但是目前基本上实现了我所要求的功能，先贴一下程序代码：

具体代码如下:

#! /usr/bin/python import os,urllib2,re,time,MysqLdb,sys reTitle          = re.compile('<Font[^>]*>(.*?)<\/Font><Font[^>]*') reNeiron         = re.compile('[1-9|A-Z|a-z].*') retiqu          = re.compile('^(?!marginWIDTH|BR).*.[^>|}]$') rezhong          = re.compile('^[^[].*') shijian=1190944000 Str1="\n---------------- BLOG OF YAO" bianhao=2859 for i in range(1,1500):     Str2=""     ltime=time.localtime(shijian)     timeStr=time.strftime("%Y%m%d",ltime)     url="http://www.jokeswarehouse.com/cgi-bin/vIEwjoke2.cgi?ID=%s" %timeStr     print url     a=urllib2.urlopen(url).read()     Title=reTitle.findall(a)     print "=========================================================================================================="     for Titles in map(None,Title):         Titles=MysqLdb.escape_string(Titles)         print Titles     Neiron=re.findall(reNeiron,a)     for i in map(None,Neiron):         x=re.findall(retiqu,i)         for str in x:             str=MysqLdb.escape_string(str)             Str2 += str+"\n"     shijian += 86400     bianhao += 1     try:         conn=MysqLdb.connect("XXXX.XXXX.XXXX.XXXX","user","passwd","dbname",charset="utf8",init_command="set names utf8")     except MysqLdb.OperationalError,message:         print "like error"     cursor=conn.cursor()     sql="INSERT INTO wp_posts (post_author,post_date,post_date_gmt,post_content,post_content_filtered,post_Title,post_excerpt,post_status,post_type,comment_status,Ping_status,post_password,post_name,to_Ping,Pinged,post_modifIEd,post_modifIEd_gmt,post_parent,menu_order,guID) VALUES (\'1\',\'2011-06-01 22:12:25\',\'2011-05-09 04:12:25\',\'\',\'auto Draft\',\'inherit\',\'revision\',\'open\',\'100-revision\',\'%s\',\'0\',\'\')" %bianhao     sql2="UPDATE wp_posts SET post_author = 1,post_date = \'2011-06-01 22:12:25\',post_date_gmt = \'2011-06-01 22:12:25\',post_content =\'%s\',post_content_filtered = \'\',post_Title = \'%s\',post_excerpt = \'\',post_status = \'publish\',post_type = \'post\',comment_status = \'open\',Ping_status = \'open\',post_password = \'\',post_name = \'%s\',to_Ping = \'\',Pinged = \'\',post_modifIEd = \'2011-06-01 22:12:25\',post_modifIEd_gmt = \'2011-05-09 04:12:30\',post_parent = 0,menu_order = 0,guID = \'http://www.moncleronlineshops.com/?p=%s\' WHERE ID = %s" %(Str2,Titles,bianhao,bianhao)     cursor.execute(sql)     cursor.execute(sql2)     cursor.close()     conn.close()     sys.exit()

下面，我们来给代码加些注释，让读者能看的更明白一些，如下：

具体代码如下

#! /usr/bin/python import os,sys #加载本程序需要调用的相模块reTitle          = re.compile('<Font[^>]*>(.*?)<\/Font> <Font[^>]*') # 定义一下取文章标题的正则reNeiron         = re.compile('[1-9|A-Z|a-z].*')  #定义一个取提取文章内容的正则(注：这里提取出来的不是很精细，需要在下面的正则里，再进行提取，这里只是取一个大概)retiqu          = re.compile('^(?!marginWIDTH|BR).*.[^>|}]$') #这里定义一个正则，将上面reNeiron提取出来的字符，再进行细化。shijian=1190944000  #这里字义了一个时间戳，Str1="\n---------------- BLOG OF YAO" #这个没用，开始是准备加到文章里的，后来没加进去。bianhao=2859   #这里是wordpress 的文章编号，直接查看wp-posts表的ID 字段的最后一个数字。for i in range(1,1500): #循环1500遍，也就是采集1500篇文章。    Str2="" #先赋值给Str2 空值    ltime=time.localtime(shijian)       timeStr=time.strftime("%Y%m%d",ltime) #这两句将上面的时间戳改为时间，样式为19700101这样的格式    url="http://www.jokeswarehouse.com/cgi-bin/vIEwjoke2.cgi?ID=%s" %timeStr #定义要采集的网站，将转化后的时间放在这个url的最后。    a=urllib2.urlopen(url).read() #将这个网页的源代码读出来，赋值给a;     Title=reTitle.findall(a) #使用 reTitle这个正则提取出标题    print "=========================================================================================================="     for Titles in map(None,Title): #上面提取出来的标题前后都有一个 [] 所以我们要写个for循环把前后的[]去掉，并转义成能直接插入MysqL库的格式。        Titles=MysqLdb.escape_string(Titles)     Neiron=re.findall(reNeiron,a) #先用reNeiron，取个大概的内容模型出来。这些都是以逗号分隔的数组。    for i in map(None,Neiron): # 我们来循环读出Neiron这个数组里的每个值。        x=re.findall(retiqu,i)#并用 retiqu这个正则提出精细出的内容。        for str in x:             str=MysqLdb.escape_string(str)             Str2 += str+"\n" #利用这个循环，我们把内容加到一起，并赋值给Str2这个变量，这个　Str2这个变量就是所有的文章内容。    shijian += 86400 #每循环一次，就把shijian这个变量加上一天。    bianhao += 1   #每循环一次，就把bianhao这个变量加上一    try: #下面是用MysqLdb连接数据库，并尝试连接是否成功。       conn=MysqLdb.connect("XXXX.XXXX.XXXX.XXXX",message:         print "like error"     cursor=conn.cursor() #下面是插入wordpress数据库的两条语句，我是从MysqLbinlog里面导出来的，测试是可以插入数据库，并能正常把内容显示在网页的。变量都写在这两条语句里。    sql="INSERT INTO wp_posts (post_author,bianhao)     cursor.execute(sql)     cursor.execute(sql2) #连接数据库并执行这两条语句。    cursor.close()     conn.close()  #关闭数据库。    sys.exit() 

上面是程序的代码，采集的是：www.jokeswarehouse.com 的一个笑话网站。通过 python 的 re 模块，也就是正则匹配模块，运行相应的正则表达式，进行过滤出我们所需要的标题和文章内容，再运用 python 的MysqLdb 模块，进行连接数据库，利用相应的插入语句，进行插入数据库。

总结

以上是内存溢出为你收集整理的用python写的一个wordpress的采集程序全部内容，希望文章能够帮你解决用python写的一个wordpress的采集程序所遇到的程序开发问题。

如果觉得内存溢出网站内容还不错，欢迎将内存溢出网站推荐给程序员好友。