扒糗事百科精华的python爬虫

概述扒糗事百科精华的python爬虫

下面是内存溢出 jb51.cc 通过网络收集整理的代码片段。

内存溢出小编现在分享给大家，也给大家做个参考。

# -*- Coding: utf-8 -*-      import urllib2  import urllib  import re  import thread  import time      #----------- 加载处理糗事百科 -----------  class SpIDer_Model:             def __init__(self):          self.page = 1          self.pages = []          self.enable = False         # 将所有的段子都扣出来，添加到列表中并且返回列表      def GetPage(self,page):          myUrl = "http://www.qiushibaike.com/hot/page/" + page        myUrl = myUrl + "?s=4771468"        user_agent = 'Mozilla/5.0 (windows NT 6.1; rv:37.0) Gecko/20100101 firefox/37.0'         headers = { 'User-Agent' : user_agent }        #print myUrl        req = urllib2.Request(myUrl,headers = headers)        myResponse = urllib2.urlopen(req)        myPage = myResponse.read()          #encode的作用是将unicode编码转换成其他编码的字符串          #decode的作用是将其他编码的字符串转换成unicode编码          unicodepage = myPage.decode("utf-8")           # 找出所有的div标记          #re.S是任意匹配模式，也就是.可以匹配换行符          myItems = re.findall('<div.*?>(.*?)</div>',unicodepage,re.S)                 items = []          for item in myItems:              # item 中是div的内容，也就是糗事百科精华的内容            # item 中去掉换行            items.append(item.replace("\n","").replace("<br/>",""))          return items         # 用于加载新的段子      def LoadPage(self):          # 如果用户未输入quit则一直运行          while self.enable:              # 如果pages数组中的内容小于2个              if len(self.pages) < 2:                  try:                      # 获取新的页面中的段子们                      myPage = self.GetPage(str(self.page))                      self.page += 1                      self.pages.append(myPage)                  except:                      print '无法链接糗事百科！'              else:                  time.sleep(1)                 def ShowPage(self,NowPage,page):          for items in NowPage:              print u'第%d页' % page,items             myinput = raw_input()              if myinput == "quit":                  self.enable = False                  break                 def Start(self):          self.enable = True          page = self.page             print u'正在加载中请稍候......'                     # 新建一个线程在后台加载段子并存储          thread.start_new_thread(self.LoadPage,())                     #----------- 加载处理糗事百科 -----------          while self.enable:              # 如果self的page数组中存有元素              if self.pages:                  NowPage = self.pages[0]                  del self.pages[0]                  self.ShowPage(NowPage,page)                  page += 1        #----------- 程序的入口处 -----------  print u""" ---------------------------------------    程序：糗百爬虫    版本：0.3    原作者：why   修改者：天问-中国   日期：2015-05-12    语言：Python 2.7     *** 作：输入quit退出阅读糗事百科    功能：按下回车依次浏览今日的糗百热点 --------------------------------------- """      print u'请按下回车浏览今日的糗百内容：'  raw_input(' ')  myModel = SpIDer_Model()  myModel.Start()

以上是内存溢出(jb51.cc)为你收集整理的全部代码内容，希望文章能够帮你解决所遇到的程序开发问题。

如果觉得内存溢出网站内容还不错，欢迎将内存溢出网站推荐给程序员好友。

总结

以上是内存溢出为你收集整理的扒糗事百科精华的python爬虫全部内容，希望文章能够帮你解决扒糗事百科精华的python爬虫所遇到的程序开发问题。

如果觉得内存溢出网站内容还不错，欢迎将内存溢出网站推荐给程序员好友。