下面是内存溢出 jb51.cc 通过网络收集整理的代码片段。
内存溢出小编现在分享给大家,也给大家做个参考。
# enCoding:utf-8import urllib,urllib2from pprint import pprintfrom collections import Counterfrom bs4 import BeautifulSoupimport geventfrom gevent import monkey; monkey.patch_all()'''sample urlshttp://tIEba.baIDu.com/f?kw=python&IE=utf-8&pn=0 #page 1http://tIEba.baIDu.com/f?kw=python&IE=utf-8&pn=50 # 2http://tIEba.baIDu.com/f?kw=python&IE=utf-8&pn=100 # 3http://tIEba.baIDu.com/f?kw=python&IE=utf-8&pn=150 # 4http://tIEba.baIDu.com/f?kw=gupiao&IE=utf-8&pn=50 #'''all_date = []def get_date_of_reply(tIEba_name,start_page=1,end_page=1):#def get_date_of_reply2(start=0,end=100,step=50): # old params global all_date do_range = range((start_page-1)*50,end_page*50,50) for n in do_range: print n f = urllib.urlopen('http://tIEba.baIDu.com/f?kw=%s&IE=utf-8&pn=%s' % (tIEba_name,n)) soup = BeautifulSoup(f.read(),'HTML.parser') #<span title="最后回复时间"> 9-15</span> onepage_reply_spans = soup.find_all("span",class_="j_reply_data") #onepage_date_of_reply = [getattr(one_span,'string').strip() for one_span in onepage_reply_spans] onepage_date_of_reply = [] for one_span in onepage_reply_spans: strdate = getattr(one_span,'string') if strdate: onepage_date_of_reply.append(strdate.strip()) # 不统计当天的 当天回复是用时间表示的 if ':' in onepage_date_of_reply[0]: for n in onepage_date_of_reply[:]: if ':' in n: onepage_date_of_reply.remove(n) all_date.extend(onepage_date_of_reply) return onepage_date_of_reply#print len(get_date_of_reply(start_page=1,end_page=10))def count_date(tIEba_name,startpage,endpage,num=10): ''' num 一个线程处理几页 ''' page_range = range(startpage,num) threads = [] for page in page_range: threads.append(gevent.spawn(get_date_of_reply,tIEba_name,page,page+num-1)) gevent.joinall(threads) c = Counter(all_date) return cif __name__ == '__main__': #print test() print count_date('gupiao',100,300,3)
以上是内存溢出(jb51.cc)为你收集整理的全部代码内容,希望文章能够帮你解决所遇到的程序开发问题。
如果觉得内存溢出网站内容还不错,欢迎将内存溢出网站推荐给程序员好友。
总结以上是内存溢出为你收集整理的统计贴吧股票吧某天的回帖量全部内容,希望文章能够帮你解决统计贴吧股票吧某天的回帖量所遇到的程序开发问题。
如果觉得内存溢出网站内容还不错,欢迎将内存溢出网站推荐给程序员好友。
欢迎分享,转载请注明来源:内存溢出
评论列表(0条)