Python探索之爬取电商售卖信息代码示例

Python探索之爬取电商售卖信息代码示例,第1张

概述网络爬虫(又被称为网页蜘蛛,网络机器人,在FOAF社区中间,更经常的称为网页追逐者),是一种按照一定的规则,自动的抓取万维网信息的程序或者脚本。

网络爬虫(又被称为网页蜘蛛,网络机器人,在FOAF社区中间,更经常的称为网页追逐者),是一种按照一定的规则,自动的抓取万维网信息的程序或者脚本。

下面有一个示例代码,分享给大家:

#! /usr/bin/env python#enCoding = 'utf-8'#filename: spIDer_58center_sth.pyfrom bs4import BeautifulSoupimport timeimport requestsurl_58 = 'http://nj.58.com/?PGTID=0d000000-0000-0c5c-ffba-71f8f3f7039e&ClickID=1''''用于爬取电商售卖信息: 例为58同城电脑售卖信息 '''def get_url_List(url):  web_data = requests.get(url)soup = BeautifulSoup(web_data.text,'lxml')url = soup.select('td.t > a[]')url_List = ''for link in url:  link_n = link.get('href')if 'zhuanzhuan' in link_n:  passelse :  if 'jump' in link_n:  passelse :  url_List = url_List + '\n' + link_nprint('url_List: %s' % url_List)return url_List# 分类获取目标信息def get_url_info():  url_List = get_url_List(url_58)for url in url_List.split():  time.sleep(1)web_datas = requests.get(url)soup = BeautifulSoup(web_datas.text,'lxml')type = soup.select('#head > div.breadCrumb.f12 > span:nth-of-type(3) > a')Title = soup.select(' div.col_sub.mainTitle > h1')date = soup.select('li.time')price = soup.select('div.person_add_top.no_IDent_top > div.per_ad_left > div.col_sub.summary > ul > '  'li:nth-of-type(1) > div.su_con > span.price.c_f50')fineness = soup.select('div.col_sub.summary > u1 > li:nth-of-type(2) > div.su_con > span')area = soup.select('div.col_sub.summary > u1 > li:nth-of-type(3) > div.su_con > span')for typei,Titlei,datei,pricei,finenessi,areai in zip(type,Title,date,price,fineness,area): #做字典data = {  'type': typei.get_text(),'Title': Titlei.get_text(),'date': datei.get_text(),'price': pricei.get_text(),'fineness': (finenessi.get_text()).strip(),'area': List(areai.stripped_strings)}print(data)get_url_info()

爬取商城商品售卖信息

总结

以上就是本文关于Python探索之爬取电商售卖信息代码示例的全部内容,希望对大家有所帮助。感兴趣的朋友可以继续参阅本站:Python探索之自定义实现线程池、Python探索之ModelForm代码详解等,如有不足之处,欢迎留言指出。感谢朋友们对本站的支持!

总结

以上是内存溢出为你收集整理的Python探索之爬取电商售卖信息代码示例全部内容,希望文章能够帮你解决Python探索之爬取电商售卖信息代码示例所遇到的程序开发问题。

如果觉得内存溢出网站内容还不错,欢迎将内存溢出网站推荐给程序员好友。

欢迎分享,转载请注明来源:内存溢出

原文地址: http://outofmemory.cn/langs/1201400.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2022-06-04
下一篇 2022-06-04

发表评论

登录后才能评论

评论列表(0条)

保存