https://piao.qunar.com/ticket/List.htm?keyword=北京
,获取北京地区热门景区信息,再通过BeautifulSoup去分析提取出我们需要的信息。这里爬取了前4页的景点信息,每页有15个景点。因为去哪儿并没有什么反爬措施,所以直接请求就可以了。
这里随机选择了13个热门城市:北京、上海、成都、三亚、广州、重庆、深圳、西安、杭州、厦门、武汉、大连、苏州。
并将爬取的数据存到了MongoDB数据库 。
很多人学习python,掌握了基本语法过后,不知道在哪里寻找案例上手。
很多已经做案例的人,却不知道如何去学习更加高深的知识。
那么针对这三类人,我给大家提供一个好的学习平台,免费领取视频教程,电子书籍,以及课程的源代码!
QQ群:701698587
爬虫部分完整代码如下:
import requestsfrom bs4 import BeautifulSoupfrom pymongo import MongoClIEntclass QuNaEr(): def __init__(self, keyword, page=1): self.keyword = keyword self.page = page def qne_spIDer(self): url = 'https://piao.qunar.com/ticket/List.htm?keyword=%s®ion=&from=mpl_search_suggest&page=%s' % (self.keyword, self.page) response = requests.get(url) response.enCoding = 'utf-8' text = response.text bs_obj = BeautifulSoup(text, 'HTML.parser') arr = bs_obj.find('div', {'class': 'result_List'}).contents for i in arr: info = i.attrs # 景区名称 name = info.get('data-sight-name') # 地址 address = info.get('data-address') # 近期售票数 count = info.get('data-sale-count') # 经纬度 point = info.get('data-point') # 起始价格 price = i.find('span', {'class': 'sight_item_price'}) price = price.find_all('em') price = price[0].text conn = MongoClIEnt('localhost', port=27017) db = conn.QuNaEr # 库 table = db.qunaer_51 # 表 table.insert_one({ 'name' : name, 'address' : address, 'count' : int(count), 'point' : point, 'price' : float(price), 'city' : self.keyword })if __name__ == '__main__': citys = ['北京', '上海', '成都', '三亚', '广州', '重庆', '深圳', '西安', '杭州', '厦门', '武汉', '大连', '苏州'] for i in citys: for page in range(1, 5): qne = QuNaEr(i, page=page) qne.qne_spIDer()
效果图如下:
1、最受欢迎的15个景区
代码如下:
from pymongo import MongoClIEnt# 设置字体,不然无法显示中文from pylab import *mpl.rcParams['Font.sans-serif'] = ['SimHei']conn = MongoClIEnt('localhost', port=27017)db = conn.QuNaEr # 库table = db.qunaer_51 # 表result = table.find().sort([('count', -1)]).limit(15)# x,y轴数据x_arr = [] # 景区名称y_arr = [] # 销量for i in result: x_arr.append(i['name']) y_arr.append(i['count'])"""去哪儿月销量排行榜"""plt.bar(x_arr, y_arr, color='rgb') # 指定color,不然所有的柱体都会是一个颜色plt.gcf().autofmt_xdate() # 旋转x轴,避免重叠plt.xlabel(u'景点名称') # x轴描述信息plt.ylabel(u'月销量') # y轴描述信息plt.Title(u'拉钩景点月销量统计表') # 指定图表描述信息plt.ylim(0, 4000) # 指定Y轴的高度plt.savefig('去哪儿月销售量排行榜') # 保存为图片plt.show()
2、景区热力图
这里为了方便,只展示一下北京地区的景区热力图。用到了百度地图的开放平台。首先需要先注册开发者信息,首页底部有个申请秘钥的按钮,点击进行创建就可以了。我的应用类型选择的是浏览器端,因此只需要组装数据替换掉相应HTML代码即可。另外还需要将自己访问应用的AK替换掉。效果图如下:
价格是出游第一个要考虑的,一开始想统计一下各城市的平均价格,但是后来发现效果不是很好,比如北京的刘老根大舞台价格在580元,这样拉高了平均价格。就好比姚明和潘长江的平均身高在190cm,并没有什么说服力。所以索性展示一下景区的价格分布。
根据价格设置了六个区间:
通过上图得知,大部分的景区门票价格都在200元以下。每次旅游花费基本都在交通、住宿、吃吃喝喝上了。门票占比还是比较少的。
实现代码如下:
arr = [[0, 50], [50,100], [100, 200], [200,300], [300,500], [500,1000]]name_arr = []total_arr = []for i in arr: result = table.count({'price': {'$gte': i[0], '$lt': i[1]}}) name = '%s元 ~ %s元 ' % (i[0], i[1]) name_arr.append(name) total_arr.append(result)color = 'red', 'orange', 'green', 'blue', 'gray', 'goldenrod' # 各类别颜色explode = (0.2, 0, 0, 0, 0, 0) # 各类别的偏移半径# 绘制饼状图pIE = plt.pIE(total_arr, colors=color, explode=explode, labels=name_arr, shadow=True, autopct='%1.1f%%')plt.axis('equal')plt.Title(u'热点旅游景区门票价格比例', Fontsize=12)plt.legend(loc=0, bBox_to_anchor=(0.82, 1)) # 图例# 设置legend的字体大小leg = plt.gca().get_legend()ltext = leg.get_texts()plt.setp(ltext, Fontsize=6)# 显示图plt.show()
你一般旅游都去哪呢?
总结以上是内存溢出为你收集整理的python爬取全国13个城市旅游数据,告诉你那里最受欢迎全部内容,希望文章能够帮你解决python爬取全国13个城市旅游数据,告诉你那里最受欢迎所遇到的程序开发问题。
如果觉得内存溢出网站内容还不错,欢迎将内存溢出网站推荐给程序员好友。
欢迎分享,转载请注明来源:内存溢出
评论列表(0条)