requests+正则表达式抓取猫眼电影top100
一.首先我们先分析下网页结构
可以看到第一页的URL和第二页的URL的区别在于offset的值，第一页为0，第二页为10，以此类推。
二.标签的结构（含有电影相关信息）
三、源代码
import requestsimport reimport Jsonfrom requests.exceptions import RequestException#获取页面源代码def get_one_page(url,headers): try: response = requests.get(url,headers=headers) if response.status_code ==200: return response.text except RequestException: return None#解析def parse_one_page(HTML):#生成正则表达式对象 pattern =re.compile('.*?board-index.*?>(d+).*?src="(.*?)".*?href.*?>(.*?).*?>(.*?).*?>(.*?).*?>(.*?).*?>(.*?).*?',re.S) items = re.findall(pattern,HTML)#迭代器 for item in items: yIEld{ 'index':item[0],'image':item[1],'Title':item[2],'actor':item[3].strip()[3:],'time':item[4].strip()[5:],'score':item[5]+item[6] }#保存def write_to_file(content): with open('result.txt','a',enCoding='utf-8') as f: f.write(Json.dumps(content,ensure_ascii=False) + '') f.close()def main(offset): url = 'http://maoyan.com/board/4?offset=0' + str(offset)#没有headers头抓取不下来 headers = {'User-Agent':'Mozilla/5.0 (windows NT 6.1; WOW64; TrIDent/7.0; rv:11.0) like Gecko'} HTML = get_one_page(url,headers) for item in parse_one_page(HTML): print(item) write_to_file(item)if __name__ == '__main__':#循环十次 从第一页开始，传入offset值 for i in range(10): main(i*10)四、运行结果如下：
{'index': '1','image': 'http://p1.meituan.net/movIE/20803f59291c47e1e116c11963ce019e68711.jpg@160w_220h_1e_1c','Title': '霸王别姬','actor': '张国荣,张丰毅,巩俐','time': '1993-01-01','score': '9.6'}{'index': '2','image': 'http://p0.meituan.net/movIE/283292171619cdfd5b240c8fd093f1eb255670.jpg@160w_220h_1e_1c','Title': '肖申克的救赎','actor': '蒂姆·罗宾斯,摩根·弗里曼,鲍勃·冈顿','time': '1994-10-14(美国)','score': '9.5'}{'index': '3','image': 'http://p0.meituan.net/movIE/54617769d96807e4d81804284ffe2a27239007.jpg@160w_220h_1e_1c','Title': '罗马假日','actor': '格利高里·派克,奥黛丽·赫本,埃迪·艾伯特','time': '1953-09-02(美国)','score': '9.1'}{'index': '4','image': 'http://p0.meituan.net/movIE/e55ec5d18ccc83ba7db68caae54f165f95924.jpg@160w_220h_1e_1c','Title': '这个杀手不太冷','actor': '让·雷诺,加里·奥德曼,娜塔莉·波特曼','time': '1994-09-14(法国)','score': '9.5'}{'index': '5','image': 'http://p1.meituan.net/movIE/f5a924f362f050881f2b8f82e852747c118515.jpg@160w_220h_1e_1c','Title': '教父','actor': '马龙·白兰度,阿尔·帕西诺,詹姆斯·肯恩','time': '1972-03-24(美国)','score': '9.3'}{'index': '6','image': 'http://p1.meituan.net/movIE/0699ac97c82cf01638aa5023562d6134351277.jpg@160w_220h_1e_1c','Title': '泰坦尼克号','actor': '莱昂纳多·迪卡普里奥,凯特·温丝莱特,比利·赞恩','time': '1998-04-03','score': '9.5'}{'index': '7','image': 'http://p0.meituan.net/movIE/da64660f82b98cdc1b8a3804e69609e041108.jpg@160w_220h_1e_1c','Title': '唐伯虎点秋香','actor': '周星驰,巩俐,郑佩佩','time': '1993-07-01(中国香港)','score': '9.2'}{'index': '8','image': 'http://p0.meituan.net/movIE/b076ce63e9860ecf1ee9839badee5228329384.jpg@160w_220h_1e_1c','Title': '千与千寻','actor': '柊瑠美,入野自由,夏木真理','time': '2001-07-20(日本)','score': '9.3'}{'index': '9','image': 'http://p0.meituan.net/movIE/46c29a8b8d8424bdda7715e6fd779c66235684.jpg@160w_220h_1e_1c','Title': '魂断蓝桥','actor': '费雯·丽,罗伯特·泰勒,露塞尔·沃特森','time': '1940-05-17(美国)','score': '9.2'}{'index': '10','image': 'http://p0.meituan.net/movIE/230e71d398e0c54730d58dc4bb6e4cca51662.jpg@160w_220h_1e_1c','Title': '乱世佳人',克拉克·盖博,奥利维娅·德哈维兰','time': '1939-12-15(美国)','score': '9.1'}{'index': '11','image': 'http://p1.meituan.net/movIE/ba1ed511668402605ed369350ab779d6319397.jpg@160w_220h_1e_1c','Title': '天空之城','actor': '寺田农,鹫尾真知子,龟山助清','time': '1992','score': '9.1'}{'index': '12','image': 'http://p1.meituan.net/movIE/18e3191039d5e71562477659301f04aa61905.jpg@160w_220h_1e_1c','Title': '喜剧之王',莫文蔚,张柏芝','time': '1999-02-13(中国香港)','score': '9.2'}{'index': '13','image': 'http://p1.meituan.net/movIE/14a7b337e8063e3ce05a5993ed80176b74208.jpg@160w_220h_1e_1c','Title': '大闹天宫','actor': '邱岳峰,毕克,富润生','time': '1965-12-31','score': '9.0'}{'index': '14','image': 'http://p1.meituan.net/movIE/39ed7a0941a3604bba78d299b11a18ce119679.jpg@160w_220h_1e_1c','Title': '辛德勒的名单','actor': '连姆·尼森,拉尔夫·费因斯,本·金斯利','time': '1993-12-15(美国)','score': '9.2'}{'index': '15','image': 'http://p1.meituan.net/movIE/6bc004d57358ee6875faa5e9a1239140128550.jpg@160w_220h_1e_1c','Title': '音乐之声','actor': '朱莉·安德鲁斯,克里斯托弗·普卢默,埃琳诺·帕克','time': '1965-03-02(美国)','score': '9.0'}{'index': '16','image': 'http://p0.meituan.net/movIE/ae7245920d95c03765fe1615f3a1fe3865785.jpg@160w_220h_1e_1c','Title': '春光乍泄',梁朝伟,张震','time': '1997-05-30(中国香港)','score': '9.2'}{'index': '17','image': 'http://p1.meituan.net/movIE/0e91ffcfa7e53449216cc29ee8af513a75791.jpg@160w_220h_1e_1c','Title': '剪刀手爱德华','actor': '约翰尼·德普,薇诺娜·瑞德,黛安·韦斯特','time': '1990-12-06(美国)','score': '8.8'}{'index': '18','image': 'http://p1.meituan.net/movIE/c15b7623cce2f51c75562a3baefe507b68290.jpg@160w_220h_1e_1c','Title': '海上钢琴师','actor': '蒂姆·罗斯,普路特·泰勒·文斯,比尔·努恩','time': '1998-10-28(意大利)','score': '9.2'}{'index': '19','image': 'http://p0.meituan.net/movIE/43d259ecbcd53e8bbe902632772281d6327525.jpg@160w_220h_1e_1c','Title': '美丽人生','actor': '罗伯托·贝尼尼,尼可莱塔·布拉斯基,乔治·坎塔里尼','time': '1997-12-20(意大利)','score': '9.3'}{'index': '20','image': 'http://p1.meituan.net/movIE/d981a12f59d3cc92ff666094404ad8f0211220.jpg@160w_220h_1e_1c','Title': '黑客帝国','actor': '基努·里维斯,凯瑞-安·莫斯,劳伦斯·菲什伯恩','time': '2000-01-14','score': '9.0'}{'index': '21','image': 'http://p0.meituan.net/movIE/932bdfbef5be3543e6b136246aeb99b8123736.jpg@160w_220h_1e_1c','Title': '指环王3：王者无敌','actor': '伊莱贾·伍德,伊恩·麦克莱恩,丽芙·泰勒','time': '2004-03-15','score': '9.2'}{'index': '22','image': 'http://p1.meituan.net/movIE/b449893ebc63d5c54eb4a5b60341f334383831.jpg@160w_220h_1e_1c','Title': '加勒比海盗',凯拉·奈特莉,奥兰多·布鲁姆','time': '2003-11-21','score': '8.9'}{'index': '23','image': 'http://p1.meituan.net/movIE/aacb9ed2a6601bfe515ef0970add1715623792.jpg@160w_220h_1e_1c','Title': '哈利·波特与魔法石','actor': '丹尼尔·雷德克里夫,鲁伯特·格林特,艾玛·沃特森','time': '2002-01-26','score': '9.1'}{'index': '24','image': 'http://p1.meituan.net/movIE/0d93b5b585ce29c6688e43f3989fb41f86421.jpg@160w_220h_1e_1c','Title': '无间道','actor': '刘德华,黄秋生','time': '2003-09-05','score': '9.1'}{'index': '25','image': 'http://p0.meituan.net/movIE/8959888ee0c399b0fe53a714bc8a5a17460048.jpg@160w_220h_1e_1c','Title': '楚门的世界','actor': '金·凯瑞,劳拉·琳妮,诺亚·艾默里奇','time': '1998-06-01(美国)','score': '8.9'}{'index': '26','image': 'http://p0.meituan.net/movIE/d12a1c198ad9ffac72b5db57feacb449294699.jpg@160w_220h_1e_1c','Title': '蝙蝠侠：黑暗骑士','actor': '克里斯蒂安·贝尔,希斯·莱杰,艾伦·艾克哈特','time': '2008-07-18(美国)','score': '9.3'}{'index': '27','image': 'http://p1.meituan.net/movIE/53b6f0b66882a53b08896c92076515a8236400.jpg@160w_220h_1e_1c','Title': '射雕英雄传之东成西就',张学友','time': '1993-02-05(中国香港)','score': '8.9'}{'index': '28','image': 'http://p1.meituan.net/movIE/7bac8bfa6739c18620065132ce9c64fa85110.jpg@160w_220h_1e_1c','Title': '教父2','actor': '阿尔·帕西诺,罗伯特·德尼罗,黛安·基顿','time': '1974-12-12(美国)','score': '9.0'}{'index': '29','image': 'http://p0.meituan.net/movIE/5cfa597a98b35ee4ee598695942641ba287922.jpg@160w_220h_1e_1c','Title': '指环王2：双塔奇兵','time': '2003-04-25','score': '9.1'}{'index': '30','image': 'http://p1.meituan.net/movIE/4592eef6b6dffcd1d950f55f41ab098f239816.jpg@160w_220h_1e_1c','Title': '机器人总动员','actor': '本·贝尔特,艾丽莎·奈特,杰夫·格尔林','time': '2008-06-27(美国)','score': '9.3'}{'index': '31','image': 'http://p0.meituan.net/movIE/4c41068ef7608c1d4fbfbe6016e589f7204391.jpg@160w_220h_1e_1c','Title': '活着','actor': '葛优,牛犇','time': '1994-05-18(法国)','score': '9.0'}{'index': '32','image': 'http://p1.meituan.net/movIE/779bcc212a50a2526343362778f6b63c334618.jpg@160w_220h_1e_1c','Title': '拯救大兵瑞恩','actor': '汤姆·汉克斯,马特·达蒙,汤姆·塞兹摩尔','time': '1998-07-24(美国)','score': '8.9'}{'index': '33','image': 'http://p1.meituan.net/movIE/618e57ddb3173de6bbf2e278946b11f279679.jpg@160w_220h_1e_1c','Title': '天堂电影院','actor': '菲利普·努瓦雷,赛尔乔·卡斯特利托,蒂兹亚娜·罗达托','time': '1988-11-17(意大利)','score': '9.2'}{'index': '34','image': 'http://p1.meituan.net/movIE/2f344a9f9575edbcae9f0abe0578bc90339773.jpg@160w_220h_1e_1c','Title': '盗梦空间',渡边谦,约瑟夫·高登-莱维特','time': '2010-09-01','score': '9.2'}{'index': '35','image': 'http://p1.meituan.net/movIE/7e471a9171a410ebc9413b2f1de67afc130067.jpg@160w_220h_1e_1c','Title': '东邪西毒',刘嘉玲','time': '1994-09-17','score': '8.9'}{'index': '36','image': 'http://p0.meituan.net/movIE/0127b451d5b8f0679c6f81c8ed414bb2432442.jpg@160w_220h_1e_1c','Title': '哈尔的移动城堡','actor': '倍赏千惠子,木村拓哉,美轮明宏','time': '2004-11-20(日本)','score': '9.0'}{'index': '37','image': 'http://p0.meituan.net/movIE/7787c10ad5e95b03cf83ef9473500d8e282796.jpg@160w_220h_1e_1c','Title': '忠犬八公的故事','actor': 'Forest,理查·基尔,琼·艾伦','time': '2010-03-12(英国)','score': '9.3'}{'index': '38','image': 'http://p1.meituan.net/movIE/c5e76795bf7a78b12a2ffabb4a0c5c11112921.jpg@160w_220h_1e_1c','Title': '搏击俱乐部','actor': '爱德华·哈里森·诺顿,布拉德·皮特,海伦娜·伯翰·卡特','time': '1999-10-15(美国)','score': '8.8'}{'index': '39','image': 'http://p0.meituan.net/movIE/6ab1882a217e848acceb240365043d53329196.jpg@160w_220h_1e_1c','Title': '幽灵公主','actor': '松田洋治,石田百合子,田中裕子','time': '1997-07-12(日本)','score': '8.9'}{'index': '40','image': 'http://p1.meituan.net/movIE/d5e5e53ef9bbd98223e83df261b51b84103223.jpg@160w_220h_1e_1c','Title': '疯狂原始人','actor': '尼古拉斯·凯奇,艾玛·斯通,瑞安·雷诺兹','time': '2013-04-20','score': '9.5'}{'index': '41','image': 'http://p0.meituan.net/movIE/4f9638ba234c3fb673f23a09968db875371576.jpg@160w_220h_1e_1c','Title': '风之谷','actor': '岛本须美,永井一郎,坂本千夏','score': '8.9'}{'index': '42','image': 'http://p1.meituan.net/movIE/91f575ec93f019f428d1f33e3ceca7c5115495.jpg@160w_220h_1e_1c','Title': '阿凡达','actor': '萨姆·沃辛顿,佐伊·索尔达娜,米歇尔·罗德里格兹','time': '2010-01-04','score': '9.0'}{'index': '43','image': 'http://p1.meituan.net/movIE/4a4c84aa103ab47202f1aa907c5542a4128882.jpg@160w_220h_1e_1c','Title': 'V字仇杀队','actor': '娜塔莉·波特曼,雨果·维文,斯蒂芬·瑞','time': '2006-03-17(美国)','score': '8.8'}{'index': '44','image': 'http://p0.meituan.net/movIE/7cd18fcf0b4f9180500124711e81492994030.jpg@160w_220h_1e_1c','Title': '放牛班的春天','actor': '热拉尔·朱尼奥,让-巴蒂斯特·莫尼耶,玛丽·布奈尔','time': '2004-10-16','score': '8.8'}{'index': '45','image': 'http://p0.meituan.net/movIE/df15efd261060d3094a73ef679888d4f238149.jpg@160w_220h_1e_1c','Title': '十二怒汉','actor': '亨利·方达,李·科布,马丁·鲍尔萨姆','time': '1957-04-13(美国)','score': '9.1'}{'index': '46','image': 'http://p1.meituan.net/movIE/5896de3c1474277730e321c9b1db04a9205644.jpg@160w_220h_1e_1c','Title': '当幸福来敲门','actor': '威尔·史密斯,贾登·史密斯,坦迪·牛顿','time': '2008-01-17','score': '8.9'}{'index': '47','image': 'http://p1.meituan.net/movIE/f8e9d5a90224746d15dfdbd53d4fae3d209420.jpg@160w_220h_1e_1c','Title': '勇敢的心','actor': '梅尔·吉布森,苏菲·玛索,帕特里克·麦高汉','time': '1995-05-24(美国)','score': '8.8'}{'index': '48','image': 'http://p1.meituan.net/movIE/1d0fa86bcf7a44484b9c16ac6af5be68191952.jpg@160w_220h_1e_1c','Title': '速度与激情5','actor': '范·迪塞尔,保罗·沃克,道恩·强森','time': '2011-05-12','score': '9.2'}{'index': '49','image': 'http://p1.meituan.net/movIE/8194ae885ed9419aadf35c196af86ba4239039.jpg@160w_220h_1e_1c','Title': '驯龙高手','actor': '杰伊·巴鲁切尔,杰拉德·巴特勒,亚美莉卡·费雷拉','time': '2010-05-14','score': '9.0'}{'index': '50','image': 'http://p0.meituan.net/movIE/85c2bfba6025bfbfb53291ae5924c215308805.jpg@160w_220h_1e_1c','Title': '神偷奶爸','actor': '史蒂夫·卡瑞尔,杰森·席格尔,拉塞尔·布兰德','time': '2010-07-09(美国)','score': '9.0'}{'index': '51','image': 'http://p0.meituan.net/movIE/47dd790e19dad72b50580641de5608c5199014.jpg@160w_220h_1e_1c','Title': '飞屋环游记','actor': '爱德华·阿斯纳,乔丹·长井,鲍勃·彼德森','time': '2009-08-04','score': '8.9'}{'index': '52','image': 'http://p0.meituan.net/movIE/92eb862c42c49f8e41e459c369c4512b226610.jpg@160w_220h_1e_1c','Title': '大话西游之月光宝盒',吴孟达','time': '2014-10-24','score': '9.6'}{'index': '53','image': 'http://p1.meituan.net/movIE/5ca6ffcbb994a51cd6215e7c4fff2d9b71039.jpg@160w_220h_1e_1c','Title': '黑客帝国3：矩阵革命',凯瑞-安·莫斯','time': '2003-11-05','score': '8.8'}{'index': '54','image': 'http://p0.meituan.net/movIE/7cb7965469cb7ff95613714389f1ea3d87743.jpg@160w_220h_1e_1c','Title': '闻香识女人',克里斯·奥唐纳,加布里埃尔·安瓦尔','time': '1992-12-23(美国)','score': '8.8'}{'index': '55','image': 'http://p0.meituan.net/movIE/457a35fda360cb72090fa6dcbd1db3c1275333.jpg@160w_220h_1e_1c','Title': '怦然心动','actor': '玛德琳·卡罗尔,卡兰·麦克奥利菲,艾丹·奎因','time': '2010-08-06(美国)','score': '8.9'}{'index': '56','image': 'http://p0.meituan.net/movIE/e71affe126eeb4f8bfcc738cbddeebc8288766.jpg@160w_220h_1e_1c','Title': '断背山','actor': '希斯·莱杰,杰克·吉伦哈尔,米歇尔·威廉姆斯','time': '2006-01-13(美国)','score': '9.0'}{'index': '57','image': 'http://p0.meituan.net/movIE/4bb144bc0a674ba6908349018fd092e6330929.jpg@160w_220h_1e_1c','Title': '三傻大闹宝莱坞','actor': '阿米尔·汗,黄渤,卡琳娜·卡普','time': '2011-12-08','score': '9.1'}{'index': '58','image': 'http://p1.meituan.net/movIE/75c0d3eb584be030a01f2e26741a8f41251454.jpg@160w_220h_1e_1c','Title': '致命魔术','actor': '休·杰克曼,克里斯蒂安·贝尔,迈克尔·凯恩','time': '2006-10-20(美国)','score': '8.8'}{'index': '59','image': 'http://p1.meituan.net/movIE/4dddd98730274c3b1464ff0a0ad195e5233381.jpg@160w_220h_1e_1c','Title': '飞越疯人院','actor': '杰克·尼科尔森,路易丝·弗莱彻,威尔·萨姆森','time': '1975-11-19(美国)','score': '8.8'}{'index': '60','image': 'http://p1.meituan.net/movIE/0b507aa44c4dfbbcc91949b69b1b39a168922.jpg@160w_220h_1e_1c','Title': '鬼子来了','actor': '姜文,姜宏波,陈强','time': '2000-05-12(法国戛纳)','score': '8.9'}{'index': '61','image': 'http://p1.meituan.net/movIE/92198a6fc8c3f5d13aa1bdf203572c0f99438.jpg@160w_220h_1e_1c','Title': '美国往事','actor': '罗伯特·德尼罗,詹姆斯·伍兹,伊丽莎白·麦戈文','time': '1984-02-17(美国)','score': '9.1'}{'index': '62','image': 'http://p0.meituan.net/movIE/34998e31c6d07475f1add6b8b16fd21d192579.jpg@160w_220h_1e_1c','Title': '少年派的奇幻漂流','actor': '苏拉·沙玛,伊尔凡·可汗,塔布','time': '2012-11-22','score': '9.1'}{'index': '63','image': 'http://p1.meituan.net/movIE/96bb58f3e9d213fb0438987d16d27561379209.jpg@160w_220h_1e_1c','Title': '蝙蝠侠：黑暗骑士崛起',迈克尔·凯恩,加里·奥德曼','time': '2012-08-27','score': '8.9'}{'index': '64','image': 'http://p0.meituan.net/movIE/7b7d1f8aa36d7a15463ce6942708a1a7265296.jpg@160w_220h_1e_1c','Title': '美丽心灵','actor': '罗素·克劳,詹妮弗·康纳利,艾德·哈里斯','time': '2001-12-21(美国)','score': '8.8'}{'index': '65','image': 'http://p0.meituan.net/movIE/7ec873ba943f13e3c63789d899bd0e23256871.jpg@160w_220h_1e_1c','Title': '夜访吸血鬼','actor': '汤姆·克鲁斯,克尔斯滕·邓斯特','time': '1994-11-11(美国)','score': '8.8'}{'index': '66','image': 'http://p1.meituan.net/movIE/68fa7db99e958c47d7aa07d015845a6f335154.jpg@160w_220h_1e_1c','Title': '哈利·波特与死亡圣器（下）','time': '2011-08-04','score': '9.0'}{'index': '67','image': 'http://p1.meituan.net/movIE/6d0510f326bf145dcf49a901fb949b77278838.jpg@160w_220h_1e_1c','Title': '倩女幽魂',王祖贤,午马','time': '2011-04-30','score': '9.2'}{'index': '68','image': 'http://p1.meituan.net/movIE/484171372de45945e8bbbcc97db57e09136701.jpg@160w_220h_1e_1c','Title': '钢琴家','actor': '艾德里安·布洛迪,艾米莉娅·福克斯,米哈乌·热布罗夫斯基','time': '2002-09-25(法国)','score': '8.8'}{'index': '69','image': 'http://p0.meituan.net/movIE/2526f77c650bf7cf3d5ee2dccdeac332244951.jpg@160w_220h_1e_1c','Title': '本杰明·巴顿奇事','actor': '布拉德·皮特,凯特·布兰切特,塔拉吉·P·汉森','time': '2008-12-25(美国)','score': '8.8'}{'index': '70','image': 'http://p0.meituan.net/movIE/fcc17667b8343131101eeb4c67d90bf9150883.jpg@160w_220h_1e_1c','Title': '无敌破坏王','actor': '约翰·C·赖利,萨拉·西尔弗曼,简•林奇','time': '2012-11-06','score': '9.0'}{'index': '71','image': 'http://p1.meituan.net/movIE/32590f3fa6b4ca94692291f8ba145c14352462.jpg@160w_220h_1e_1c','Title': '魔女宅急便','actor': '高山南,佐久间玲,户田惠子','time': '1989-07-29(日本)','score': '8.8'}{'index': '72','image': 'http://p1.meituan.net/movIE/4ad513be2e9419ec7d7d63ba8cc2b6cc134065.jpg@160w_220h_1e_1c','Title': '熔炉','actor': '孔刘,郑有美,金智英','time': '2011-09-22(韩国)','score': '8.8'}{'index': '73','image': 'http://p1.meituan.net/movIE/7ed07b8ea8c0e0d0c7b685d20e3ec64e232004.jpg@160w_220h_1e_1c','Title': '初恋这件小事','actor': '马里奥·毛瑞尔,平采娜·乐维瑟派布恩,阿查拉那·阿瑞亚卫考','time': '2012-06-05','score': '8.8'}{'index': '74','image': 'http://p1.meituan.net/movIE/dc2246233a6f5ac1e34c7176b602c8ca174557.jpg@160w_220h_1e_1c','Title': '大话西游之大圣娶亲',朱茵,莫文蔚','score': '8.8'}{'index': '75','image': 'http://p0.meituan.net/movIE/9e9f12cfc1f54c973dda6c85bd3a139d334520.jpg@160w_220h_1e_1c','Title': '新龙门客栈','actor': '张曼玉,梁家辉,甄子丹','time': '2012-02-24','score': '8.8'}{'index': '76','image': 'http://p0.meituan.net/movIE/7874ba1378033b0b491df0cc56c43d25221208.jpg@160w_220h_1e_1c','Title': '触不可及','actor': '弗朗索瓦·克鲁塞,奥玛·希,安娜·勒尼','time': '2011-11-02(法国)','score': '9.1'}{'index': '77','image': 'http://p1.meituan.net/movIE/8ad5a0f521fb15637dfdf9cab38d414453783.jpg@160w_220h_1e_1c','Title': '甜蜜蜜','actor': '黎明,张曼玉,曾志伟','time': '2015-02-13','score': '9.2'}{'index': '78','image': 'http://p0.meituan.net/movIE/4cc4c55c29b77b090485ce9943bf6f87274708.jpg@160w_220h_1e_1c','Title': '素媛','actor': '李来,薛耿求,严志媛','time': '2013-10-02(韩国)','score': '9.1'}{'index': '79','image': 'http://p1.meituan.net/movIE/bc7b6ababa54e11577d45c05e84a33af54072.jpg@160w_220h_1e_1c','Title': '小鞋子','actor': '默罕默德·阿米尔·纳吉,Kamal Mirkarimi,Behzad Rafi','time': '1999-01-22(美国)','score': '9.1'}{'index': '80','image': 'http://p0.meituan.net/movIE/5420be40e3b755ffe04779b9b199e935256906.jpg@160w_220h_1e_1c','Title': '萤火之森','actor': '内山昂辉,佐仓绫音,后藤弘树','time': '2011-09-17(日本)','score': '9.0'}{'index': '81','image': 'http://p0.meituan.net/movIE/4abc8c932cfacfc0089e2883765d02d1295222.jpg@160w_220h_1e_1c','Title': '时空恋旅人','actor': '瑞秋·麦克亚当斯,多姆纳尔·格里森,比尔·奈伊','time': '2013-09-04(英国)','score': '8.9'}{'index': '82','image': 'http://p1.meituan.net/movIE/a0e0426a4390f5ecb49d25770a184dc0150779.jpg@160w_220h_1e_1c','Title': '穿条纹睡衣的男孩','actor': '阿沙·巴特菲尔德,维拉·法梅加,大卫•休里斯','time': '2008-09-12(英国)','score': '9.0'}{'index': '83','image': 'http://p0.meituan.net/movIE/3985eaf3858bea0f2a3d966bf7ee2103178217.jpg@160w_220h_1e_1c','Title': '窃听风暴','actor': '乌尔里希·穆埃,塞巴斯蒂安·科赫,马蒂娜·戈黛特','time': '2006-03-23(德国)','score': '9.0'}{'index': '84','image': 'http://p1.meituan.net/movIE/1cb974ad0afb36582fc8090220417950344272.jpg@160w_220h_1e_1c','Title': '地球上的星星','actor': '塔奈·切赫达,阿米尔·汗,达席尔·萨法瑞','time': '2007-12-21(印度)','score': '8.8'}{'index': '85','image': 'http://p0.meituan.net/movIE/b5ff0216e689b3fcc065590c48cd5105255305.jpg@160w_220h_1e_1c','Title': '恐怖直播','actor': '河正宇,李璟荣,李大为','time': '2013-07-31(韩国)','score': '8.8'}{'index': '86','image': 'http://p0.meituan.net/movIE/ce262f261f69fc3d679020402336a4af270365.jpg@160w_220h_1e_1c','Title': '借东西的小人阿莉埃蒂','actor': '志田未来,神木隆之介,大竹忍','time': '2010-07-17(日本)','score': '8.8'}{'index': '87','image': 'http://p1.meituan.net/movIE/6a6e74b2c289f9fa4433dd2dc04a7741331638.jpg@160w_220h_1e_1c','Title': '7号房的礼物','actor': '柳承龙,郑镇荣,朴信惠','time': '2013-01-23(韩国)','score': '8.9'}{'index': '88','image': 'http://p0.meituan.net/movIE/7373dbba07b50ce6f24336edb96b2ea4271536.jpg@160w_220h_1e_1c','Title': '海豚湾','actor': '里克·奥巴瑞,路易·西霍尤斯,哈迪·琼斯','time': '2009-07-31(美国)','score': '8.9'}{'index': '89','image': 'http://p1.meituan.net/movIE/c835b3588d0061ed3b992388a0a96f15160913.jpg@160w_220h_1e_1c','Title': '忠犬八公物语','actor': '仲代达矢,春川真澄,井川比佐志','time': '1987-08-01(日本)','score': '9.0'}{'index': '90','image': 'http://p1.meituan.net/movIE/b553d13f30100db731ab6cf45668e52d94703.jpg@160w_220h_1e_1c','Title': '上帝之城','actor': '亚历桑德雷·罗德里格斯,艾莉丝·布拉加,莱安德鲁·菲尔米诺','time': '2002-08-30(巴西)','score': '8.9'}{'index': '91','image': 'http://p0.meituan.net/movIE/8fabf3894b7d12d3d2f6e66404813670265761.jpg@160w_220h_1e_1c','Title': '辩护人','actor': '宋康昊,郭度沅,吴达洙','time': '2013-12-18(韩国)','score': '8.8'}{'index': '92','image': 'http://p1.meituan.net/movIE/73349facab53529ab9e079c6c8c7c059281729.jpg@160w_220h_1e_1c','Title': '七武士','actor': '三船敏郎,志村乔,千秋实','time': '1954-04-26(日本)','score': '9.1'}{'index': '93','image': 'http://p1.meituan.net/movIE/2c0a5fedf4b43d142121b91c6ccabe1b59051.jpg@160w_220h_1e_1c','Title': '一一','actor': '吴念真,金燕玲,李凯莉','time': '2000-09-20(法国)','score': '8.9'}{'index': '94','image': 'http://p1.meituan.net/movIE/30310858fdab34c7a17cfd7ec8ad8bfc112201.jpg@160w_220h_1e_1c','Title': '完美的世界','actor': '凯文·科斯特纳,克林特·伊斯特伍德,T·J·劳瑟','time': '1993-11-24(美国)','score': '8.9'}{'index': '95','image': 'http://p0.meituan.net/movIE/0018b57299d0d4540330a31244c880a9112971.jpg@160w_220h_1e_1c','Title': '海洋','actor': '雅克·贝汉,姜文,兰斯洛特·佩林','time': '2011-08-12','score': '9.0'}{'index': '96','image': 'http://p1.meituan.net/movIE/36a893c53a13f9bb934071b86ae3b5c492427.jpg@160w_220h_1e_1c','Title': '爱·回家','actor': '俞承豪,金艺芬,童孝熙','time': '2002-04-05(韩国)','score': '9.0'}{'index': '97','image': 'http://p1.meituan.net/movIE/9bff56ed3ea38bb1825daa1d354bc92352781.jpg@160w_220h_1e_1c','Title': '黄金三镖客','actor': '克林特·伊斯特伍德,李·范·克里夫,埃里·瓦拉赫','time': '1966-12-23(意大利)','score': '8.9'}{'index': '98','image': 'http://p1.meituan.net/movIE/ed50b58bf636d207c56989872a91f4cf305138.jpg@160w_220h_1e_1c','Title': '我爱你','actor': '宋在浩,李顺才,尹秀晶','time': '2011-02-17(韩国)','score': '9.0'}{'index': '99','image': 'http://p1.meituan.net/movIE/a1634f4e49c8517ae0a3e4adcac6b0dc43994.jpg@160w_220h_1e_1c','Title': '迁徙的鸟',Philippe Labro','time': '2001-12-12(法国)','score': '9.1'}{'index': '100','image': 'http://p0.meituan.net/movIE/3e5f5f3aa4b7e5576521e26c2c7c894d253975.jpg@160w_220h_1e_1c','Title': '英雄本色','actor': '狄龙,张国荣,周润发','time': '2017-11-17','score': '9.2'}requests+正则表达式抓取瓜子二手网二手车信息
一、分析网页结构
这里我们根据城市与品牌来筛选
当我们点击城市孝感、汽车品牌大众
我们可以看到url的组成
https://www.guazi.com/后面跟的是城市的缩写，然后是汽车品牌，变成下面的
https://www.guazi.com/xiaogan/dazhong
二、分析网页内容
进群：548377875 即可获取数十套pdf以及大量的学习资料！
三、源代码
在这里要注意获取瓜子二手网页面信息需要cookie，没有cookie抓取不成功。
f12打开，然后获取右边Request headers信息，copy到请求头。
import requestsimport refrom requests.exceptions import RequestException#获取页面源代码def get_page(url,headers,city,logo): crawl_url = url+city+'/'+logo+'/' print(crawl_url) try: response = requests.get(crawl_url,headers=headers) if response.status_code ==200: return response.text except RequestException: return None#解析页面def parse_page(HTML,url,): pattern = re.compile('',re.S) result =re.findall(pattern,HTML)#迭代器 for item in result: yIEld{ '车型':item[0],'img-url':url+item[1] }def mian(): url = 'https://www.guazi.com/' headers = { 'Accept':'text/HTML,application/xhtml+xml,application/xml;q=0.9,image/webp,*/*;q=0.8','Accept-EnCoding':'gzip,deflate,sdch,br','Accept-Language':'zh-CN,zh;q=0.8','Cache-Control':'max-age=0','Connection':'keep-alive','cookie':'uuID=2fc3c4a9-0346-4402-922c-cfe50ddc0474; antipas=Xz1U56hc02646759115E8169529; ganji_uuID=8392432802393356853482; financeCityDomain=all; 2fc3c4a9-0346-4402-922c-cfe50ddc0474_vIEws=1; 1e049043-4ff0-4550-92e0-5f40105d0187_vIEws=1; Hm_lvt_e6e64ec34653ff98b12aab73ad895002=1540715608; Hm_lpvt_e6e64ec34653ff98b12aab73ad895002=1540715608; cityDomain=sh; preTime=%7B%22last%22%3A1540717606%2C%22this%22%3A1540711622%2C%22pre%22%3A1540711622%7D; lg=1; sessionID=1e049043-4ff0-4550-92e0-5f40105d0187; clueSourceCode=%2A%2300; cainfo=%7B%22ca_s%22%3A%22dh_360llqmz%22%2C%22ca_n%22%3A%22360llq_mz%22%2C%22ca_i%22%3A%22-%22%2C%22ca_medium%22%3A%22-%22%2C%22ca_term%22%3A%22-%22%2C%22ca_content%22%3A%22-%22%2C%22ca_campaign%22%3A%22-%22%2C%22ca_kw%22%3A%22-%22%2C%22keyword%22%3A%22-%22%2C%22ca_keywordID%22%3A%22-%22%2C%22scode%22%3A%22-%22%2C%22ca_transID%22%3Anull%2C%22platform%22%3A%221%22%2C%22version%22%3A1%2C%22ca_b%22%3A%22-%22%2C%22ca_a%22%3A%22-%22%2C%22display_finance_flag%22%3A%22-%22%2C%22clIEnt_ab%22%3A%22-%22%2C%22guID%22%3A%222fc3c4a9-0346-4402-922c-cfe50ddc0474%22%2C%22sessionID%22%3A%221e049043-4ff0-4550-92e0-5f40105d0187%22%7D','Host':'www.guazi.com','upgrade-insecure-requests':'1','User-Agent':'Mozilla/5.0 (windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML,like Gecko) Chrome/55.0.2883.87 Safari/537.36',} city=input("请输入城市:") logo=input("请输入品牌:") HTML = get_page(url,logo) for item in parse_page(HTML,'https://www.guazi.com'): print(item)if __name__== '__main__': mian()四、运行结果如下
请输入城市:xiaogan请输入品牌:dazhonghttps://www.guazi.com/xiaogan/dazhong/{'车型': '大众 捷达 2013款 1.4L 手动时尚型"','img-url': 'https://www.guazi.com/xiaogan/94f2fe13681c5b05x.htm#fr_page=List&fr_pos=city&fr_no=0'}{'车型': '大众 途观 2016款 280TSI 自动两驱丝绸之路风尚版"','img-url': 'https://www.guazi.com/xiaogan/ceb9d6ea4c37a5f1x.htm#fr_page=List&fr_pos=city&fr_no=1'}{'车型': '大众 宝来 2014款 1.6L 手动时尚型"','img-url': 'https://www.guazi.com/xiaogan/05e6da7df3c1d2e1x.htm#fr_page=List&fr_pos=city&fr_no=2'}{'车型': '大众凌渡 2017款 280TSI DSG舒适版"','img-url': 'https://www.guazi.com/xiaogan/5bbf4113ab302bcfx.htm#fr_page=List&fr_pos=city&fr_no=3'}{'车型': '大众 桑塔纳经典 2007款 1.8L 景畅型"','img-url': 'https://www.guazi.com/xiaogan/7742573ade9d814bx.htm#fr_page=List&fr_pos=city&fr_no=4'}{'车型': '大众 途观L 2017款 330TSI 自动两驱豪华版"','img-url': 'https://www.guazi.com/xiaogan/32875671425ebe3ex.htm#fr_page=List&fr_pos=city&fr_no=5'}{'车型': '大众 途观 2015款 1.8TSI 自动四驱豪华型"','img-url': 'https://www.guazi.com/xiaogan/88df983165e74331x.htm#fr_page=List&fr_pos=city&fr_no=6'}{'车型': '大众朗逸 2011款 1.6L 自动品轩版"','img-url': 'https://www.guazi.com/xiaogan/15ff6ed2d9ae2203x.htm#fr_page=List&fr_pos=city&fr_no=7'}{'车型': '大众速腾 2018款 280TSI DSG舒适型"','img-url': 'https://www.guazi.com/xiaogan/9c8edefc9d69dcbbx.htm#fr_page=List&fr_pos=city&fr_no=8'}{'车型': '大众 途观 2015款 1.8TSI 自动两驱舒适版"','img-url': 'https://www.guazi.com/xiaogan/65ee645abb0fbf97x.htm#fr_page=List&fr_pos=city&fr_no=9'}{'车型': '大众 迈腾 2016款 1.8TSI 智享舒适型"','img-url': 'https://www.guazi.com/xiaogan/22a016f6a5d5e073x.htm#fr_page=List&fr_pos=city&fr_no=10'}{'车型': '大众 高尔夫 2012款 1.6 自动舒适型"','img-url': 'https://www.guazi.com/xiaogan/df3d357c206e1a7bx.htm#fr_page=List&fr_pos=city&fr_no=11'}{'车型': '大众途安 2016款 途安L 280TSI 手动风尚版"','img-url': 'https://www.guazi.com/xiaogan/678c9b93d4d013fax.htm#fr_page=List&fr_pos=city&fr_no=12'}{'车型': '大众 速腾 2015款 1.6L 手动舒适型"','img-url': 'https://www.guazi.com/xiaogan/89fc93331c3a8e0fx.htm#fr_page=List&fr_pos=city&fr_no=13'}{'车型': '大众帕萨特 2014款 2.0TSI DSG至尊版"','img-url': 'https://www.guazi.com/xiaogan/06736d1b5fa5a7dax.htm#fr_page=List&fr_pos=city&fr_no=14'}{'车型': '大众 凌渡 2017款 280TSI DSG豪华版"','img-url': 'https://www.guazi.com/xiaogan/2d0ab9f515c2089cx.htm#fr_page=List&fr_pos=city&fr_no=15'}{'车型': '大众桑塔纳 2015款 1.6L 手动舒适版"','img-url': 'https://www.guazi.com/xiaogan/9a1b73c93130bba3x.htm#fr_page=List&fr_pos=city&fr_no=16'}{'车型': '大众 途锐 2016款 3.0TSI 高配型(进口)"','img-url': 'https://www.guazi.com/xiaogan/f28de8e4da8571b0x.htm#fr_page=List&fr_pos=city&fr_no=17'}{'车型': '大众 宝来 2011款 1.6L 手动舒适型"','img-url': 'https://www.guazi.com/xiaogan/955e69dab9aa111dx.htm#fr_page=List&fr_pos=city&fr_no=18'}{'车型': '大众 朗行 2013款 1.4TSI 自动豪华型"','img-url': 'https://www.guazi.com/xiaogan/7df2ced5ca40e8e6x.htm#fr_page=List&fr_pos=city&fr_no=19'}{'车型': '大众 途观 2010款 1.8TSI 自动四驱菁英版"','img-url': 'https://www.guazi.com/xiaogan/c60fb9ec1f8666a0x.htm#fr_page=List&fr_pos=city&fr_no=20'}{'车型': '大众途观 2013款 1.8TSI 自动四驱豪华型"','img-url': 'https://www.guazi.com/xiaogan/145536c92be1aaeex.htm#fr_page=List&fr_pos=city&fr_no=21'}{'车型': '大众 迈腾 2015款 1.8TSI 领先型"','img-url': 'https://www.guazi.com/xiaogan/15dee89c3e77685bx.htm#fr_page=List&fr_pos=city&fr_no=22'}{'车型': '大众 帕萨特 2011款 1.8TSI 自动尊荣版"','img-url': 'https://www.guazi.com/xiaogan/5d00d1dc1d3c70c4x.htm#fr_page=List&fr_pos=city&fr_no=23'}{'车型': '大众途观 2010款 1.8TSI 自动四驱菁英版"','img-url': 'https://www.guazi.com/xiaogan/755199e0de028d9dx.htm#fr_page=List&fr_pos=city&fr_no=24'}{'车型': '大众 桑塔纳 2013款 1.6L 手动舒适版"','img-url': 'https://www.guazi.com/xiaogan/c77dd5c33a90db1dx.htm#fr_page=List&fr_pos=city&fr_no=25'}{'车型': '大众 桑塔纳 2015款 1.6L 手动舒适版"','img-url': 'https://www.guazi.com/xiaogan/4e63858cbd9dc622x.htm#fr_page=List&fr_pos=city&fr_no=26'}{'车型': '大众途观 2013款 1.8TSI 自动两驱豪华型"','img-url': 'https://www.guazi.com/xiaogan/f49db57d3e419caex.htm#fr_page=List&fr_pos=city&fr_no=27'}{'车型': '大众尚酷 2013款 2.0TSI 百万里程版(进口)"','img-url': 'https://www.guazi.com/xiaogan/69c112e884ae1484x.htm#fr_page=List&fr_pos=city&fr_no=28'}{'车型': '大众 途观 2012款 1.8TSI 手动两驱都会版"','img-url': 'https://www.guazi.com/xiaogan/f2461de210f0eb22x.htm#fr_page=List&fr_pos=city&fr_no=29'}{'车型': '大众 帕萨特 2011款 2.0TSI DSG御尊版"','img-url': 'https://www.guazi.com/xiaogan/f346c08377bbec7cx.htm#fr_page=List&fr_pos=city&fr_no=30'}{'车型': '大众 途观 2010款 1.8TSI 自动四驱菁英版"','img-url': 'https://www.guazi.com/xiaogan/6fda3abaec7a66abx.htm#fr_page=List&fr_pos=city&fr_no=31'}{'车型': '大众 速腾 2012款 1.4TSI 手动豪华型"','img-url': 'https://www.guazi.com/xiaogan/ae01a0b70de85065x.htm#fr_page=List&fr_pos=city&fr_no=32'}{'车型': '大众帕萨特 2013款 1.4TSI DSG蓝驱版"','img-url': 'https://www.guazi.com/xiaogan/0fce209fbf6fc061x.htm#fr_page=List&fr_pos=city&fr_no=33'}{'车型': '大众 速腾 2015款 1.6L 自动舒适型"','img-url': 'https://www.guazi.com/xiaogan/e51cebbf45d7d290x.htm#fr_page=List&fr_pos=city&fr_no=34'}{'车型': '大众 桑塔纳志俊 2008款 1.8L 手动舒适型"','img-url': 'https://www.guazi.com/xiaogan/e19bd8ed2c029a1dx.htm#fr_page=List&fr_pos=city&fr_no=35'}{'车型': '大众朗逸 2011款 1.4TSI 手动品雅版"','img-url': 'https://www.guazi.com/xiaogan/5546bd82a95f162cx.htm#fr_page=List&fr_pos=city&fr_no=36'}{'车型': '大众 速腾 2014款 改款 1.4TSI 自动豪华型"','img-url': 'https://www.guazi.com/xiaogan/eb3f577dcb391dfex.htm#fr_page=List&fr_pos=city&fr_no=37'}{'车型': '大众PolO 2016款 1.4L 手动风尚型"','img-url': 'https://www.guazi.com/xiaogan/8ed7a351c253a38ax.htm#fr_page=List&fr_pos=city&fr_no=38'}{'车型': '大众CC 2012款 2.0TSI 豪华型"','img-url': 'https://www.guazi.com/xiaogan/d28fb86ff1520d3fx.htm#fr_page=List&fr_pos=city&fr_no=39'} 总结 以上是内存溢出为你收集整理的带给大家几个比较好玩的爬虫案例！适合小萌新玩！（附源码思路）全部内容，希望文章能够帮你解决带给大家几个比较好玩的爬虫案例！适合小萌新玩！（附源码思路）所遇到的程序开发问题。
如果觉得内存溢出网站内容还不错，欢迎将内存溢出网站推荐给程序员好友。
欢迎分享，转载请注明来源：内存溢出
微信扫一扫
支付宝扫一扫
评论列表（0条）