近几日,对爬虫的练习日常还是有的,有网友让我给他写一套简单的百度爬虫。爬取百度反馈的结果页面,提取h3标签内容,提取里面的title信息,和目标词条进行简单的字符串拼接组合。给大家看看爬取组合后的效果。
组合后的结果展示
如图所示,下划线前面是目标词条,根据目标词条进行百度搜索。拿到反馈的结果后,从页面内提取出来h3标签的内容,
组合的时候,对h3的title内容进行了随机的截取 *** 作。
# -*- coding: utf-8 -*-
import random
import time
from selenium import webdriver
from selenium.webdriver import ChromeOptions
from selenium.webdriver.common.by import By
from selenium.webdriver.support.expected_conditions import title_contains
from selenium.webdriver.support.wait import WebDriverWait
from selenium.webdriver.chrome.options import Options
def get_h3(brw):
return brw.find_elements(By.CSS_SELECTOR, value='h3.t')
def get_div_byclass(brw):
# //*[@id="3003"]/div/div/div/div[1]/h3/div
#
欢迎分享,转载请注明来源:内存溢出
评论列表(0条)