好的,所以我提出了一个可行的解决方案。首先,我们需要Lua脚本是可变的,因此我们将其设为一个函数:
def script(n): _script = """ function main(splash) local url = splash.args.url local href = "" assert(splash:go(url)) assert(splash:wait(0.5)) splash:runjs('document.querySelectorAll("a.gs_nph[aria-controls=gs_cit]")[{}].click()') splash:wait(3) href = splash:evaljs('document.querySelectorAll("a.gs_citi")[0].href') assert(splash:go(href)) return {} end """.format(n, "{html=splash:html(),png=splash:png(), href=href,}") return _script
然后,我不得不修改该
parse函数,以便单击页面上的所有“引用”链接。这样做的方法是遍历页面上所有匹配的“引用”链接,然后分别单击每个链接。我使Lua脚本再次加载页面(这很脏,但我想不出其他方式),然后单击查询的“
Cite”链接的索引。它还必须进行重复的请求,因此为什么
dont_filter=True存在:
def parse(self, response): n = len(response.css("a.gs_nph[aria-controls=gs_cit]").extract()) for i in range(n): yield SplashRequest(response.url, self.parse_bib, endpoint="execute", args={"lua_source": script(i)}, dont_filter=True)
希望这可以帮助。
欢迎分享,转载请注明来源:内存溢出
评论列表(0条)