爬虫可以做什么

问题一：python网络爬虫可以干啥 爬虫可以抓取网络上的数据啊。爬虫可以用很多种编程语言实现，python只是一种。所以你想知道的是网络爬虫可以干什么。

他比如证券交易数据，天气数据，网站用户数据，。

拿到这些数据之后你就可以做下一步工作了。

你去看看这里就明白了。baikebaidu/view/284853

问题二：网络爬虫都能做什么？ 网络爬虫是一种程序,主要用于搜索引擎,它将一个网站的所有内容与链接进行阅读,并建立相关的全文索引到数据库中,然后跳到另一个网站样子好像一只大蜘蛛

当人们在网络上(如google)搜索关键字时,其实就是比对数据库中的内容,找出与用户相符合的网络爬虫程序的质量决定了搜索引擎的能力,如google的搜索引擎明显要比百度好,就是因为它的网络爬虫程序高效,编程结构好

问题三：能利用爬虫技术做到哪些很酷很有趣很有用的事情 譬如种子搜索，网盘搜索，铁路订票搜索

问题四：能利用爬虫技术做到哪些很酷很有趣很有用的事情 最常见就是模拟登录。。最近在研究的。延伸下去可以攻击，并发攻击，不过一般大型的网站都有防爬虫，难就难在要做反防爬虫

问题五：网络爬虫程序可以做些什么 对网站进行爬行，爬行后根据合理的情况抓取和收录网站

问题六：利用爬虫技术能做到哪些很酷很有趣很有用的事情 对于一些学生来说，如果想要找数据分析和数据挖掘方面的岗位，可以通过集搜客将这些信息爬下来，比如说拉勾网，顺手分析下各个城市的岗位需求和薪资待遇什么的，既能够练练分析能力，又可以找到心仪的岗位。

知乎社区的用户信息分析。

喜欢**的人，将豆瓣**的评分爬下来，然后就不愁没**看了。

问题七：利用爬虫技术能做到哪些很酷很有趣很有用的事情 这种问题典型的某乎的问题啊！但是爪机不方便公式发图了，只好简单说了。

爬虫就是你在浏览器上所见的都可以用程序给你搜集下来，而且运用远大于人脑的速度筛选出重要的信息，以便进行进一步的分析。

说到酷和有趣，你觉得一个指尖飞舞的键盘侠酷不酷。而你绝对没经历过，比跟防爬虫的工程师对弈更有趣的事。

要说到有用，想开点吧，学第二类曲线积分有用吗？

问题八：爬虫可以做哪些有趣的事情，欢迎讨论 用爬虫可以采集很多数据，做一些统计，比如我之前用前嗅的ForeSpider采集软件采了豆瓣的影评，然后经过这个软件对应的数据分析系统，就给我将数据全都进行分析处理，得出了一份报告，我就能知道这一年那些**评分高，等等。

问题九：喜欢爬虫类能做什么工作 最多把它当成业余爱好吧 在国内限制很多的 爬虫店自己想弄的话 有些东西很难的

建议养点非保护的 蛇类 或其他爬虫 或者去林业办理一个 野生动物驯养许可 就可以肆无忌惮的养了 只要你不作死

问题十：python爬虫可以用来做什么 所说所有的变量都是对象。 对象在python里，其实是一个指针，指向一个数据结构，数据结构里有属性，有方法。

对象通常就是指变量。从面向对象OO的概念来讲，对象是类的一个实例。在python里很简单，对象就是变量。

class A:

myname=class a

上面就是一个类。不是对象

a=A()

这里变量a就是一个对象。

它有一个属性（类属性），myname，你可以显示出来

print amyname

所以，你看到一个变量后面跟点一个小数点。那么小数点后面

只要包含网络和字符串处理功能的编程语言理论上都可以写爬虫，所以PHP当然完全没问题。如何用PHP写爬虫的前提是你要先调研清楚爬什么内容。这需要你针对要爬取目标做好充分的测试和准备工作，否则会浪费很多时间。

比如一个简单的“传统型”网站，那真的只需要用file_get_contents函数加正则就能搞定。觉的正则匹配数据太麻烦可以上xpath。如果站点有了频率和IP限制，这时就要额外准备好代理IP池了。当发现抓取内容是JS渲染的，可能要考虑引入headlessbrowser这种技术的PHP扩展了。对爬取效率有了要求后，多线程，抓取和解析分离，分布式也是要考虑的了。。。

回到问题本身如何写的问题，我个人觉得爬虫是个定制化比较高的业务需求，需要根据具体的场景来规划。如果是要写一个能解决所有爬虫场景的，那就不用自己写了，成熟的开源软件拿来直接用就行了。非要写的话可以直接参考这些成熟的软件，自己可以少踩很多坑。

爬虫一般指网络资源的抓取，通过编程语言撰写爬虫工具，抓取自己想要的数据以及内容。而在众多编程语言之中，Python有丰富的网络抓取模块，因此成为撰写爬虫的首选语言，并引起了学习热潮。

Python作为一门编程语言而纯粹的自由软件，以简洁清晰的语法和强制使用空白符号进行语句缩进的特点受到程序员的喜爱。用不同编程语言完成一个任务，C语言一共要写1000行代码，Java要写100行代码，而Python只需要20行，用Python来完成编程任务代码量更少，代码简洁简短而且可读性强。

Python非常适合开发网络爬虫，因为对比其他静态编程语言，Python抓取网页文档的接口更简洁;对比其他脚本语言，Python的urllib2包提供了较为完整的访问网页文档的API。

Python爬虫的工作流程是什么

Python爬虫通过URL管理器，判断是否有待爬URL，如果有待爬URL，通过调度器进行传递给下载器，下载URL内容，通过调度器传送给解释器，解析URL内容，将有价值数据和新的URL列表通过调度器传递给应用程序，输出价值信息的过程。

Python是一门非常适合开发网络爬虫的语言，提供了urllib、re、json、pyquery等模块，同时还有很多成型框架，比如说Scrapy框架、PySpider爬虫系统等，代码十分简洁方便，是新手学习网络爬虫的首选语言。

很容易解决

由于：

1、网站服务器在收到请求的同时还能获得请求方的IP地址，当网站服务器检测到短时间内同一IP地址发起了大量请求，就会认为该IP地址的用户是爬虫程序，并对该IP地址进行访问限制。为了规避这种“反爬”手段，可以使用代理服务器代替实际的IP地址来发起请求。

2、很多网站服务器为了防止他人爬取数据，会对发起请求的一方进行身份验证，主要手段就是看请求包的请求头中的User-Agent信息。

因此： 使用requests包的headers，proxies参数可以完美规避反爬。

解决方法：

我所使用的版本是python396，代码如下：

import request

#你所请求的网址

url=''

#按F12，在开发者工具里依次点击network,name,headers,User-Agent

headers = {'User-Agent': ''}

proxies = {'>

首先您应该明确，不止Python这一种语言可以做爬虫，诸如PHP、Java、C/C++都可以用来写爬虫程序，但是相比较而言Python做爬虫是最简单的。下面对它们的优劣势做简单对比：

PHP：对多线程、异步支持不是很好，并发处理能力较弱；Java也经常用来写爬虫程序，但是Java语言本身很笨重，代码量很大，因此它对于初学者而言，入门的门槛较高；C/C++运行效率虽然很高，但是学习和开发成本高。写一个小型的爬虫程序就可能花费很长的时间。

而Python语言，其语法优美、代码简洁、开发效率高、支持多个爬虫模块，比如urllib、requests、Bs4等。Python的请求模块和解析模块丰富成熟，并且还提供了强大的Scrapy框架，让编写爬虫程序变得更为简单。因此使用Python编写爬虫程序是个非常不错的选择。

编写爬虫的流程

爬虫程序与其他程序不同，它的的思维逻辑一般都是相似的，所以无需我们在逻辑方面花费大量的时间。下面对Python编写爬虫程序的流程做简单地说明：

先由urllib模块的request方法打开URL得到网页HTML对象。使用浏览器打开网页源代码分析网页结构以及元素节点。通过BeautifulSoup或则正则表达式提取数据。存储数据到本地磁盘或数据库。

当然也不局限于上述一种流程。编写爬虫程序，需要您具备较好的Python编程功底，这样在编写的过程中您才会得心应手。爬虫程序需要尽量伪装成人访问网站的样子，而非机器访问，否则就会被网站的反爬策略限制，甚至直接封杀IP，相关知识会在后续内容介绍。

能够做网络爬虫的编程语言很多，包括PHP、Java、C/C++、Python等都能做爬虫，都能达到抓取想要的数据资源。针对不同的环境，我们需要了解他们做爬虫的优缺点，才能选出合适的开发环境。

（一）PHP

网络爬虫需要快速的从服务器中抓取需要的数据，有时数据量较大时需要进行多线程抓取。PHP虽然是世界上最好的语言，但是PHP对多线程、异步支持不足，并发不足，而爬虫程序对速度和效率要求极高，所以说PHP天生不是做爬虫的。

（二）C/C++

C语言是一门面向过程、抽象化的通用程序设计语言，广泛应用于底层开发，运行效率和性能是最强大的，但是它的学习成本非常高，需要有很好地编程知识基础，对于初学者或者编程知识不是很好地程序员来说，不是一个很好的选择。当然，能够用C/C++编写爬虫程序，足以说明能力很强，但是绝不是最正确的选择。

（三）Java

在网络爬虫方面，作为Python最大的对手Java，拥有强大的生态圈。但是Java本身很笨重，代码量大。由于爬虫与反爬虫的较量是持久的，也是频繁的，刚写好的爬虫程序很可能就不能用了。爬虫程序需要经常性的修改部分代码。而Java的重构成本比较高，任何修改都会导致大量代码的变动。

（四）Python

Python在设计上坚持了清晰划一的风格，易读、易维护，语法优美、代码简洁、开发效率高、第三方模块多。并且拥有强大的爬虫Scrapy，以及成熟高效的scrapy-redis分布式策略。实现同样的爬虫功能，代码量少，而且维护方便，开发效率高。

以上就是关于爬虫可以做什么全部的内容，包括:爬虫可以做什么、php实现网络爬虫、Python爬虫是什么等相关内容解答，如果想了解更多相关内容，可以关注我们，你们的支持是我们更新的动力！