如何学习可视化监控你的爬虫！爬虫一个不小心就会犯法的！

概述好，开始今天的文章。今天主要是来说一下怎么可视化来监控你的爬虫的状态。

好，开始今天的文章。

今天主要是来说一下怎么可视化来 监控你的爬虫的状态 。

相信大家在跑爬虫的过程中，也会好奇自己养的爬虫一分钟可以 爬多少页面 ， 多大的数据量 ，当然查询的方式多种多样。今天我来讲一种可视化的方法。

关于爬虫数据在mongodb里的版本我写了一个可以热更新配置的版本，即添加了新的爬虫配置以后，不用重启程序，即可获取刚刚添加的爬虫的状态数据，大家可以通过关注我的公众号以后， 回复“ 可视化” 即可获取脚本地址 。

1.成品图

进群：548377875  即可获取小编精心准备的大礼包一份哦！

这个是监控服务器网速的最后成果，显示的是下载与上传的网速，单位为M。爬虫的原理都是一样的，只不过将数据存到InfluxDB的方式不一样而已。

2. 环境

InfluxDb ，是目前比较流行的时间序列数据库； Grafana ，一个可视化面板（Dashboard），有着非常漂亮的图表和布局展示，功能齐全的度量仪表盘和图形编辑器，支持Graphite、zabbix、InfluxDB、Prometheus和OpenTSDB作为数据源 Ubuntu influxdb （pip install influxdb) Python 2.7

3. 原理

获取要展示的数据，包含当前的时间数据，存到InfluxDb里面，然后再到Grafana里面进行相应的配置即可展示；

4. 安装

4.1 Grafana安装

官方安装指导

安装好以后，打开本地的3000端口，即可进入管理界面，用户名与密码都是 admin 。

4.2 InfulxDb安装

这个安装就网上自己找吧，有很多的配置我都没有配置，就不在这里误人子弟了。

5. InfluxDb简单 *** 作

碰到了数据库，肯定要把增删改查学会了啊， 和sql几乎一样，只有一丝丝的区别，具体 *** 作，大家可以参考官方的文档。

influx 进入命令行 CREATE DATABASE test 创建数据库 show databases 查看数据库 use test 使用数据库 show serIEs 看表 select * from table_test 选择数据 DROP MEASUREMENT table_test 删表

6. 存数据

InfluxDb数据库的数据有一定的格式，因为我都是利用python库进行相关 *** 作，所以下面将在python中的格式展示一下：

Json_body = [ { "measurement": "crawler","time": current_time,"Tags": { "spIDer_name": collection_name },"fIElds": { "count": current_count,"increase_count": increase_amount,"size": co_size,"increase_size": increase_co_size
}
}
]

其中:

measurement,表名 time ，时间 Tags ，标签 fIElds ，字段

可以看到，就是个列表里面，嵌套了一个字典。其中，对于时间字段，有特殊要求，可以参考 这里 ， 下面是python实现方法：

from datetime import datetimecurrent_time = datetime.utcNow().strftime('%Y-%m-%dT%H:%M:%sZ')

所以，到这里，如何将爬虫的相关属性存进去呢？以MongoDB为例

mongodb_clIEnt = pymongo.MongoClIEnt(uri) for db_name,collection_name in dbs_and_cos.iteritems(): # 数据库 *** 作 db = mongodb_clIEnt[db_name] co = db[collection_name] # 集合大小 co_size = round(float(db.command("collstats",collection_name).get('size')) / 1024 / 1024,2) # 集合内数据条数 current_count = co.count()初始化，当程序刚执行时，初始量就设置为第一次执行时获取的数据
init_count = _count_dict.get(collection_name,current_count)
初始化，当程序刚执行时，初始量就设置为第一次执行时获取的数据大小
init_size = _size_dict.get(collection_name,co_size)
条数增长量
increase_amount = current_count - init_count
集合大小增长量
increase_co_size = co_size - init_size
current_time = datetime.utcNow().strftime('%Y-%m-%dT%H:%M:%sZ')
赋值
_size_dict[collection_name] = co_size
_count_dict[collection_name] = current_count
Json_body = [
{
"measurement": "crawler","increase_size": increase_co_size
}
}
]
print Json_body
clIEnt.write_points(Json_body)

完整代码，关注上面的公众号，发送“” 可视化 “”即可获取。

那么现在我们已经往数据里存了数据了，那么接下来要做的就是把存的数据展示出来。

7.展示数据

7.1 配置数据源

以admin登录到Grafana的后台后，我们首先需要配置一下数据源。点击左边栏的最下面的按钮，然后点击DATA SOURCES，这样就可以进入下面的页面：

点击ADD DATA SOURCE，进行配置即可，如下图：

其中，name自行设定；Type 选择InfluxDB；url为默认的http://localhost:8086， 其他的因为我前面没有进行配置，所以默认的即可。然后在InfluxDB Details里的填入Database名，最后点击测试，如果没有报错的话，则可以进入下一步的展示数据了；

7.2 展示数据

点击左边栏的+号，然后点击GRAPH

接着点击下图中的edit进入编辑页面：

从上图中可以发现：

中间板块是最后的数据展示 下面是数据的设置项 右上角是展示时间的设置板块，在这里可以选择要展示多久的数据

7.2.1 配置数据

在Data Source中选择刚刚在配置数据源的时候配置的name字段，而不是database名。 接着在下面选择要展示的数据。看着就很熟悉是不是，完全是SQL语句的可视化。同时，当我们的数据放到相关的字段上的时候，双击，就会把可以选择的项展示出来了，我们要做的就是直接选择即可； 设置右上角的时间，则可以让数据实时进行更新与展示

因为下面的配置实质就是SQL查询语句，所以大家按照自己的需求，进行选择配置即可，当配置完以后，就可以在中间的面板里面看到数据了。

8. 总结

到这里，本篇文章就结束了。其中，对于Grafana的 *** 作我没有介绍的很详细，因为本篇主要讲的是怎么利用这几个工具完成我们的任务。

同时，里面的功能确实很多，还有可以安装的插件。我自己目前还是仅仅对于用到的部分比较了解，所以大家可以查询官方的或者别的教程资料来对Grafana进行更深入的了解，制作出更加好看的可视化作品来。

总结

以上是内存溢出为你收集整理的如何学习可视化监控你的爬虫！爬虫一个不小心就会犯法的！全部内容，希望文章能够帮你解决如何学习可视化监控你的爬虫！爬虫一个不小心就会犯法的！所遇到的程序开发问题。

如果觉得内存溢出网站内容还不错，欢迎将内存溢出网站推荐给程序员好友。