详细数据分析步骤（一）-数据获取

数据分析师如今风靡全网，那么什么是数据分析呢？此合集将会对数据分析的框架做一个细致解析并推荐相关文章以便入门学习。

一、数据获取

现如今大数据时代已经到来，企业需要数据来分析用户行为、自己产品的不足之处以及竞争对手的信息等，而这一切的首要条件就是数据的采集。常用的数据获取手段有数据仓库和 *** 作日志，监测与爬取（即爬虫），填写、埋点和计算

1、数据仓库和 *** 作日志

数据仓库（Data Warehouse，DW）长期储存在计算机内，有组织、可共享的数据集合，是为决策支持系统提供基础数据的分析型数据库。

数据仓库有几个定义特征，即 ：

推荐阅读：一、数据仓库 - 架构艺术 - 博客园

日志和数据仓库具有相同的作用，但相比之下日志的记录比数据仓库精简，且在出现故障时更容易定位问题。

2监测与爬取

爬虫是指： 通过编写程序，模拟浏览器上网，然后让其去互联网上抓取数据的过程。

根据使用场景，网络爬虫可分为通用爬虫和聚焦爬虫两种。

通用爬虫是捜索引擎抓取系统（Baidu、Google等）的重要组成部分。主要目的是将互联网上的网页下载到本地，形成一个互联网内容的镜像备份。 简单来讲就是尽可能的；把互联网上的所有的网页下载下来，放到本地服务器里形成备分，再对这些网页做相关处理(提取关键字、去掉广告)，最后提供一个用户检索接口。

聚焦爬虫，是"面向特定主题需求"的一种网络爬虫程序，它与通用搜索引擎爬虫的区别在于： 聚焦爬虫在实施网页抓取时会对内容进行处理筛选，尽量保证只抓取与需求相关的网页信息。

推荐阅读：爬虫（爬虫原理与数据抓取） - lclc - 博客园

爬虫 - Z-J-H - 博客园

3填写、埋点

这两个都是对用户行为进行记录。

填写是指用户在注册时填写信息或者对相关问卷进行填写。 通过问卷调查、抽样调查获取的数据是有限的，并且有时也不能够保证真实性。

埋点主要指 APP或网页埋点，跟踪app或网页被使用情况，以便优化。通常记录访客、页面查看、跳出率等等页面统计和 *** 作行为）。直接记录用户与网络产品的交互过程，几乎可以复现，从而 获得用户的行为模式，购买记录、搜索习惯等。这些数据都是用户自己产生的，可以保证数据的真实性。

推荐阅读：6大步骤：快速学会如何进行数据埋点

4计算

很多数据无法直接获取，需要通过已有数据计算得到。例如企业的投入产出比。

最后，需要强调的是进行数据分析的数据必须真实、准确且具有时效性。数据获取后使用个人信息要遵守以下5大原则：

（1）合法、公开原则。

（2）目的限制原则。

（3）最小数据原则。

（4）数据安全原则。

（5）限期存储原则。

下一篇文章将会对数据分析中的数据预处理做一个简单梳理

本文介绍《 爬虫应用示例--puppeteer数据抓取的实现方法 》中涉及到的puppeteer组件如何安装，以及相关的坑。

Puppeteer 是一个node库，内含了一个chrome浏览器，以及一组用来 *** 纵Chrome的API。

相关资料：

1、github：>

根据java网络编程相关的内容，使用jdk提供的相关类可以得到url对应网页的html页面代码。

针对得到的html代码，通过使用正则表达式即可得到我们想要的内容。

比如，我们如果想得到一个网页上所有包括“java”关键字的文本内容，就可以逐行对网页代码进行正则表达式的匹配。最后达到去除html标签和不相关的内容，只得到包括“java”这个关键字的内容的效果。

从网页上爬取的流程和爬取内容的流程基本相同，但是爬取的步骤会多一步。

需要先用img标签的正则表达式匹配获取到img标签，再用src属性的正则表达式获取这个img标签中的src属性的url，然后再通过缓冲输入流对象读取到这个url的信息，配合文件输出流将读到的信息写入到本地即可。

本来是想爬取之后作最佳羁绊组合推算，但是遇到知识点无法消化（知识图谱），所以暂时先不组合了，实力有限

库的安装

1requests  #爬取棋子数据

2json  #棋子数据为js动态，需使用json解析

3BeautifulSoup

实战前先新建个lol文件夹作为工作目录，并创建子目录data，用于存放数据。

1爬取数据，新建个py文件，用于爬取云顶数据，命名为datapy

11定义个req函数，方便读取。//需设定编码格式，否则会出现乱码

def Re_data(url):

re = requestsget(url)

reencoding = 'gbk'

data = jsonloads(retext)

return data['data']

12定义个Get函数，用于读取数据并使用保存函数进行保存数据，保存格式为json。

def Get_data():

# 获取数据并保存至data目录

base_url = '>

爬取网页数据原理如下：

如果把互联网比作蜘蛛网，爬虫就是蜘蛛网上爬行的蜘蛛，网络节点则代表网页。当通过客户端发出任务需求命令时，ip将通过互联网到达终端服务器，找到客户端交代的任务。一个节点是一个网页。蜘蛛通过一个节点后，可以沿着几点连线继续爬行到达下一个节点。

简而言之，爬虫首先需要获得终端服务器的网页，从那里获得网页的源代码，若是源代码中有有用的信息，就在源代码中提取任务所需的信息。然后ip就会将获得的有用信息送回客户端存储，然后再返回，反复频繁访问网页获取信息，直到任务完成。

不能。

爬虫只能采集公开数据，买家数据不是公开的。爬虫软件根本无法采集用户的隐私数据。但凡可以采集到的人都是通过不正当途径。

网站用户在注册时会将自己的手机号、身份z、姓名等实名信息进行上传，通常大型正规的网站会帮助用户保密，而很多公司谎称利用爬虫系统可将用户所有的隐私信息全部采集出来。

以上就是关于详细数据分析步骤（一）-数据获取全部的内容，包括:详细数据分析步骤（一）-数据获取、爬虫应用示例--puppeteer数据抓取的实现方法(续1)、java爬虫抓取指定数据等相关内容解答，如果想了解更多相关内容，可以关注我们，你们的支持是我们更新的动力！