【原创】对数据挖掘基本概念的一些梳理

【原创】对数据挖掘基本概念的一些梳理

小飞象·梦想季

生活是属于每个人自己的感受，不属于任何别人的看法。--《活着》

前言

在5G/AI、物联网以及目前比较火的元宇宙的时代，"数据"的深入的应用已经覆盖了各行各业。无论是什么岗位，有什么业务模式，要做到与竞品有差异化，给用户更精准的推荐，就必须拥有数据分析思维，得使“数据”更有意义，通过采集和数据分析，找到“数据”的有效使用模式，进行“数据挖掘”。所以，对做数据分析的人员而言，了解数据挖掘背后的思想，将有助于建立更具稳定性、更高效的分析模型。

可有很多人对“数据挖掘”的概念还是有些混淆，主要是数据挖掘更多的偏向算法，与数据分析、机器学习有很多相似的地点，而且在实际场景中70%的工作都在做数据清洗，探索等，比如时间序列预测，聚类，因子分析···· 因此，本文不去深度的剖析数据挖掘相关应用，将从相关的基本概念进行梳理，帮助大家对数据挖掘的相关概念有一定的清晰地认知。

1

数据挖掘的定义

数据挖掘，是一个很宽泛的概念。简单的理解为从大量数据中提取或挖掘知识。BI（商业智能）、数据分析、产品、市场、运营都可以做。就是从数据中发现了一些有用的信息，然后这些信息可以指导业务。所以，数据挖掘也算是一种深层次的数据分析方法。

数据挖掘还算是一个跨学科的计算机科学分支。涉及人工智能、机器学习、统计学、和数据库的交叉方法在相对大型的数据集发现模式的计算过程。它还涉及到数据库和数据管理方面、数据预处理、模型与推断方面考量、兴趣度度量、复杂度的考虑等。还有类似词语“数据捕捞”、“数据捕鱼”和“数据探测”等。

有的书上这些描述数据挖掘的概念：即按企业既定业务目标，对大量的企业数据进行探索和分析，揭示隐藏的、未知的或验证已知的规律性，并进一步将其模型化的先进有效的方法。因此，数据挖掘过程的总体目标是从一个数据集中提取信息，并将其转换成可理解的结构，以进一步使用。总之，数据挖掘能够让业务产生真正可落地可执行的行为洞察或者动作。

2

数据挖掘的本质

数据挖掘的价值一般带着一定的目的，并通过计算机的计算能力在一堆数据中发掘出规律并加以利用的过程。因此对数据挖掘而言，就需要经历规则学习、规则验证和规则使用的过程。而这目的是否得到实现一般可以通过结果验证来实现。因此，数据挖掘本质上属于机器学习的内容，而贯穿数据挖掘的的思想主要有四个：关联，分类，回归分析和聚类。

注：《数据挖掘：实用机器学习技术及Java实现》一书大部分是机器学习的内容，这本书最初只叫做“实用机器学习”，“数据挖掘”一词是后来为了营销才加入的。

3

数据挖掘的基本步骤

数据挖掘的实际工作是对大规模数据进行自动或半自动的分析，以提取过去未知的有价值的潜在信息。例如：数据聚类分析、数据异常检测、数据之间关联式规则挖掘等。这些潜在信息可通过对输入数据处理之后的总结来呈现，之后可以用于进一步分析，如机器学习和预测分析。

但在数据挖掘之前，有必要预处理来分析多变量数据，然后要清理目标集，数据清理移除包含噪声和含有缺失数据的观测量。因此，基本步骤如下：

第一步：数据清理

第二步：数据集成

第三步：数据选择

第四步：数据变换

第五步：数据挖掘

第六步：模式评估

第七步：知识表示

4

数据挖掘的常见任务

▶异常检测：（异常/变化/偏差检测）识别不寻常的数据记录，错误数据需要进一步调查；

▶关联规则学习：搜索变量之间的关系。例如：一个超市可能会收集顾客购买习惯的数据，运用关联规则学习，超市可以确定哪些产品经常一起买，并利用这些信息帮助营销——这有时被称为市场购物篮分析；

▶聚类：是在未知数据的结构下，发现数据的类别与结构；

▶分类 ：是对新的数据推广已知的结构的任务。例如：一个电子邮件程序可能试图将一个电子邮件分类为“合法的”或“垃圾邮件”；

▶回归：试图找到能够以最小误差对该数据建模的函数；

▶汇总：提供了一个更紧凑的数据集表示，包括生成可视化和报表。

5

数据挖掘的必备技能点

数据挖掘涉及的内容比较泛，涉及的内容包括数据库、数据仓库、机器学习、信息检索。还有数据库理论、数学基础（包括数理统计、概率、图论等），还必须熟练掌握一种编程语言（包括java，python等），还要会使用数据挖掘工具软件（weka、matlab、spss等）。

因此，简单的梳理了数据挖掘相关技能点（具体知识点可以自行百度）。如下：

5

数据挖掘的应用

数据挖掘的应用场景很多。如，数据挖掘可以帮助业务了解“谁是最有价值的客客”、“什么产品可以交叉销售或提升销售”、“对公司明年的营收进行预测”；在科学领域，还能帮助地球科学家了解“干旱和飓风等生态系统扰动的频度和强度与全球变暖之间有何联系”、“海洋表面温度对地表降水量和温度有何影响”等等。

总之，数据挖掘思想应用了众多领域，包括来自统计学的抽样、估计和假设检验、人工智能、模式识别等。这里就不一一深度的列举了。

总结

数据挖掘利用计算机技术获取隐藏在大量数据背后的信息，满足一个行业或企业的需求，为企业或管理层的决策提供依据。从目前大数据公司的发展来看，它们正处于信息收集和简要分析阶段，规模经济效应相对较少。总之，拥有数据挖掘的能力，能够使业务产生的经济效应可以说是几何倍数的。在未来的5G以及物联网时代更是迫切需要数据分析人员来构建满足行业需求的数据挖掘模块并进行需求分析。

以上就是数据挖掘相关概念的梳理，我们大概对其概念有了清晰的了解。但对于数据分析、数据挖掘、算法/机器学习/深度学习，它们彼此间并不完全独立，到后期，很多界限会变得模糊。因此，了解认识相关概念是一方面，是否愿意学习和吃透，才是真正了解数据挖掘的开始。（若有不一样的想法，欢迎留言）

完

······

敬请期待下一篇

·······

愿大家一起成长交流，数据之路，与你同行！

图片来源于网络

若好的建议和想法，欢迎在下方留言

我们将尽其所能打造数据分析交流的理想之地