一个完整数据挖掘过程的四个步骤:
1、鉴别商业问题;
2、使用数据挖掘技术将数据转换成可以采取行动的信息;
3、根据信息采取行动;
4、衡量结果。
在现代社会中,公司大多数商务流程的核心部分是数据。而数据挖掘的任务就是在如此海量的数据中发现有用的数据。但是仅仅发现数据那是不够的。我们必须对这种模型做出一定的反应,并采取行动,最后将有用的数据转换成信息,信息变成行动,行动转换成价值。这个就是数据挖掘在商业应用上的一个完整的流程。
一、信息加密与隐私保护
在很多信息管理软件中会应用哈希(Hash)和加密(Encrypt)进行数据保护,哈希是将目标对象转换成具有相同长度的、不可逆的杂凑字符串(或叫作信息摘要),而加密是将目标文本转换成具有相同长度的,可逆的密文。在被保护数据仅仅用作比较验证,以后不需要还原为明文形式时使用哈希,如果被保护数据在以后需要被还原为明文时,则使用加密。
这两种方法均可以保证在数据库被非法访问的情况下,隐私或敏感数据不被非法访问者直接获取,比如数据库管理员的口令在经过哈希或加密后,使入侵者无法获得口令明文,也无法拥有对数据库数据的查看权限。
二、标识隐私匿名保护
标识匿名隐私保护,主要都是采取在保证数据有效性的前提下损失一些数据属性,来保证数据的安全性,通常采用概化和有损连接的方式,同传统泛化/隐匿方法相比,其在信息损失量和时间效率上具有明显的优势,在数据发布中删除部分身份标识信息,然后对准标识数据进行处理,当然任何基于隐私保护的数据发布方法都会有不同程度的损失,对于发布后的重构数据不可能,也不应该恢复到原始数据,所以未来在兼顾可用性与安全性的前提下,需要一种新的算法来找到可用与安全的折中点。
三、数据的分级保护制度
不同的信息在隐私保护中具有不同的权重,如果对所有信息都采用高级别的保护,会影响实际运作的效率,同时也是对资源的浪费,但如果只对核心信息进行保护也会通过关联产生隐私泄露的隐患,所以需要建立一套数据的分级制度,针对不同级别的信息采用不同的保护措施,但是在不同行业中,由于涉及不同系统和运作方式,制定一套完善的分级制度还涉及以下的访问权限控制问题。
四、基于访问控制的隐私保护
系统中往往参与的人员节点越多,导致潜在泄露的点也越多,访问控制技术可以对不同人员设置不同权限来限制其访问的内容,这其实也包括上面提到的数据分级问题,目前大部分的访问控制技术均是基于角色的访问控制,能很好地控制角色能够访问的内容及相应 *** 作,但是规则的设置与权限的分级实现起来比较复杂,无法通过统一的规则设置来进行统一的授权,许多情况下需要对特定行业角色的特殊情况进行单独设置,不便于整体管理和调整。需要进一步对规则在各行业的标准体系进行深入研究。
面向对象数据模型的5个基本概念:对象、类、继承性、对象标识和对象包含。
对象
在面向对象数据库的设计中,我们将客观世界中的实体抽象成为对象。面向对象的方法中一个基本的信条是"任何东西都是对象"。对象可以定义为对一组信息及其 *** 作的描述。对象之间的相互 *** 作都得通过发送消息和执行消息完成,消息是对象之间的接口。严格地讲,在面向对象模型中,实体的任何属性都必须表示为相应对象中的一个变量和一对消息。变量用来保存属性值,一个消息用来读取属性值,另一个消息则用来更新这个值。
类
数据库中通常有很多相似的对象。"相似"是指它们响应相同的消息使用相同的方法,并有相同名称和类型的变量。对每个这样的对象单独进行定义是很浪费的,因此我们将相似的对象分组形成了一个"类"。类是相似对象的集合。类中的每个对象也称为类的实例。一个类中的所有对象共享一个公共的定义,尽管它们对变量所赋予的值不同。面向对象数据模型中类的概念相当于E-R模型中实体集的概念。
继承性
继承性允许不同类的对象共享它们公共部分的结构和特性。继承性可以用超类和子类的层次联系实现。一个子类可以继承某一个超类的结构和特性,这称为"单继承性";一个子类也可以继承多个超类的结构和特性,这称为"多继承性"。继承性是数据间的泛化/细化联系,是一种"is a"联系。
对象标识
面向对象系统提供一种"对象标识符"(OID)的概念来标识对象。OID与对象的物理存储位置无关,也与数据的描述方式和值无关。OID是惟一的。在对象创建的瞬间,由系统赋给对象,它在系统内是惟一的,在对象的生存期间,标识是不能改变的。如果要将数据转移到另外一个不同的数据库系统中,则标识符必须进行转化。
对象包含
不同类的对象之间可能存在着包含关系)。包含其它对象的对象称为复合对象。包含关系可以有多层,形成类包含层次图。包含是一种"是一部分"(is part of)联系,因此包含与继承是两种不同的数据联系。
目前,一种结合关系数据库和面向对象特点的数据库为那些希望使用具有面向对象特征的关系数据库用户提供了一条捷径。这种数据库系统称为"对象关系数据库",它是在传统关系数据模型基础上,提供元组、数组、集合一类丰富的数据类型以及处理新的数据类型 *** 作能力,并且有继承性和对象标识等面向对象特点。
描述性挖掘和数据挖掘的核心区别是处理的方法不同。
方法是指:
1根据挖掘的数据库类型分类:数据挖掘系统可以根据挖掘的数据库类型分类。数据库系统本身可以根据不同的标准(如数据模型、数据类型或所涉及的应用)分类,每一类可能需要自己的数据挖掘技术。这样,数据挖掘系统就可以相应分类。
2根据挖掘的知识类型分类:数据挖掘系统可以根据所挖掘的知识类型分类,即根据数据挖掘的功能分类,如特征化、区分、关联和相关分析、分类、预测、聚类、离群点分析和演变分析,一个综合的数据挖掘系统通常提供多种和/或集成的数据挖掘功能。
此外,数据挖掘系统还可以根据所挖掘的知识的粒度或抽象层进行区分,包括广义知识(高抽象层)、原始层知识(原始数据层)或多层知识(考虑若干抽象层),一个高级数据挖掘系统应当支持多抽象层的知识发现。
数据挖掘系统还可以分类为挖掘数据的规则性(通常出现的模式)与挖掘数据的奇异性(如异常或离群点)。一般地概念描述、关联和相关分析、分类、预测和聚类挖掘数据的规则性,将离群点作为噪声排除。
3根据所用的技术类型分类:数据挖掘系统也可以根据所用的数据挖掘技术分类。
这些技术可以根据用户交互程度(例如自动系统、交互探查系统、查询驱动系统),或所用的数据分析方法(例如面向数据库或面向数据仓库的技术、机器学习、统计学、可视化、模式识别、神经网络等)描述。
4根据应用分类:数据挖掘系统也可以根据其应用分类。例如,可能有些数据挖掘系统特别适合金融、电信、DNA、股票市场、e-mail等,不同的应用通常需要集成对于该应用特别有效的方法。因此,泛化的全能的数据挖掘系统可能并不适合特定领域的挖掘任务。
数据挖掘总结之数据挖掘与机器学习的区别
与机器学习经常一起出现的就是数据挖掘,两种经常会有重叠的地方,
① 数据挖掘某种意义上更多的是关注从大量的数据中获得新的见解;
② 机器学习聚焦于进行已知的任务,而数据挖掘则是搜寻隐藏的信息。
例如电商利用机器学习来决定向谁推荐什么产品,数据挖掘用来了解什么样的人喜欢什么产品。机器学习和数据挖掘不严格区分。
数据挖掘和机器学习的区别和联系,数据挖掘受到很多学科领域的影响,其中数据库、机器学习、统计学无疑影响最大。对数据挖掘而言,数据库提供数据管理技术,机器学习和统计学提供数据分析技术。统计学界提供的很多技术通常都要在机器学习界进一步研究,变成有效的机器学习算法之后才能再进入数据挖掘领域。统计学主要是通过机器学习来对数据挖掘发挥影响,而机器学习和数据库则是数据挖掘的两大支撑技术。从数据分析的角度来看,绝大多数数据挖掘技术都来自机器学习领域,但机器学习研究往往并不把海量数据作为处理对象,因此,数据挖掘要对算法进行改造,使得算法性能和空间占用达到实用的地步。同时,数据挖掘还有自身独特的内容,即关联分析。
1)、机器学习应用场景:
预测选举;垃圾邮件过滤;智能交通,自动的信号灯控制;疾病诊断;犯罪预测;估计客户流失率;自动导航;定向广告…
机器学习过程:输入/获取数据、抽象、泛化
2)、大数据的挖掘常用的方法:
分类、回归分析、聚类、关联规则、神经网络方法、Web 数据挖掘等。这些方法从不同的角度对数据进行挖掘。
(1)分类。分类是找出数据库中的一组数据对象的共同特点并按照分类模式将其划分为不同的类,其目的是通过分类模型,将数据库中的数据项映射到某个给定的类别中。可以涉及到应用分类、趋势预测中,如淘宝商铺将用户在一段时间内的购买情况划分成不同的类,根据情况向用户推荐关联类的商品,从而增加商铺的销售量。
(2)回归分析。回归分析反映了数据库中数据的属性值的特性,通过函数表达数据映射的关系来发现属性值之间的依赖关系。它可以应用到对数据序列的预测及相关关系的研究中去。在市场营销中,回归分析可以被应用到各个方面。如通过对本季度销售的回归分析,对下一季度的销售趋势作出预测并做出针对性的营销改变。
(3)聚类。聚类类似于分类,但与分类的目的不同,是针对数据的相似性和差异性将一组数据分为几个类别。属于同一类别的数据间的相似性很大,但不同类别之间数据的相似性很小,跨类的数据关联性很低。
(4)关联规则。关联规则是隐藏在数据项之间的关联或相互关系,即可以根据一个数据项的出现推导出其他数据项的出现。关联规则的挖掘过程主要包括两个阶段:第一阶段为从海量原始数据中找出所有的高频项目组;第二阶段为从这些高频项目组产生关联规则。关联规则挖掘技术已经被广泛应用于金融行业企业中用以预测客户的需求,各银行在自己的ATM 机上通过捆绑客户可能感兴趣的信息供用户了解并获取相应信息来改善自身的营销。
(5)神经网络方法。神经网络作为一种先进的人工智能技术,因其自身自行处理、分布存储和高度容错等特性非常适合处理非线性的以及那些以模糊、不完整、不严密的知识或数据为特征的处理问题,它的这一特点十分适合解决数据挖掘的问题。典型的神经网络模型主要分为三大类:第一类是以用于分类预测和模式识别的前馈式神经网络模型,其主要代表为函数型网络、感知机;第二类是用于联想记忆和优化算法的反馈式神经网络模型,以Hopfield 的离散模型和连续模型为代表。第三类是用于聚类的自组织映射方法,以ART 模型为代表。虽然神经网络有多种模型及算法,但在特定领域的数据挖掘中使用何种模型及算法并没有统一的规则,而且人们很难理解网络的学习及决策过程。
(6)Web数据挖掘。Web数据挖掘是一项综合性技术,指Web 从文档结构和使用的集合C 中发现隐含的模式P,如果将C看做是输入,P 看做是输出,那么Web 挖掘过程就可以看做是从输入到输出的一个映射过程。
当前越来越多的Web数据都是以数据流的形式出现的,因此对Web数据流挖掘就具有很重要的意义。目前常用的Web数据挖掘算法有:PageRank算法,HITS算法以及LOGSOM 算法。
以上就是关于在数据挖掘的过程中,什么环节最重要全部的内容,包括:在数据挖掘的过程中,什么环节最重要、大数据环境下面对数据泄露该怎么办、什么叫面向对象的数据模型等相关内容解答,如果想了解更多相关内容,可以关注我们,你们的支持是我们更新的动力!
欢迎分享,转载请注明来源:内存溢出
评论列表(0条)