机器学习之聚类

机器学习之聚类

聚类是常见的一种无监督学习方法，该训练的样本标记信息是未知的，聚类过程仅能自动形成簇结构，而簇结构对应的语义（标签）需要训练者自身理解命名。

样本集D={x1,x2....xm}包含m个无标记样本，每个样本xi={xi1,xi2....xin}n维特征变量，聚类算法将D划分成k个互不相交的簇，等.....

聚类算法涉及的两个基本问题：

性能度量和距离计算

所谓性能度量就是测试聚类效果的”簇内相似度“和”簇间相似度“，前者高后者低是较好的聚类结果。性能度量分为两类：

1.比较聚类结果给出的簇划分和参考模型给出的簇划分（外部指标）

2.直接考察聚类效果而不利用任何参考模型（内部指标）

距离计算采用明可夫斯基距离公式

k均值聚类算法（随机选取k个样本作为均值向量，然后将其他样本分别放进与上三个向量距离最近的一个形成初始的簇划分，重新计算每个簇的均值向量，不断重复上述过程知道簇划分不再改变）

 

密度聚类：理解如下概念

邻域

核心对象

密度直达

密度可达

密度相连

根据给定的领域参数找出所有核心对象，以任一核心对象为出发点找出其密度可达的样本生成聚类簇。

以上作为学习笔记，随时补充，代码后续补充......