从网上找到了很多定义,这里选取比较典型的几个;
K-Mean
分群法是一种分割式分群方法,其主要目标是要在大量高纬的资料点中找出
具有代表性的资料点;这些资料点可以称为群中心,代表点;然后再根据这些 群中心,进行后续的处理,这些处理可以包含
1
)资料压缩:以少数的资料点来代表大量的资料,达到资料压缩的功能;
2
)资料分类:以少数代表点来代表特点类别的资料,可以降低资料量及计算量;
分割式分群法的目的是希望盡量減小每個群聚中,每一點與群中心的距離平方差(square error
)。
假設我們現在有一組包含c
個群聚的資料,其中第 k
個群聚可以用集合 Gk
來
表示,假設 Gk
包含nk
筆
資料 {x1, x2, …, xnk
),此群聚中心為yk
,則該群聚的平方差
ek
可以定義為:
ek =
S
i
|xi-yk|2
,其中 xi
是屬於第 k
群的資料點。
而這c
個群聚的總和平方差E
便是每個群聚的平方差總和:
E =
S
k=1~c
ek
我們分群的方法,就變成是一個最佳化的問題,換句話說,我們要如何選取 c
個群聚以及相關的群中心,
使得 E
的值為最小。
2
.处理流程
( 1
) 从 c
个数据对象任意选择 k
个对象作为初始聚
类中心; ( 2
) 循环( 3
)到( 4
)直到每个聚类不再发
生变化为止; ( 3
)
根据每个聚类对象的均值(中心对象),计算每个对象与这些中心对象的距离;并根据最小距离重新对相应对象进行划分; ( 4
)
重新计算每个(有变化)聚类的均值(中心对象)
3. java
算法的实现说明
1)
假设给点一组 c
点资料 X =
{x1, ..., xc}
,每一点都有 d
维;给定一个群聚的数目 k,
求
其
最好的聚类结果。
2
)
BasicKMeans.java
主类
int coordCount = 250;// 原始的资料个树
int dimensions = 100;// 每个资料的纬度数目
double[][] coordinates = new double[coordCount][dimensions];
这里假设 c 点资料为 coordinates 对象,其中 c 为 coordCount,d 为 dimensions 相应值。
int mk = 30; // 想要群聚的数目
根据群聚数目定义 mk 个群聚类对象
mProtoClusters = new ProtoCluster[mK];// 见 ProtoCluster 类说明
// 首先随机选取 mk 个原始资料点作为群聚类
mProtoClusters[i]= new ProtoCluster (coordinates[j] );//i 依此为 0 到 mk 的值; j 为 0 到 coordCount 的值
定义一个变量用于记录和跟踪每个资料点属于哪个群聚类
mClusterAssignments = new int[coordCount];
mClusterAssignments[j]=i;// 表示第 j 个资料点对象属于第 i 个群聚类
// 开始循环
* // 依次调用计算每个群聚类的均值
mProtoClusters[i].updateCenter(mCoordinates);// 计算第 i 个聚类对象的均值
* // 依次计算每个资料点到中心点的距离,然后根据最小值划分到相应的群集类中;
采用距离平方差来表示资料点到中心点的距离;
//定义一个变量,来表示资料点到中心点的距离
mDistanceCache = new double[coordCount ][mk];
//其中mDistanceCache[i][j]表示第i个资料点到第j个群聚对象中心点的距离;
//距离算法描述():
a)依次取出每个资料点对象
double[] coord = coordinates[i];
b)再依次取出每个群聚类中的中心点对象
double[] center = mProtoClusters[j].mCenter;
c)计算coord对象与center对象之间的距离
double distance(double[] coord, double[] center) {
int len = coord.length;
double sumSquared = 0.0;
for (int i=0; i<len; i++) {
double v = coord[i] - center[i];
sumSquared += v*v; //平方差
}
return Math.sqrt(sumSquared);
}
d)循环执行上面的流程,把结果记录在mDistanceCache[i][j]中;
比较出最小距离,然后根据最小距离重新对相应对象进行划分
依次比较每个资料点的 最短中心距离,
int nearestCluster(int ndx) {
int nearest = -1;
double min = Double.MAX_VALUE;
for (int c = 0; c < mK; c++) {
double d = mDistanceCache[ndx][c];
if (d < min) {
min = d;
nearest = c;
}
}
return nearest;
}
该方法返回该资料点对应的最短中心距离的群聚类的索引值;
比较每个 nearestCluster[coordCount] 的值和mClusterAssignments[coordCount]
的值是否相等,如果全相等表示所有的点已经是最佳距离了,直接返回;
否则需要重新调整资料点和群聚类的关系,调整完毕后再重新开始循环;
调整时需要更新下列数据:
a)更新mProtoClusters[i
]中的mCurrentMembership集合;
b)更新mClusterAssignments[i]中对应的值;
然后重行开始循环
3
)
ProtoCluster.java
是一个包
含代表点的群聚类,该类有两个最主要的属性"代表点"和"群中心";
int[] mCurrentMembership;// 用于表示每个群聚包含的数据资料点集合
double[] mCenter;// 用于表示每个聚类对象的均值,也就是中心对象
void updateCenter(double[][] coordinates) {
// 该方法计算 聚类对象的均值 ;
// 根据 mCurrentMembership 取得原始资料点对象 coord ,该对象是 coordinates 的一个子集;
//然后取出该子集的均值;
取均值的算法很简单,可以把 coordinates
想象成一个 m*n
的距阵 ,
每个均值就是每个纵向列的取和平均值 ,
该值保
存在 mCenter
中
for (int i=0; i< mCurrentMembership.length; i++) {
double[] coord = coordinates[mCurrentMembership[i]];
for (int j=0; j<coord.length; j++) {
mCenter[j] += coord[j];// 得到每个纵向列的和;
}
for (int i=0; i<mCenter.length; i++) {
mCenter[i] /= mCurrentSize; // 对每个纵向列取平均值
}
}
原文出自:http://hi.baidu.com/wy521ly/blog/item/7aa1790f9333dcebab6457b9.html
分享到:
相关推荐
Java实现的k-means聚类算法详解 k-means聚类算法是一种常用的无监督学习算法,用于对数据进行聚类分析。该算法的主要思想是将相似的数据点聚类到一起,形成不同的簇。Java语言是实现k-means聚类算法的不二之选。 ...
下面将详细介绍多维k-means聚类算法及其Java实现的关键点。 **一、k-means算法简介** 1. **目标与原理**:k-means的目标是将数据集中的n个样本点分配到k个聚类中,使得每个样本点与其所在聚类中心的距离平方和最小...
K-means聚类算法是一种广泛应用的数据挖掘方法,用于无监督学习中的分类问题。它通过将数据点分配到最近的聚类中心来组织数据,从而自动发现数据的分组结构。在JAVA程序实现中,K-means算法的关键步骤包括初始化、...
【k-means聚类算法】是数据挖掘领域中一种广泛应用的无监督学习方法,主要用于将数据集中的样本点划分为不同的类别,使同一类内的样本点相似度较高,不同类间的样本点差异较大。它的核心思想是通过迭代优化找到k个...
**K-均值聚类算法详解** K-均值(K-Means)是一种广泛应用的无监督学习算法,主要用于数据的聚类分析。它通过迭代寻找数据的最佳分组,使得同一组内的数据点彼此相似,而不同组间的数据点差异较大。在原始的K-均值...
该系统是一个基于Java语言实现的K-Means聚类算法数据挖掘设计源码,项目包含38个文件,涵盖10个文本文件、8个Java类文件、7个Java源代码文件、4个PNG图像文件、3个JAR执行文件、1个项目配置文件、1个classpath文件、...
K-Means聚类算法JAVA实现
k-means聚类算法的java实现描述.txt
基于鸢尾花数据集的Fuzzy-means聚类算法基于java的源代码(带可视化)。
该练习项目以HTML为主要开发语言,结合Java和CSS技术,实现了K-means聚类算法的设计与源码编写。项目包含644个文件,涵盖617个HTML文件、6个JAR包文件、6个PDF文件、4个GIF文件、2个TXT文件、1个classpath文件、1个...
以下将详细阐述K-means聚类方法的原理、Java实现的关键步骤以及可能遇到的问题。 **K-means算法原理** 1. **初始化**: K-means算法首先需要选择K个初始质心(centroid),通常是随机选取数据集中的K个点作为起始...
K-means聚类算法是一种广泛应用的数据挖掘方法,用于无监督学习中的分类问题。它通过将数据集中的对象分配到预定义数量的类别中,使得同一类内的对象相似度尽可能高,而不同类之间的对象相似度尽可能低。在这个Java...