需要源码和数据集请点赞关注收藏后评论区留言私信~~~

K-Mean算法,即 K 均值算法,是一种常见的聚类算法。算法会将数据集分为 K 个簇,每个簇使用簇内所有样本均值来表示,将该均值称为“质心”。

算法步骤

K-Means

容易受初始质心的影响;算法简单,容易实现;算法聚类时,容易产生空簇;算法可能收敛到局部最小值。

通过聚类可以实现:发现不同用户群体,从而可以实现精准营销;对文档进行划分;社交网络中,通过圈子,判断哪些人可能互相认识;处理异常数据。

距离计算方式是 欧式距离。

1.从样本中选择 K 个点作为初始质心(完全随机)
2.计算每个样本到各个质心的距离,将样本划分到距离最近的质心所对应的簇中
3.计算每个簇内所有样本的均值,并使用该均值更新簇的质心
4.重复步骤 2 与 3 ,直到达到以下条件之一:
    质心的位置变化小于指定的阈值(默认为 0.0001)
    达到最大迭代次数

K-Means++

K-Means++,算法受初始质心影响较小;表现上,往往优于 K-Means 算法;与 K-Means算法不同仅在于初始质心的选择方式不同

在选择初始质心上,进行优化:

1.从样本中选择 1 个点作为初始质心(完全随机)
2.对于任意一个非质心样本 x,计算x与现有最近质心距离 D(x)
3.基于距离计算概率,来选择下一个质心 x,选择距离当前质心远的点作为质心
4.重复步骤 2 与 3 ,直到选择 k 个质心为止。

Mini Batch K-Means

与 K-Means 算法相比,大大减少计算时间

在K-Means算法上发展而来

1.从数据集中随机选择部分数据,使用 K-Means 算法在这部分随机数据上聚类,获取质心
2.从数据集中随机选择部分数据,形成一个批次,将该批次数据分配给最近的质心
3.根据现有的数据集(当前批次数据 + 所有以前的数据)更新质心
4.重复步骤 2 与 3 ,直到质心变化小于指定的阀值或者达到最大迭代次数为止

k-means图像聚类实战 

人脸数据集LFW(Labeled Faces in the Wild)是一个带标签的人物脸部图片数据集

 打印数据中人物标记、人物名、数据形状、标记形状等信息如下

打印部分人脸图片如下

 

统计每个标记数量如下

 

对一张照片进行kmeans聚类结果如下 可见把图像聚成两类

 部分代码如下

# -*- coding: utf-8 -*-
from PIL import Image
import numpy as np
from sklearn.cluster import KMeans
import matplotlib
import matplotlib.pyplot as plt

def restore_image(cb, cluster, shape):
    row, col, dummy = shape
    image = np.empty((row, col, dummy))
    for r in range(row):
        for c in range(col):
            image[r, c] = cb[cluster[r * col + c]]
    return image
   
if __name__ ==.rcParams['font.sans-serif'] = [u'SimHei']
    matplotlib.rcParams['axes.unicode_minus'] = False
    # 聚类数2,6,30
    num_vq = 2
    im = Image.open('Tiger_Woods_0023.jpg')
    image = np.array(im).astype(np.float) / 255
    image = image[:, :, :3]
    image_v = image.reshape((-1, 3))
    kmeans = KMeans(n_clusters=num_vq, init='k-means++')    
    
    N = image_v.shape[0]  # 图像像素总数
    # 选择样本,计算聚类中心
    idx = np.random.randint(0, N, size=int(N * 0.7))
    image_sample = image_v[idx]
    kmeans.fit(image_sample)
    result = kmeans.predict(image_v)  # 聚类结果
    print('聚类结果:\n', result)
    print('聚类中心:\n', kmeans.cluster_centers_)
    ns.cluster_centers_, result, image.shape)
    plt.axis('off')
    plt.title(u'聚类个数:%d' % num_vq, fontsize=20)
    plt.imshow(vq_image)
    # 可以使用plt.savefig('矢量化图片.png'),保存处理后的图片并对比
    
    plt.tight_layout(1.2)
    plt.show()
import matplotlib
import matplotlib.pyplot as plt

image_shape = people.images[0].shape
print(image_shape)
print("Number of classes:",len(people.target_names))
print("shape of targetss:",people.target.shape)

fig, axes = plt.subplots(2, 5, figsize=(15, 8))
for target, image, ax in zip(people.target, people.images, axes.ravel()):
    ax.imshow(image)
    ax.set_title(people.target_names[target])

创作不易 觉得有帮助请点赞关注收藏~~~

Logo

魔乐社区(Modelers.cn) 是一个中立、公益的人工智能社区,提供人工智能工具、模型、数据的托管、展示与应用协同服务,为人工智能开发及爱好者搭建开放的学习交流平台。社区通过理事会方式运作,由全产业链共同建设、共同运营、共同享有,推动国产AI生态繁荣发展。

更多推荐