使用 k-Means 聚类算法预测值

Question

我正在研究机器学习，并且用 Python 编写了 K 均值算法实现。它采用二维数据并将它们组织成簇。每个数据点还具有 0 或 1 的类值。

该算法让我困惑的是如何使用它来预测另一组没有 0 或 1 的二维数据的某些值，而是未知。对于每个簇，我应该将其中的点平均为 0 或 1，并且如果未知点最接近该簇，那么该未知点将采用平均值？或者有更聪明的方法吗？

干杯!

Answer 1

要将新数据点分配给 k 均值创建的一组聚类中的一个，您只需找到距离该点最近的质心。

换句话说，与将原始数据集中的每个点迭代分配给 k 个聚类之一所使用的步骤相同。这里唯一的区别是，您用于此计算的质心是最终集，即最后迭代时的质心值。

这是 python 中的一个实现（使用 NumPy）：

>>> import numpy as NP
>>> # just made up values--based on your spec (2D data + 2 clusters)
>>> centroids
      array([[54, 85],
             [99, 78]])

>>> # randomly generate a new data point within the problem domain:
>>> new_data = NP.array([67, 78])

>>> # to assign a new data point to a cluster ID,
>>> # find its closest centroid:
>>> diff = centroids - new_data[0,:]  # NumPy broadcasting
>>> diff
      array([[-13,   7],
             [ 32,   0]])

>>> dist = NP.sqrt(NP.sum(diff**2, axis=-1))  # Euclidean distance
>>> dist
      array([ 14.76,  32.  ])

>>> closest_centroid = centroids[NP.argmin(dist),]
>>> closest_centroid
       array([54, 85])

Answer 2

我知道我可能会迟到，但这是我对您问题的一般解决方案：

def predict(data, centroids):
    centroids, data = np.array(centroids), np.array(data)
    distances = []
    for unit in data:
        for center in centroids:
            distances.append(np.sum((unit - center) ** 2))                
    distances = np.reshape(distances, data.shape)
    closest_centroid = [np.argmin(dist) for dist in distances]
    print(closest_centroid)

Answer 3

如果您正在考虑根据最近簇内的平均值分配一个值，那么您正在谈论某种形式的“软解码器”，它不仅估计坐标的正确值，而且估计您对估计的置信度。另一种选择是“硬解码器”，其中只有 0 和 1 的值是合法的（出现在训练数据集中），并且新坐标将获得最近簇内值的中值。我的猜测是，您应该始终只为每个坐标分配一个已知有效的类值（0 或 1），并且平均类值不是有效的方法。

Answer 4

这就是我为更接近的现有质心分配标签的方式。也可以是
对于实现在线/增量集群、创建新的分配很有用
现有的簇，但保持质心固定。小心，因为之后
（比方说）5-10% 的新点，您可能需要重新计算质心坐标。

def Labs( dataset,centroids ):    
a = []
for i in range(len(dataset)):
    d = []
    for j in range(n):        
        dist = np.linalg.norm(dataset[(i),:]-centroids[(j),:])
        d.append(dist)
    assignment = np.argmin(d)
    a.append(assignment)
return pd.DataFrame(np.array(a) + 1,columns =['Lab'])

我希望它有帮助