聚类模型K均值介绍
#7.1.1 引入依赖
import numpy as np
import matplotlib.pyplot as plt
#从sklearn直接生成聚类数据
import sklearn.datasets.samples_generator import make_blobs
#7.1.2 数据加载
x,y = make_blobs(n_samples=100,centers=6, random_state=1234,cluster_std=0.6)
plt.figure(figsize=(6,6))
plt.scatter(x[:,0],x[:,1],c=y)
plt.show()
#7.1.3 算法实现
#引入scipy中的距离函数,默认欧式距离
from scipy.spatial.distance import cdist
class K_Means(object):
#初始化,参数 n_clusters(K)、迭代次数max_iter、初始质心 centroids
def __init__(self,n_clusters=6,maxiter=300,centroids=[]):
self.n_clusters=n_clusters
self.max_iter= max_iter
self.centroids=np.array(centroids, dtype=np.float)
#训练模型的方法,K-means聚类过程
def fit(self,data):
#假如没有指定的质心,就随机选取data中的点作为初始质心
if(self.centroids.shape == (0,)):
self.controids=data[np.random.randint(0,data.shape[0],self.n_clusters) ,:]
#开始迭代
for i in range(self.max_iter):
#1.计算距离矩阵,得到的是100*6的矩阵
distances=cdist(data,self.centroids)
#2. 对距离按由近到远排序,选取最近的质心的类别,作为当前点的分类
c_ind=np.argmin(distances,axis=1)
#3。对每一类数据进行均值计算,更新质点坐标
for i in range(self.n_clusters):
if i in c_ind:
#选出所有类别是i的点,取data里面坐标的均值,更新第i个质心
self.centroids[i]=np.mean(data[c_ind==i],axis=0)
#实现预测方法
def predict(self,samples):
#跟上面的一样,先计算距离矩阵,然后选择距离最近的那个质心的类别
distances=cdist(samples,self.centroids)
c_ind=np.argmin(distance,axis=1)
return c_ind
参考文章
发表评论