机器学习中的数学——距离定义（五）：标准化的欧几里得距离（Standardized Euclidean Distance）

机器学习中的数学——距离定义（五）：标准化的欧几里得距离（Standardized Euclidean Distance）

我们在《距离定义（一）：欧几里得距离（Euclidean Distance）》中介绍了欧几里得距离，而标准化的欧几里得距离是针对简单欧几里得距离的缺点而作的一种改进方案。

标准化的欧几里得距离的思路：将各个分量都“标准化”到均值、方差相等的区间，即：
X ∗ = X − m s X^*=frac{X-m}{s} X∗=sX−m​

其中 X ∗ X^* X∗为标准化后的值， X X X为原值， m m m为分量的均值， s s s为分量的标准差。所以 n n n维空间中标准化的欧几里得距离为：
d ( x , y ) = ∑ i = 1 n ( x i − y i s i ) 2 d(x, y)=sqrt{sum_{i=1}^n(frac{x_i-y_i}{s_i})^2} d(x,y)=i=1∑n​(si​xi​−yi​​)2 ​

如果将方差的倒数看成是一个权重，这个公式可以看成是一种加权欧氏距离(Weighted Euclidean Distance)。

下面我们来看一下标准化的欧几里得距离的Python实现：

def StandardizedEuclideanDistance(x, y):
    import numpy as np
    x = np.array(x)
    y = np.array(y)
    
    X = np.vstack([x,y])
    sigma = np.var(X, axis=0, ddof=1)
    return np.sqrt(((x - y) ** 2 /sigma).sum())

上述代码中需要避免某个分量取值一致，即该分量sigma=0。