如何在k近邻算法中同时使用二值特征和连续特征？

Question

我的特征向量具有连续（或广泛范围）和二进制分量。如果我简单地使用欧几里德距离，连续分量将产生更大的影响：

将对称与不对称表示为 0 和 1 以及一些从 0 到 100 的不太重要的比率，从对称更改为不对称与更改相比，距离影响很小比率乘以 25。

我可以为对称性添加更多权重（例如将其设置为 0 或 100），但是有更好的方法吗？

Answer 1

您可以尝试使用归一化欧几里得距离，例如，此处第一部分末尾处所描述的距离。

它只是按每个特征（连续或离散）的标准差来缩放。这比另一张海报建议的按范围（max-min）进行缩放更稳健。

Answer 2

如果我正确理解你的问题，标准化（又名“重新缩放”）数据集中的每个维度或列是处理过度加权维度的传统技术，例如，

ev_scaled = (ev_raw - ev_min) / (ev_max - ev_min)

在 R 中，例如，你可以编写这个函数

ev_scaled = function(x) {
    (x - min(x)) / (max(x) - min(x))
}  

：这：

# generate some data: 
# v1, v2 are two expectation variables in the same dataset 
# but have very different 'scale':
> v1 = seq(100, 550, 50)
> v1
  [1] 100 150 200 250 300 350 400 450 500 550
> v2 = sort(sample(seq(.1, 20, .1), 10))
> v2
  [1]  0.2  3.5  5.1  5.6  8.0  8.3  9.9 11.3 15.5 19.4
> mean(v1)
  [1] 325
> mean(v2)
  [1] 8.68

# now normalize v1 & v2 using the function above:
> v1_scaled = ev_scaled(v1)
> v1_scaled
  [1] 0.000 0.111 0.222 0.333 0.444 0.556 0.667 0.778 0.889 1.000
> v2_scaled = ev_scaled(v2)
> v2_scaled
  [1] 0.000 0.172 0.255 0.281 0.406 0.422 0.505 0.578 0.797 1.000
> mean(v1_scaled)
  [1] 0.5
> mean(v2_scaled)
  [1] 0.442
> range(v1_scaled)
  [1] 0 1
> range(v2_scaled)
  [1] 0 1

Answer 3

您还可以尝试马哈拉诺比斯距离而不是欧几里得距离。