Predict.svm 不预测新数据

Question

不幸的是，我在以下简单示例中使用predict()时遇到问题：

library(e1071)

x <- c(1:10)
y <- c(0,0,0,0,1,0,1,1,1,1)
test <- c(11:15)

mod <- svm(y ~ x, kernel = "linear", gamma = 1, cost = 2, type="C-classification")

predict(mod, newdata = test)

结果如下：

> predict(mod, newdata = test)
   1    2    3    4 <NA> <NA> <NA> <NA> <NA> <NA> 
   0    0    0    0    0    1    1    1    1    1 

任何人都可以解释为什么predict()只给出训练样本(x,y)的拟合值而不关心测试数据？

非常感谢您的帮助！

理查德

Answer 1

看起来这是因为您滥用了 svm() 的公式接口。通常，人们会提供一个数据框或类似对象，在其中搜索公式中的变量。如果您不这样做，通常也没关系，即使这不是最佳实践，但当您想要预测时，不将变量放入数据框中会让您陷入混乱。它返回训练数据的原因是因为您没有提供 newdata 一个包含名为 x 组件的对象。因此它无法找到新数据x，因此返回拟合值。这对于我所知道的大多数 R predict 方法来说很常见。

解决方案是 i) 将训练数据放入数据框中，并将其作为 data 参数传递给 svm，并且 ii) 提供一个包含 的新数据框x（从test）到predict()。例如：

> DF <- data.frame(x = x, y = y)
> mod <- svm(y ~ x, data = DF, kernel = "linear", gamma = 1, cost = 2,
+ type="C-classification")
> predict(mod, newdata = data.frame(x = test))
1 2 3 4 5 
1 1 1 1 1 
Levels: 0 1

Answer 2

您需要 newdata 具有相同的形式，即使用 data.frame 有帮助：

R> library(e1071)
Loading required package: class
R> df <- data.frame(x=1:10, y=sample(c(0,1), 10, rep=TRUE))
R> mod <- svm(y ~ x, kernel = "linear", gamma = 1, 
+             cost = 2, type="C-classification", data=df)
R> newdf <- data.frame(x=11:15)
R> predict(mod, newdata=newdf)
1 2 3 4 5
0 0 0 0 0
Levels: 0 1
R>

顺便说一下，这也显示了 svm() 的帮助页面：

 ## density-estimation

 # create 2-dim. normal with rho=0:
 X <- data.frame(a = rnorm(1000), b = rnorm(1000))
 attach(X)

 # traditional way:
 m <- svm(X, gamma = 0.1)

 # formula interface:
 m <- svm(~., data = X, gamma = 0.1)
 # or:
 m <- svm(~ a + b, gamma = 0.1)

 # test:
 newdata <- data.frame(a = c(0, 4), b = c(0, 4))
 predict (m, newdata)

所以总而言之，使用公式接口和提供一个 data.frame——这就是 R 中所有建模函数的工作原理。