打乱输入后 SVM 解决方案可以改变吗？
当使用完全相同的数据训练支持向量机（SVM）进行分类时，我会根据输入的顺序获得不同的结果，即。如果我打乱数据，我会得到不同的 SVM。
如果我正确理解了这个理论，无论输入的顺序如何，SVM 解决方案都应该是相同的，那么为什么我会得到不同的结果呢？ SVM 中是否有任何实现“细节”为什么洗牌会改变解决方案？我已经检查过我的代码好几次了，因为我觉得这有味道。
我在 OpenCV 中使用 SVM 实现。
编辑：在这种情况下，通过洗牌我指的是改变数据点的顺序而不是特征。
When training a support vector machine (SVM) for classification with exactly the same data I obtain different results based on the order of the inputs, ie. if I shuffle the data I get different SVMs.
If I understood the theory correctly, the SVM solution should be the same regardless of the order of the inputs, so how come I get the different results? Is there any implementation "detail" in SVM why shuffling would change the solution? I have already checked my code several times, because I think this smells.
I use the SVM implementation in OpenCV.
EDIT: in this case, by shuffling I refer to changing the order of the data points not features.
如果你对这篇内容有疑问，欢迎到本站社区发帖提问 参与讨论，获取更多帮助，或者扫码二维码加入 Web 技术交流群。
绑定邮箱获取回复消息
由于您还没有绑定你的真实邮箱，如果其他用户或者作者回复了您的评论，将不能在第一时间通知您！
发布评论
评论（2）
我对OpenCV的实现不熟悉。但这样做：对完全相同的数据集运行多次试验 - 没有洗牌，相同的顺序，相同的数据点。查看 SVM 是否发生变化。显然，理论上不应该。但可能是在实现过程中的某个地方存在一些小的随机化步骤，从而为相同的输入产生不同的输出。
编辑：正如 Chris A. 所问，特征向量在洗牌后是否与其正确的标签相对应？如果没有，那显然会破坏你的结果。
I am not familiar with the OpenCV implementation. But do this: run several trials on exactly the same data set -- no shuffling, same order, same data points. See if the SVM changes. Obviously, in theory, it shouldn't. But it could be that there is some small randomization step somewhere in the implementation that produces different outputs for the same input.
Edit: As Chris A. asks, do the feature vectors correspond to their proper labels after shuffling? If not, that would obviously destroy your results.
SVM是为了解决凸优化问题，所以最大值是唯一的。这意味着任何随机优化算法都会解决非常接近唯一最优解的问题。并且改组不能改变高于浮点运算精度的结果。
SVM is for solving convex optimization problem, so maximum is unique. That means any random optimization algorithms will solve problem very close to unique optimal solution. And shuffling can't change result above float-point operation accuracy.