4. 支持向量回归
4.1 问题定义

支持向量回归(SVR,Support Vector Regression)假设能够容忍f(x)与y之间最多ϵ的偏差,即仅当f(x)与y之间的差别绝对值大于ϵ时才计算损失。这相当于以

为中心,构建了一个宽带2ϵ的间隔带,若训练样本落入此间隔带,则被认为预测正确。

SVR优化目标如下:


4.2 对偶问题

其中,

优化目标

代回至

此时,优化函数仅有α∧,α∨做为参数,可采用SMO(Sequential Minimal Optimization)求解,进而得出w,b。