首先需要计算数据集 X的中值向量 μ。对于含有 N个数据点的样本集 X, X ={ x₁, x₂,…, x _N},每个数据点 x _i =( x _i1, x _i2,…, x _iM)∈R ^M是一个 M维的向量。令在样本集 X中,第 j个元素的次序统计量为 x_{, j}(1)≤ x_{, j}(2)≤…≤ x_{, j}( N), j∈[1, M],则对第 j个元素,当 N是奇数时,样本集的中位数为 μ _j =x_{, j}( );当 N是偶数时,中位数为 μ _j = [ x_{, j}( ) +x_{, j}( +1)]。当 j从1取到 M时,可以获得一个 M维的中值向量 μ =( μ₁, μ₂,…, μ _M)。

为了计算每个数据点的惩罚因子,需要计算在核空间中每个训练数据与中值 μ的空间距离向量 d,

d =[ d _l

(2)

式中:K(·)为核函数,且K(a,b)=(φ(a),φ(b))。

惩罚因子 w _i(∀ i=1,2,…, N)的计算公式为

w _i =1 - (3) 本文定义每个数据点 x _i的惩罚因子 w _i反比例于该数据点 x _i与中值向量 μ在核空间的距离 d _i,并且将其归一化到区间[0,1]。中值向量 μ在特征空间中的像 φ( μ)设为数据集 X的核中心。通过定义惩罚因子 w _i来衡量每个数据点 x _i在数据集 X中是异常点的可能性。在核空间中,如果一个数据点 x _i距离核中心 φ( μ)越远,这个数据点 x _i就越有可能是一个异常点,对其舍弃的意愿越强烈,那么分配给该数据点 x _i的惩罚因子就越小;反之,如果一个数据点 x _i距离核中心 φ( μ)越近,这个数据点 x _i就越有可能是一个正常点,对其舍弃的意愿越弱,那么分配给数据点 x _i的惩罚因子就越大。

对数据集 X中的每个数据点 x _i引入它的惩罚因子 w _i,让可变的惩罚因子 w _i取代传统 SVDD模型中的定值惩罚因子 C来描述数据集 X的特征空间域。通过解凸约束二次规划以获得包含最多数据点的最小超球

:

(4)

在式(4)的约束下,构建该公式的拉格朗日函数:

L(o ^*,r,α _i,β _i,ξ _i)=r²+ w _i ξ _i + α _i[‖ φ( x _i) -o ^*‖ -r² -ξ _i] - β _i ξ _i (5)

在拉格朗日乘子 α _i≥0和 β _i≥0的条件下,对拉格朗日函数中的每个变量求偏导,并令其等于0,对∀ i=1,2,…, N,新的约束条件变为

(6)

因为 α _i≥0和 β _i≥0,将变量 β _i从式(6)的第三个约束中移除,则 α _i =w _i -β _i变成 w _i≥ α _i≥0这样一个约束条件。

由 KKT互补条件可得:

(7)

重写式(5)可以获得式(4)的对偶函数如下:

(8)

值得注意的是,拉格朗日乘子α _i,∀i=1,2,…,N的上边界不再被相同的惩罚因子C决定,而是每个α _i被对应的可变惩罚因子w _i控制着。基于可变惩罚因子的一个负面影响就是增强了核参数对分类结果的影响,因为不仅计算惩罚因子,而且拉格朗日乘子的上边界都依赖于所选的核参数。

根据拉格朗日乘子 α _i的值和其对应的惩罚因子 w _i,∀ i=1,2,…, N,数据集 X中的数据点可分为以下三类:

(1)球内向量( IP): α _i =0,则数据点 x _i在超球面内部。因为已知 α _i =w _i -β _i且 β _i ξ _i =0,又因为 α _i =0,可推导出 ξ _i =0。因此, ≤r²+ξ _i=r²。

(2)支持向量( SV):0 <α _{i i},则数据点 x _i在超球面上。因为已知 α _i =w _i -β _i且 β _i ξ _i =0,由 α _{i i}可推导 ξ _i =0。在0 <α _i的条件下,要满足 α _i( -r²-ξ _i)=0。因此, =r²+ξ _i=r²。

(3)球外向量( OP): α _i =w _i,则数据点 x _i在超球面外部。由于 α _i =w _i -β _i且 β _i ξ _i =0,由 α _i =w _i可推导出 ξ _i≥0。又根据 α _i( -r²-ξ _i)=0且α _i=w _i≥0可得 =r²+ξ _i≥r²。

根据计算所获得的这些支持向量,就可以获得一个包含最多正常数据的超球 S( o ^*, r), S( o ^*, r) ={ x _i ≤r²,∀ x _i∈ X}。

半径 r可定义为 r=mean{ x _i∈SV}