多変量解析入門　解答　多変量解析

第８章サポートベクトルマシン

この本の解答がなかったので作っていく、

多変量解析入門――線形から非線形へ

作者: 小西貞則
出版社/メーカー: 岩波書店
発売日: 2010/01/27
メディア: 単行本（ソフトカバー）
購入: 14人クリック: 347回
この商品を含むブログ (9件) を見る

他の章の解答はこちら

yosuke-programing.hatenadiary.com

第８章サポートベクトルマシン
- 問8.1
- 問8.2
- 問8.3
- 問8.4
- 問8.5
- 問8.6

問8.1

直交ベクトルを用いて基本的に、2,3次元などでも用いられる方法で証明する。

$\boldsymbol{ w }$ は、平面の式を考えると、法線ベクトルである。

距離を求めたい今回の点を $\boldsymbol{ s }$ とし、
そこから、伸びた超平面の垂線と超平面との交点を、
$\boldsymbol{ t }$ とすると、

$d = |\vec{ st }| = k|\boldsymbol{w}|$

ここで、kを求めるために、 $\boldsymbol{ t }$ を消去する。
tは、超平面より、
$\boldsymbol{ w }^T\boldsymbol{ t }+ b = 0$ を満たす。
また、 $\boldsymbol{ t } = \boldsymbol{w} + \boldsymbol{s}$ を考えて
$k\boldsymbol{ w }^T\boldsymbol{w} + \boldsymbol{ w }^T\boldsymbol{s}+ b = 0 \therefore s = - \frac{ \boldsymbol{ w }^T\boldsymbol{s}+ b }{ |\boldsymbol{w}|^2 }\$

よって、
$d = |k\boldsymbol{w}| = \frac{ | \boldsymbol{ w }^T\boldsymbol{s}+ b |}{ |\boldsymbol{w}|^2 }|\boldsymbol{w}|= \frac{ |\boldsymbol{ w }^T\boldsymbol{s}+ b |}{ |\boldsymbol{w}| }$