\(R^{-1}\) の計算(27)

\begin{equation*} \newcommand\ve[1]{\boldsymbol{#1}} \newcommand\mean[2]{\mathrm{E}_{#1} \left[ #2 \right]} \end{equation*}

AR(1), AR(2), 共役勾配は「低次ならうまくいく」という主張が本当か確かめたい。

  • 全く逆の結果が出てきている。AR(p), 高次にしたときに強いように見える。
    • 128, 256, 512にすると収束速度がNGSAを上回る。。。。（定常誤差は悪い。注意。）
      • 512にすると計算量がはんぱない。。その場合AR(p)はSAよりも僅かに良い程度。
      • 256以上の高次環境下では、NGSA(Sharman-Morrison)はSAよりも収束特性が悪くなっている。
    • スパース制約（相関は低次までしかないという仮定）が効いている？
    • 高次でも、i.i.d.雑音はやはりSAと同等になる。
      • 高次の場合、Sharman-Morrison式は悪化。
    • 定常誤差は気になる。相関付き雑音だと最終的な定常誤差はSA, NGSA(Sharman-Morrison)より悪い。
      • これが致命的かもしれない。
    • 初期の残差が気になるから、リファレンス係数のノルムを1にしたらSAが一番強くなった。
      • これは問題を過度に優しくしている恐れがある。回答を単位超球上に制限している。
      • 全次元[-1,1]から一様乱数で選んだほうが遥かに難しい。ノルムを1にするというのは次元の呪いから開放されて議論しているので、おそらく正しくない。
    • 実際のデータ突っ込んだときにどうなるか？
      • 悪い。
      • AR(1), AR(2)仮定は激烈に悪い。SAより悪い。定常性がないから入力全体で平均取るのをやめて指数移動平均に任せてみたけど、やっぱり悪い。
      • CGベース手法も割と悪い。SAと同程度。定常じゃないからと思って忘却係数を小さくとっても同じ。
      • 実データもまた自己相関行列を観察するところから始めなければならないので、深追いするのはやめる。

実データにたいして良くないことが分かった所でタイムアップ。京都に向かう。

また、共役勾配の処理順序を変えたらなぜうまく行ったのか、金谷本と何が違うのかを見たい…がこれは厳しいか。