\begin{equation*}
\newcommand\ve[1]{\boldsymbol{#1}}
\newcommand\mean[2]{\mathrm{E}_{#1} \left[ #2 \right]}
\end{equation*}
共役勾配法を動くようにした。。。修正内容は、
- 係数更新が先、共役勾配の更新を後
- 論文の順序に合わせた結果。しかしなぜうまく行ったのか分かっていない。
- 金谷先生の本では係数更新が後、これではうまく行かない（発散する）。
- Sharman-Morrison式で \(\ve{R}\) を更新
- これは観察からこっちが正しいことが見えている。
性能としては、i.i.d.でSharman-Morrison式とほぼ同等、相関付き雑音でSAと性能が近くなっているように見える。要観察。
AR(1), AR(2)モデル仮定での \(\ve{R}^{-1}\) を使う手法は、結局あんまりよくないという所で落ち着きそう。
- i.i.d.雑音の場合はSAと同程度（ \(\ve{R}^{-1}\) は単位行列になる）
- 理論的にも問題ないけど、性能が良くならないのはつらい。
- 相関付き雑音の場合は、収束は早くなるが定常誤差が悪化。
- 定常誤差を良くするためにステップサイズを小さくしていくとSAと一致してしまう。