共役勾配法が上手く行かない原因を求めようとして、そもそもLMSで共役勾配法使ってんじゃねと思ったら、確かに使ってる事例あり。
- Analysis of Conjugate Gradient Algorithms for Adaptive Filtering
- Conjugate Gradient Algorithm Design with RLS Normal Equation
要は、 Wiener-Hopf方程式を共役勾配法で逐次的に解く手法 に該当する。ただし、2乗誤差基準。
性能を見るとRLSと張り合っているあたり、だいぶいいはず。少なくとも論文に書いてあるとおり実装すれば良い性能は出るはず。
自己相関行列だよなあ、やっぱり。もう俺の研究の新規性分かんねぇなあ。 いや、いま気になったことがある。Wiener-Hopf方程式を解くのが最終目標になるんやが、それのスパース解を圧縮に使えないか。 うーん、でも劣決定問題じゃない（Rが正定とすると一意解が出る）からあんまりうまく行かない？
- LMS-NEWTON ADAPTIVE FILTERING USING FFT–BASED CONJUGATE GRADIENT ITERATIONS 自己相関行列（テプリッツ行列）の分解法を示していた。Ammar and Gader the cyclic displacement representationというらしいがヒットしない…。