メモリ破壊バグが原因で32より大きいパラメータで圧縮率が極端に低下していた。これまでパラメータの増やし過ぎは良くないと思っていたが、原因はくだらない不具合だった。また、Releaseビルドでずっと試していて、assertに気付かなかったのも大きい。
そしてパラメータを増やしていくと、圧縮率がどんどん良くなっていく。WavPack(-hh)は確実に倒した。1層あたり128まで増やしておく。
Burg法を実装して、L-D法を入れ替える形で組み込んでみた。しかしALAで見たようにトイデータでL-D方よりも小さいRMSを出しているが、実データで微妙。
気になってるのは自分の実装は共分散行列を使った実装をしている。例の簡易再帰実装の方がトイデータでRMSが良いが、係数を除くと5.0, -4.0とか出しててなにか危ないものを感じる。