量子化誤差の平均ときつめの上界を出せて、そちらはシミュレーションでも合っていることを確かめられた。 その結果をコーデックに適用したが、性能が悪い。もっと大きな正則化パラメータを適用する必要になっているが、これは今の理論では説明できないくらい大きくなってしまう。
- 提案手法だと、補助関数法ありで55.85%
- \(1/512\) 固定だと、補助関数法ありで55.84%
見逃している誤差としては、残りは演算時の切り捨て誤差が考えられる。演算時の右シフト量は実は係数の大きさに応じて決まるから、やはり正則化パラメータの影響を受ける。地味だが、非常に重要な考察になるので解決を試みる。