そろそろ一旦まとめておきたい。スペクトルを観察すると、 \(\yen epsilon \yen approx 0\) が多いためかかなり最小二乗解と近い。また、高域でL-Dより大きいゲインを与えている。
入力スペクトルとの板倉斎藤(IS)距離を計算してみても最小二乗解の方が良い傾向。しかし、符号長最小の時に必ずしも板倉斎藤距離が小さくなる訳ではない。これは平均で見ないと何も言えなそう。
最善の \(\yen epsilon\) を選んだ時の統計を示すのがいいかな。個別フレームで語っても一般性がない。結果、当然符号長は短く(短いものを選んでいるから)、
- L1ノルムは最小二乗解より悪化
- L2ノルムは改善、L-Dより良い
- これより、やはりHinge損失はラプラス分布より尖度が低く、ガウス分布に近くなっている。
- 対数スペクトル距離、IS距離は改善
- 係数ノルムは改善
- これは嬉しい。量子化誤差の改善に繋がるはず