執筆の合間に妙に時間が空いたのでHingeLossの件を進める。収束性能はどうしても議論が進まん。
凸最適化だから最適値に収束しているのは間違いない。しかし、実験してみたところL-D法だと残差が0になってしまいロスとしても0に。ロスが0になる範囲が広い気がする。また、L-Dよりもロスが悪化するケースがあった。
既存研究漁ってみるか。Vapnik epsilon insensitiveとadaptive filterを混ぜて検索してみるも、なかなかヒットしない。
うーん、いいのか悪いのかすらもわからない。実験で性能比較するしかないか。
してみた。が、良くなったり悪くなったりの性能。あやしい。悪くなる理由もよくわからない。
- 係数オーダー/窓幅を上げると改善の傾向
- 16と32くらいで検証するのが良かろう
- マージンは大きすぎるとL-D法と変わらない/悪化
- 要検討
- Golomb-Riceの最適設定を使うべきか？しかしマージンを動かすと解析が怪しくなる…
- 初期値はL-D法にしたほうが良い傾向？？
- これは初期値L-D法で。
- プリエンファシスを入れると改善率が上がる…
- プリエンファシスは追加要素だから一旦外す。
変数が多すぎる。整理が必要。