ワクチンでくたばる土日。21から再開。 くたばる前に実験していて、最小二乗誤差基準でフィルタを設計した方がより残差をフラットにできていて、 しかもL1ロスが低かった(!)寝てて思ったのが、やっぱLPCの量子化誤差の取り扱いでミスがあるのでは?ということ。
早速量子化を疑う。flakeとFLACの量子化では量子化誤差を取り込んでいる処理があった。これが致命的とは思えなかったが、入れてみたら性能が向上した。。。(Jazzでは平均0.2%の向上…)
量子化回りで観察していると、そういえば窓かけしてないことに気づく。でも、依然試したときは圧縮率が悪化していたから、End-to-Endじゃないとダメかと勝手に考えていた。しかし、今日再度突っ込んでみたら良くなる傾向が見られた…どうなっとんねん。
窓かけにより、寝る前に仕掛けたら平均0.02%の改善が見られた…。とくに補助関数法ではない純粋なLPCで良く減ることが見えている。。。