再度階層の実験を回してflatnessを見ているが、正則化を入れたほうがflatnessが高い結果が出ている。これは全く自明ではない …
more ...得られたLPC係数をPARCOR係数の形で記録し、予測時にLPC係数に変換する、という実装を試していた。 しかし圧縮率が芳しく …
more ...引き続き粘っていたが、 \(\yen max_{i} |h_{i}| \yen leq ||h||\) から正則化パラメータを使って何かうまくやる、というのは良い方針が出 …
more ...Pythonで固定小数実装（丸め含め）を模擬したところ、丸めのための係数を、係数最大値を2の冪数(2^-2, 2^-1, 2^0, 2^1, ...)に切り …
more ...量子化誤差の平均ときつめの上界を出せて、そちらはシミュレーションでも合っていることを確かめられた。 その結 …
more ...量子化誤差の上限が正則化パラメータを含む式で表現できたはものの、実験してみたらガバガバな上界であった。も …
more ...正則化による量子化誤差削減、結構式を展開できた。Overleafにまとめ中。今日は参考にしたリンクを掲載して、
more ...