再度階層の実験を回してflatnessを見ているが、正則化を入れたほうがflatnessが高い結果が出ている。これは全く自明ではない …

4/13-4/15は多忙につき動けず。

前回発想した、2,4分割して右シフト量を決めるようにしてみたが微悪化。予測の改善量 …

得られたLPC係数をPARCOR係数の形で記録し、予測時にLPC係数に変換する、という実装を試していた。 しかし圧縮率が芳しく …

引き続き粘っていたが、 \(\yen max_{i} |h_{i}| \yen leq ||h||\) から正則化パラメータを使って何かうまくやる、というのは良い方針が出 …

Pythonで固定小数実装（丸め含め）を模擬したところ、丸めのための係数を、係数最大値を2の冪数(2^-2, 2^-1, 2^0, 2^1, ...)に切り …

量子化ステップ幅のモデル化がガバガバだった。

• 8bitで記録しているが、符号ビットを除くと7bit精度になる。
• frexpを取るこ …

量子化誤差の平均ときつめの上界を出せて、そちらはシミュレーションでも合っていることを確かめられた。 その結 …

量子化誤差の上限が正則化パラメータを含む式で表現できたはものの、実験してみたらガバガバな上界であった。も …

正則化による量子化誤差削減、結構式を展開できた。Overleafにまとめ中。今日は参考にしたリンクを掲載して、

• Equivalence of Two Norm and Infinity …

正則化が何故よ …