引き続き粘っていたが、 \(\yen max_{i} |h_{i}| \yen leq ||h||\) から正則化パラメータを使って何かうまくやる、というのは良い方針が出 …

Pythonで固定小数実装（丸め含め）を模擬したところ、丸めのための係数を、係数最大値を2の冪数(2^-2, 2^-1, 2^0, 2^1, ...)に切り …

量子化ステップ幅のモデル化がガバガバだった。

• 8bitで記録しているが、符号ビットを除くと7bit精度になる。
• frexpを取るこ …

量子化誤差の平均ときつめの上界を出せて、そちらはシミュレーションでも合っていることを確かめられた。 その結 …

量子化誤差の上限が正則化パラメータを含む式で表現できたはものの、実験してみたらガバガバな上界であった。も …

正則化による量子化誤差削減、結構式を展開できた。Overleafにまとめ中。今日は参考にしたリンクを掲載して、

• Equivalence of Two Norm and Infinity …

正則化が何故よ …

論文再投稿や他作業に追われて手を付けられていない。スキマに読んでいた「線形システム同定の基礎」が素晴らしか …

それこそAICやFPE（Final Prediction Error, 最終予測残差）で理論的な議論ができそうな気がしてきた。モデル選択に近い話。

FPEの文献が少 …

理論的考察の続き。残差に対して連続して線形予測している部分について、変形相関はまさに使えそう（音声の高能率 …