フィルタ考察(40)

先頭ユニット以外では前ユニットのデータを参照するように修正。わずかに圧縮率向上。

係数の符号分布を見ると、や …

more ...

フィルタ考察(39)

正則化の探索をコーデックに組み込んだ。同時に補助関数法の繰り返し回数をコマンドラインで設定できるように …

more ...

フィルタ考察(38)

量子化誤差の揺り戻しの末、やはり係数L2ノルムは小さいほうがよいのではということで正則化が良さそうだと思 …

more ...

フィルタ考察(37)

ネットワーク単位で同一の正則化パラメータを使ったら圧縮率が向上した。しかし、単層LPCでやるときのような単調 …

more ...

フィルタ考察(36)

コーデックに組み込んでみたが、圧縮率が悪化した。層ごとに正則化パラメータを最適化すると、かえって悪化につな …

more ...

フィルタ考察(35)

数値演算誤差の結果は理論を支持していたけど、真の係数との誤差は正則化パラメータを増やした方がよいという …

more ...

フィルタ考察(34)

理論に突っ込み始め、まとめた。実験中。

数値誤差の分散和(誤差ベクトルのL2ノルム)はカイ二乗分布に従って出ている …

more ...

フィルタ考察(33)

\begin{equation*} \newcommand\ve[1]{\boldsymbol{#1}} \newcommand\tr[1]{\mathrm{tr}\left[ #1 \right]} \newcommand\det[1]{\mathrm{det}\left[ #1 \right]} \newcommand\dfrac[2]{\frac{\mathrm{d} #1}{\mathrm{d} #2}} \end{equation*}

条件数の理論的考察に突っ込み始 …

more ...

フィルタ考察(32)

条件数の評価尺度を正則化パラメータで微分して様子を見ている。

色々式を弄っていたが、結論は出てこない。しかし、一 …

more ...

フィルタ考察(31)

構成固定で正則化パラメータだけ動かしたときに統計量がどうなるかを見よう。→パット見、やはり凸なトレンドを見 …

more ...