LMS Filterの挙動観察中(10)

\begin{equation*} \newcommand\innerp[2]{\langle #1, #2 \rangle} \newcommand\ve[1]{\boldsymbol{#1}} \newcommand\parfrac[2]{\frac{\partial #1}{\partial #2}} \end{equation*}

Normalizeするやつの意味付けを追っている。非常にRLS(Recursive Least Square)に近い …

more ...


LMS Filterの挙動観察中(9)

\begin{equation*} \newcommand\innerp[2]{\langle #1, #2 \rangle} \newcommand\ve[1]{\boldsymbol{#1}} \newcommand\parfrac[2]{\frac{\partial #1}{\partial #2}} \end{equation*}

実装誤りを見直しながらもう一度。

やはり、自然勾配法が何故 …

more ...

LMS Filterの挙動観察中(8)

まだ粘る。GW終わるまでには何らかのアウトプットがほしい。

指数移動平均のαを増やすと性能(誤差、エントロピー)が悪 …

more ...

LMS Filterの挙動観察中(7)

実データ適用で、どうも上手く行かない。やっぱり分散行列の逆行列が発散している。

適応的自然勾配をやめて、真面目 …

more ...

LMS Filterの挙動観察中(6)

今日は実装整理して実データへ適用してみる。気になってるのが適応的自然勾配の更新式。

  • 確率の重み付けは正規化 …
more ...

LMS Filterの挙動観察中(5)

\begin{equation*} \newcommand\innerp[2]{\langle #1, #2 \rangle} \newcommand\ve[1]{\boldsymbol{#1}} \newcommand\parfrac[2]{\frac{\partial #1}{\partial #2}} \end{equation*}

別のことをしているときに、ふと適応的自然勾配学習法を弄 …

more ...