\begin{equation*}
\newcommand\ve[1]{\boldsymbol{#1}}
\newcommand{\parfrac}[2]{{\frac{\partial #1}{\partial #2}}}
\end{equation*}
今日から発表資料作る。久々にBeamerでやろうかね。
資料作ってたら、ラグランジュ未定乗数法による定式化で \((\ve{h} - \ve{h}^{\prime})^{\mathsf{T}}\ve{R}(\ve{h} - \ve{h}^{\prime})\) の最小化を考えたけど、これってレイリー商の下限すなわち最小固有値が答えでは。もうちょっと考えたくなってきた。 \(\mu(n)\) は垂線の長さに対応するんだっけ？
アフィン写像アルゴリズムへの拡張は、NLMSの制約を増やしたものに過ぎない。ラグランジュの未定乗数法を使って、
\begin{align*}
\mathcal{L} &= (\ve{h} - \ve{h}^{\prime})^{\mathsf{T}}\ve{R}(\ve{h} - \ve{h}^{\prime}) + (\ve{d} - \ve{A}\ve{h}^{\prime})^{\mathsf{T}} \ve{\lambda} \\
\parfrac{\mathcal{L}}{\ve{h}^{\prime}} &= 2\ve{R}(\ve{h} - \ve{h}^{\prime}) - \parfrac{}{\ve{h}^{\prime}} \ve{h}^{\prime\mathsf{T}} \ve{A}^{\mathsf{T}} \ve{\lambda} \\
&= 2\ve{R}(\ve{h} - \ve{h}^{\prime}) - \ve{A}^{\mathsf{T}} \ve{\lambda} \\
\implies \ve{h}^{\prime} &= \ve{h} + \frac{1}{2} \ve{R}^{-1} \ve{A}^{\mathsf{T}} \ve{\lambda} \\
\implies \ve{\lambda} &= 2 (\ve{A} \ve{R}^{-1} \ve{A}^{\mathsf{T}})\ve{e}
\end{align*}
から、
\begin{align*}
\ve{h}^{\prime} &= \ve{h} + \ve{R}^{-1}\ve{A}^{\mathsf{T}}(\ve{A} \ve{R}^{-1} \ve{A}^{\mathsf{T}})^{-1} \ve{e} \\
&= \ve{h} + \ve{R}^{-1}\ve{A}^{\mathsf{T}}(\ve{A} \ve{R}^{-1} \ve{A}^{\mathsf{T}})^{-1}(\ve{d} - \ve{A} \ve{h}) \\
&= \left\{ \ve{I} - \ve{R}^{-1}\ve{A}^{\mathsf{T}}(\ve{A} \ve{R}^{-1} \ve{A}^{\mathsf{T}})^{-1}\ve{A} \right\} \ve{h} + \ve{R}^{-1}\ve{A}^{\mathsf{T}}(\ve{A} \ve{R}^{-1} \ve{A}^{\mathsf{T}})\ve{d}
\end{align*}
\(\ve{P} = \ve{R}^{-1}\ve{A}^{\mathsf{T}}(\ve{A} \ve{R}^{-1} \ve{A}^{\mathsf{T}})^{-1}\ve{A}\) とすれば \(\ve{P}^{2} = \ve{P}\) だから射影行列になっている。
アルゴリズムを導いたけどあんまりいい考察は出てこない、というか、煩雑。