\(R^{-1}\) の計算(23)

glassoが自己相関行列を指数移動平均で更新したら、NGSAとほぼ同等の性能を出していたので、その観察から、 モーメンタムを込めながらAR(1)仮定の高速計算ができないか、で今考え中。

1. 摂動展開

   • 詰まってる。
   \begin{equation*} (\lambda \ve{R} + \ve{M})^{-1} \approx \lambda^{-1}\ve{R}^{-1} - \lambda^{-2} \ve{R}^{-1}\ve{M}\ve{R}^{-1} \end{equation*}
   • となるけど、それをどうする？右辺第二項の計算で \(\mathcal{O}(N^{2})\) なのがうーんという感じ。

2. AR(1)仮定での \(\ve{R}^{-1}\) の構造に着目する

   \begin{equation*} \ve{R}^{-1} = \ve{I} - \rho \left[ \begin{array}{cccc} 0 & 1 & & \\ 1 & 0 & \ddots & \\ & \ddots & \ddots & 1 \\ & & 1 & 0 \\ \end{array} \right] + \rho^{2} \left[ \begin{array}{ccccc} 0 & & & & \\ & 1 & & & \\ & & \ddots & & \\ & & & 1 & \\ & & & & 0 \\ \end{array} \right] \end{equation*}
   • というふうに分解できるから、 \(\rho\) に摂動を加えるなりしたら何か起こらないかなあと思ってるんだけど、良さげな更新則は出てこない。

3. AR(2)仮定を探る

   • 真の \(\ve{R}^{-1}\) を見ていると、5重対角行列成分も無視できないくらいある。陽に求まるはず。
     • でも、モーメンタムから目をそらすことになってしまいそう。i.i.d.のときの性能は変わらないはず。
     • それでも試すだけ試してみるか
   • ARMAまで手を伸ばしたらあった。もう少し探る。 Inverse of the Covariance Matrix of ARMA(p,q) Time Series
   • Statistical inference for functions of the covariance matrix in the stationary Gaussian time-orthogonal principal components model これのpp.979が答えでは？うん、答えだわ。使ってみようぜ。
   • On the inversion of the sample covariance matrix in a stationary autoregressive process <https://projecteuclid.org/download/pdf_1/euclid.aoms/1177706636>__ 引用している論文。
   • THE INVERSE OF COVARIANCE MATRICES FOR THE ARMA (p, q) CLASS OF PROCESSES* 昨日に引き続き。これは包括的に結果のみを述べてる。
     • On the inverse of the covariance matrix for an autoregressive-moving average process 上で参照している論文。これも答えが出とる。

どん詰まりよ。AR(1)仮定は相関付きであっても微妙。i.i.d.の場合はSAと同程度。うーん。