引き続き資料を作っている。
昨日気になっていた
NNGSAの収束する最適係数はWienner解で間違いないのか検証する必要あり。
は並行して確認中。直交原理(勾配が0になる解)を満たす解はWienner解に一致するのか?というところ。 怪しいかもしれない。適応ステップサイズがミソで、最適係数時、そいつを含めて平均をとったときにゼロになるとは思えない。
- Natural Gradient A better gradient for gradient descent? 面白そうだけどちとタイミングが悪い。