• Dr.ズッキー's memo を読むために、クリキンの本で特異モデルの漸近論について調べました。Approximating cone というものを学びました。Tangent cone との違いを示す例がクリキン本にありますが、まだ定義以上に深く理解できていません。Importance 推定のための推定量(LSIF, uLSIF)にも使えるか、考えよう。
    • 正則モデルの場合には、尤度の線形化(分布の正規分布近似)のみで1次の漸近論はO.K.である。特異モデル場合には、加えてパラメータ領域の1次近似も必要になるらしく、それが近似錐ということのようだ。となると、特異モデルの高次漸近論は相当に面倒な気はするが、出来そうではある。どの程度結果が得られているのだろうか?
    • 昔、しも研の学生さんが似たような計算をしていたかも。あれは高次の話だった気がする。
  • すぎポンから、昨日の論文についての返事のメールが早速届きました。Learning curve について、式変形の説明が若干不親切だったので補足。さらに LSIF と uLSIF を比較する図の見栄えを良くしました。