MI-est 研究

共著者の素晴らしい証明にコメントしました。

面白い研究と思います。 面白いということを人に伝えることについては、もう少しだけ改善の余地があるかもしれません。

law of large numbers for multiple sums について、そのうちまとめましょう。

law of large numbers の double sum version の挙動について、若干の考察をしました。 実数値有界関数の集合 の VC dim が有限なら に確率収束します。どちらかの変数を index と看倣して、Donsker class に入っていることが十分条件になります。 少しきつ…

Geer本の Lemma 5.14 の modulus of continuity を理解する必要があり、勉強中です。

時間ができたので MI-est の uniform convergence の証明を読みましたが、要所で Geer 本の知識が必要になる。Bracket entropy と empirical mean の order of convergence を理解しよう。 permutation の議論で を とするのは面白いです。これで order を評…

Dr.ズッキーさんが主著者で仕上りました。私は細々と種をまいた程度で、実質的にほとんど何もしていません。Quad. loss のもとでの uniform convergence について、詳細な証明を勉強したいと思います。

MI-est のための LOOCV を計算しようと試みるが、うまくいかない。Woodbury matrix identity で Hessian の inverse を incremental に計算できればよいのだが、なかなかうまくいきません。Rank-one update のようになれば良いのだが、そうはならず rank-n u…

cov-shift 研究からの派生した話がすでに始まっています。論文の原稿が送られてきました。スギさん仕事が早いです。 uLSIF を使って MI-est をしようという話です。言われてみれば、確かに出来ます。Density ratio の推定から f-divergence の推定ができます…