Higher order の計算をしていました。 まだ null 分布しか導出していません。考えている方法の統計的精度は、power でみると理論的には optimal ではないことは(ほぼ)明らか。 あるclass のなかで null 分布の分散を最小にする検定統計量は、それなりには、…

本格的に論文の執筆を始めます。過去のメモを読み返しました。計算の背後にある幾何構造が明確になるように、式を書き直そうと考えています。

少し違った推定量を使うと、いままでよりスッキリと、いろいろなことが理解できました。 1st order は自明、2nd order で非自明な結果。 (セミ)パラの設定だとノンパラと異なり、漸近最適性などを主張することができます。 Qinさんの論文にある推定量がなぜ…

Algorithm Design 輪読。Kruskal's algorithm. Union-Find. データ構造などについて全く知りませんので、勉強になります。

資料の準備：再生核ヒルベルト空間。いろいろなアプローチがあります。機械学習の考え方から必然的に現れるように提示したい。

Henmi, et al., モンテカルロ積分の論文をきちんと読みました。いろいろ inspire される面白い論文でした。 最近考えている研究のヒントになりそうです。

4,5年前に得たアイデアを元にした論文がアクセプトになりました。 多値版の madaboost をどのように構成すべきか、という問題に対して、一応の方向性を示したと思います。 論文では、"conditional probability の explicit modeling" と "truncated-weight" …

いくつかの査読をしました。

数値解析について深く知る必要がありそうです。勉強を始めました。まずは非線形解析入門。

今期は大学院の講義のみです。機械学習の基礎コースです。今年の講義では、さまざまなバウンドには言及しません。RKHS を中心的内容とします。Multiple kernel や group lasso まで進みそうにありません。

依頼されていた論文を書きました。Belief Propagation の情報幾何を勉強するために論文を書いた、ということです。BIB design との関連は共著者さんの貢献です。 任意の c_r(x), r\in G(pooling design) について |r and s| c_r(x) の関数形が となる c_r' …

ある検定について、いままで見たことがない現象を観察しました。帰無分布が縮退するので、パワーのオーダーが改善されます。これは一体何なのか?

来期の講義の準備：kernel法、multiple kernel, group lasso との関連など、準備しておきたい。

V-BFGS-B を normalized scale-free criterion で評価。これだと、おそらく gross error sensitivity は発散します。

論文を修正 数値実験ではいい結果が出ました。bound は tight ということです。

査読をしました。

そろそろ来期の大学院講義の計画を立てる必要があります。 Linear model から RKHS に展開する予定です。

sparse V-BFGS-H の計算量を から に出来たと思います。 あと残っている問題は em-type extension の収束先の特徴付けです。

修論発表がありました。発表者の皆様、おつかれ様でした。

年末年始に集中的に研究にとりくみ、いろいろと分かりました。 BFGS の数値的安定性はいろいろな数値実験によって確認されています。これを自分なりの視点から理論的に示すことができました。 そのあたりについて、サーベイをする必要もあります。 em-type b…