2008-09-01から1ヶ月間の記事一覧
Arrow's impossibility theorem の証明を読みました。単なる勉強です。
スライド書き
カーネル化と LOOCV まとめ。次は consistency、rate of convergence。 返答を書きました。
LOOCVで計算ミスあり。深刻な間違いではなく、簡単に修正できました。
発表準備
IBIS submit. 共著者にアブストなどをまとめてもらいました。 しばらく中断していましたが、informal presentation のために復習します。
原稿を共著者に送りました。 uniform convergence の証明をさらに追加する予定です。簡単な数値実験も加えたい。
kernel化。 LOOCVもOKらしい。 998次元線形方程式を1000回解く代わりに 2次元線形方程式を1000回解けばよい。 詳細を確認する必要があるが、これは good news。
本執筆 講義準備 rank-svm: Full paper 書き。アルゴリズム書き。一般の損失で書くことにするか? となるとかなり書換え?? 正則化あり学習での consistency, rate of convergence. DNA-lib screening研究：positiveが2つあるときの bais 補正について、理論と…
IBIS アブスト チェック。
Kernel化。サンプルに依存して正確に feasible region を求めようと考えましたが、できていません。 正確でなければ、緩和の一種とかんがえられるような簡単な方法でよいと思います。定数項も入れて SMO が使える形になりました。 Consistency の証明はでき…
full paper 書き。introduction を書きました。まだやるべきことはありますが、少し校正してそろそろ共著者に送ります。
rank-svm: Full paper 書き。アルゴリズムと証明を書く。一般の損失で書くことにするか? となるとかなり書換え。 正則化あり学習での consistency, rate of convergence. DNA-lib screening研究：positiveが2つあるときの bais 補正について、理論と数値結果…
hinge loss を ranking に関して多重に使うときの consistency は、モデルを制約すると一般に成立しない。L2-svm での loss でなら言えるので、そのあたりを例に出しつつ証明を書くことができる。結局は conditional prob 推定の能力に関わる(cf. Bartlett a…
会議。
線形代数の演習。平面の式。行列の計算。問題作成。
Geer本 Lemma 5.11, 5.13 を復習。empirical process の 連続性。近傍をサンプル数に従って小さくするテクニック。Nguyen 論文の最後の定理の証明をフォローしました。自分でも使えるようになってきました。 正則化がある場合のノンパラ推定の精度評価。
来期の線形代数の演習の準備。助手のころに作った演習問題をまとめ直しています。
RKHS。K is positive ⇔ there exists a Hilbert space endowed with K。
two samples test. Geer 本などを参照して gaussian process indexed by functions の extremal distribution について調べ、結果をまとめ、送りました。 KS-test は設定が単純で ULLN などの結果を直接適用できるので、pivoting できるわけだが、いまの設定…
cov-shift研究：Gaussian process の最大値の分布について、covering number との関連を確認する。有限次元なら tube 法が使えるか? DNA-lib screening研究：positiveが2つあるときの bais 補正について、理論と数値結果のギャップを考える。irregular LDPC…
今年の nips は 250/1022。査読などで自分が知っている結果は 1/11。このようなことが起こる確率は16.2%。
non-para two sample test with importance。Geer 本にある結果を使えば、正則化なし推定なら p-value を出せそうです。n_te は O(n_tr) より大きく O(n_tr^2) 以下で、意味ある結果になります。応用を考えると、妥当な仮定と言えます。 正則化項ありにする…
評価関連についてチェック。 査読しました。いい論文だったので、コメントも簡単に済みました。
importance estimation と two-sample test パラメトリックモデルで対立仮説を考えなければ、おそらく簡単。対立仮説を考慮してパワーを上げようとすると、難しいかもしれない。凸多面体なら混合カイ２乗だけど、内積を定義する正定値行列と分散(の逆)が異な…
回帰 direct optimization of spline smoothing ：検定統計量とモデル選択が direct に関連している。 penalized spline, smoothing: 展開、smoothing parameter の optimize. 計算法を詰める必要がありそう。 extended PCA: 多変量 Markov process判別：Vit…
T-pr の準備。細かい数式を説明する必要はとくにないと判断しました。
資料作成
fastICA.
