Bayes error と Bayes rule の計算に関する演習問題を作りました。 当初の予定では、明日は VC次元について講義することになっていました。予定を変更して、演習の時間とします。

論文の修正 数値実験。ranking の absolute loss 評価と、確率の差を出力するようにプログラムを変更して走らせています。

プレゼンの準備。Quntile 関連の幾何について講演します。

sup を含む計算で微妙な個所を学生さんに質問されました。 Vapnik uniform convergence。計算の細かい点までは、授業では全く触れませんでしたが、自分で理解はしていたので即答することができました。

原稿の校正

国際会議の査読を１本終了しました。

func-svm.r バグ修正

VC theory: Growth function. Sauer's ineq の証明は講義ではしないことにしました。それよりも VC次元の例などを出したほうが分かりやすいでしょう。

dropping the redundant constraints in standard form LP. extended foundamental theorem の詳細を理解していないので、あとで確認。

R-code の func-svm.r を修正。multiple quantile set の繰り返し計算に対応させたい。まだバグあり。

一通り読みました。明日にでも review report を書きます。

M2：java programming on SQS. M1：Mercer's theorem. 例を通して定理を理解してほしいです。意味を理解することは、証明(の瑣末な部分)を理解することより大切です。

正規分布モデルのもとでの線形判別に関するレポート課題の解答を解説しました。 VC theory の初歩。仮説の集合が有限のとき。

rank-svm についてプレゼンをしました。かなり詳細まで詰めました。応用はどうしましょう。

ハードでした。久し振りにいろんな人に会えて楽しかったです。 Graph mining 関連が多かった気がします。そっち方面には知識がなく、ついていけていません。 DNA lib screening の共同研究をスタートさせる予定なので、それに関係する graph を勉強したい。 …

VC theory, VC次元の計算などをまとめした。

2段階法、phase 1 redundant constraints の除去

M1: Hall's marriage theorem. etc. 証明は tricky。edge の coloring。分かりやすく説明してくれました。 M1: regression の Kernel法。あまり数学的に書いていない本の解説のため、ちょっと苦労しているようです。このあたりは数学的に難しいことはないで…

VC theory の導入

仮説集合 が有限で Bayes rule を含むときでも、bias-variance trade-off の本質的な部分は説明することができます。技術的な計算と背後の概念をうまく解説できればよいと思います。 明日は、線形判別の続きとしての logistic 回帰と、統計的学習理論の初歩…

top problem の数値実験を走らせました。計算機の不具合もあり、結果の出力は明日以降になりそうです。 confidence interval の推定誤差をどう測るのがいいのでしょうか? 昨晩、nonconvex quadratic optimization の短い論文を１本読みました。かなり特殊な…

linear classification, statistical learning theorem, VC intro. 仮説集合が有限のときの uniform convergence を丁寧に解説しようと思います。

nonconvex quadratic programming として定式化されます。そのあたりの研究は現在、どのくらいまで進んでいるのか確認する必要があります。 校正しました。

査読：同じような内容の論文を日本語と英語で投稿することについて、どうやら分野によっては緩やかな基準があるようで、recommendation を再検討することになりました。

rank-svm の正当化のための理論について書きました。 一通り書いて、エグタケに送りました。 scale function の推定について、数値実験をしてみると、指定する quantile の数が増えると、推定精度が向上することが確認できました。数は増やさず、quantile を…

共著者から論文が飛んできました。すぎさん相変わらず仕事が早いです。

rank-svm で confidence interval に対する一致性について考えていました。unbias になるような分布の存在範囲を明確にしました。結果的に簡単に導出できました。最初から考えるべき方針だったと思うが、手を汚したからこその収穫だとも思う。どれほど年齢を…

判別分析に関するレポート課題を作成しました。簡単に計算できるように、1次元判別分析で Bayes error の計算を出題します。 統計を忘れている学生さんがほとんどだと思うので、最尤推定の復習メモを作成しました。