2008-07-01から1ヶ月間の記事一覧

FD+会議

FD on mental care for students. 教授会 専攻内mini会議

準備:em-algorithm の大域的な収束性について。 min_{p,q} KL(p,q) において 、 を制約とする。E, M がともに m-flat なら KL の凸性から m-coordinate に関して convex opt となる。一方、em-alg の通常の設定では E が e-flat (or curved exp. family) で…

Geer本 に依存した に対する equicontinuity Pollard本を参照。

特論の準備:em-algまとめ。Arimoto IEEE IT ('72)を確認。 大域的収束性について。授業ではやらないが、自分の理解のため。

LP

LP を幾何に応用 点配置とcoloring、Helly's theorem。 polytope に shrink して証明。 が infeasible ()⇔ there is a subset of at most inequalities which are infeasible。

M1: Hadamard matrix の性質と Steiner。 M1: PCA, Kernel PCA. ゼミも当分ありません。

統計解析:今期最後。授業アンケートではたくさんの貴重な意見を頂きました。ありがとうございます。今後に生かしたいと思います。

近似計算で e-curvature の計算と graph のトポロジーの関係を見ました。どうも直感に合わない結果が出たので計算ミスをしていそうです。つまり、短いループがあっても bias 項の dominant term は小さい、と出た。3次の項では、短いループは bias を大きく…

準備:統計解析。明日で今期最後です。いままで証明なしで使っていた Hoeffding's ineq. の証明をしようと思います。あとはレポートの解説。 準備:特論。em-algorithm. 3垂線の定理の情報幾何版その他をレポート課題にしようか? 初等幾何の定理がどの程度…

Geer本。asymptotic equicontinuouity. テクニカルな話。empirical entropy の integrable uniform upper bound があれば equicontinuous. ULLNを使っているだけなので、有難味がよくわかりません。例を知る必要があります。 目標の Lemma まであと 15ページ…

院入試の面接。別の会議のため途中退出。 別の会議。13:00-18:00ごろまで。なんとか貢献できたようです。

朝、Geer本読み。Lemma5.2。 を見るための話。Empirical entropy を使った ULLNをそのまま適用しているだけなので、dominant term of upper bound の tail probability の評価になる。

前期が終了したらすべきこと

rank-svm full paper multi-bag DNA-lib-screening full paper 査読 本書き integ-boost OS update

特論 KL-divergence, Duality 計算の詳細は省略しつつも拡張ピタゴラスまで説明しました。 来週の準備: em-algorithm の説明 統計解析 成績を途中まで記入

Geer本読み。Consistency of LS. set of monotone increasing functions。確率的な一様連続性を仮定すれば、converngence in the mean から、 sup-norm での uniform convergence が出ます。a.s.の議論で mean を 区間の確率で lower bound する。

meeting。計算を踏まえて次に考えるべきことを整理しました。 min bias-correct, s.t. #edge

会議資料整理

Geer本読み。Consistency of Least Square Estimator。証明にちょっとしたミスがあるようですが、簡単に修正できます。 sup をとるタイミングが変。

特論準備:双対座標を導入しないで、平坦性を分布の言葉で表現して議論を進めればスッキリします。 多項分布で説明するので、これでよい。 Gaussian Mixture は Gaussian でないので、射影から定まる接続を Gaussian に入れます。講義では触れません。

LP

parametric LP: boundedness を dual feasibility で判定。

B4: Gauss-Markov's theorem. M1: Design, linear spaces. 点と線を包含関係だけで考える話。

uniform convergence 証明終了 分布関数の推定:経験分布の収束

特論。情報幾何講義の準備 DNA-lib: BP計算 rank-svm: ranking と LS-model, non-cross quantile

non-cross quantile の論文読み。 rankingとの関連。ranking に対して location-scale model はそのままでは適用不可。その意味では、rank-svm は RRQ では置き換えられません。このあたり、もうすこし詰める必要あり。

えぐメールにコメント。Order-preserving は、本質的には Zhang's paper にありました。

Geer本読み。ULLNの consistency への応用。Basic ineq.、parametric model. compactness of parameter space.

準備

2nd symmetrization。経験分布の推定精度への適用など。Sauer's ineq の等号成立。レポート課題の作成。

e-curvature の計算を一通り遂行しました。検算してから、添字の包含関係と BP による bias correction について考えます。

特論

統計的推定、最尤推定量、Fisher 情報量、多項分布のFisher計量と球面幾何 次週: KL-divergence, 双対座標、e,m の話

rank-boost 研究 optimality condition for quantile regression under LS-model. Quantile crossing to be checked. full paper. 本書き: k-means. アルゴリズムの動きが理解しやすい例を示す。 DNA-lib-screening 研究:e-curvature の計算。cloneとgroup…