The study of conventional statistics will be yet necessity for some authors in the machine learning community. Hum...

elements of probability theory: LLN, CLT. I'm interested in the uniform version of CLT. nu-svc: relations among nu, the fraction of SV, and the margin error rate. fairly good job.

VC theory, symmetrization, 2nd symmetrization.

査読。conference 7、full paper 1.

symmetrization.

組み合わせの計算が煩雑でなかなか終了しません。

e-曲率の計算は変数の添字のあいだの包含関係を使って簡単に表現できそうです。これは LDPC でも同じ。 途中までの計算を tex にまとめています。

9月にふたつ発表するので、1ページの予稿をそれぞれ書きました。 cov-shift と rank-svm です。

特論講義の初回。情報幾何の導入と、Riemann 幾何の初歩。 Euclid 空間とは何か、と質問されました。

特論のページを作成しました。 明日は Riemann 幾何の初歩を曲面論から説明します。

integral-boost の論文を修正。長らく放っておきましたが、そろそろ考え直して投稿しましょう。 Two practical benefits. 1 computation, 2 boosting is available.

高次項と grouping の関連を詳細に計算すれば、group test のmarginal の計算精度を上げられると考えています。これはこれで一種の design でしょう。推論ではなく計算の観点から design を考えるのは面白いかもしれません。LDPCで exact に出ているのでしょ…

LDPC 論文の話を DNA lib として書き直すと、対応が見てとれます。

e(m)-projection を直交射影として定義しました。min KL よりも説明が簡単になります。とくに e-projection。

k-meansの損失関数の単調減少性。重心による減少と割り当てによる減少の二段階評価。

Big-M in dual General form LP in dual

講義準備 R本執筆 DNA-lib-screening 研究 rank-boost full paper 書き multi-bag 研究

Stochastic Reasoning, Free Energy, and Information Geometry: I have some ambiguity on the relation of BP and its geometical view. After a bit calculation, I got to grasp some, but yet... m_{ji}(x_i) sum_{x_j}φ(xi,xj)e^{..xj}.

k-means. Gap methods. クラスタリングについては "Ｒで学ぶクラスタ解析" という読みやすい本があります。参照しつつ、独自の特徴を出す必要があります。特徴の１つとして gap methods の解説がある、というとです。 パターン認識全般を解説するので、クラ…

SQS：平方剰余。 Kernel trick: HW1. relation betrween positive semi-definiteness kernel function and RKHS. HW2. A toy example on R^2 classification.

VC次元の例、線形関数空間とVC次元 次回は symmetrication, uniform bound, 2nd symmetrization.

Ikeda et al 論文の勉強 MPMと推定量のずれが e-曲率とどう関係するかについて、計算を追いました。計算は簡単ですが、rescaling の正当性が納得しきれていません。

second symmetrization をまとめました。Rademacher で説明しますが Rademacher complexity は出さず、growth function → VC という流れです。 Devroye et al., A prob theory of Patt reco (p.195) では、2nd symmetrization から rademacher complexity の…

数理特論の準備 多項分布の em で exp の mixture に対する尤度を KL の min で書くと、上界を与え(KLのconvexity)、ある統計モデルで停留点が一致します。 どのくらいのモデルクラスで停留点が一致するのか計算を始めてみました。 停留点が一致することの幾…

k-means 執筆開始。導入を書きました。

授業準備：統計(VC-dimの例, symmetrization)、特論(分割表) 本執筆 rank-boost full paper：quantile regression との関連をまとめる

BNPD関連で Turbo coding の info-geo by Ikeda et al (IEEE trans. IT) を読んでいます。幾何的位置関係が分かりやすく記述されています。 Graphに関する計算に目を通す必要があります。

情報幾何。多項分布、Riemann幾何イントロ(曲面論) 明日は分割表についてまとめる。

情報キカの話。Poincare上半平面の話はしないで、多項分布にします。4回しか講義がありませんので相当絞って話す必要があります。 分割表の EM。