カーネル関連について、いろいろ復習しています。

A new approach to collaborative filtering: operator estimation ...., JMLR. collaborative filtering with kernel method. representer theorem. **Square root of Gram matrix** is required... Rademachre and Gaussian complexity: risk boundes...,J…

IPM, f-div and binary classification IPM and f-dvi: total variation distance empirical computation of IPM: LP is available uniform consistency and rate of convergence: standard approach based on Geer's book. binary classificaiton and IPM: …

数理統計：Fisher information, Cramer-Rao's ineq.

Margin-based Ranking and an Equivalence between AdaBoost and RankBoost, JMLR. objective func. と margin 最大化との関連。収束性。 bipartite ranking における adaboost と rankboost の等価性 (with threshold) The P-Norm Push: A Simple Convex Ra…

U-conjugate で考えたら、非常に簡単になりました。数値実験では、今のところあまり優位性がありません。 Schapire et al. の incorporating 論文では toy problem の結果が載っていないので、なぜうまくいっているのか、よく分かりません。

評価関連。

binary svm without bias term なら kernel化は(形式的には)できます。問題の設定から、bias項についてはもともと考えていない。もちろん、入力を拡張して bias を入れることはできるが、regularization term が少しだけ異なるため、svm そのものではなくな…

評価関連。

準備：１年生の統計学。不偏推定量。図を多く入れています。