integ-boost 研究

4,5年前に得たアイデアを元にした論文がアクセプトになりました。 多値版の madaboost をどのように構成すべきか、という問題に対して、一応の方向性を示したと思います。 論文では、"conditional probability の explicit modeling" と "truncated-weight" …

投稿しました。すでに integrability はメインではありません。loss の deformation という視点です。 先週の奈良meeting での成果も入れました。ありがとうございます。

研究 meeting with たけさん at 奈良 多値判別のための損失関数について話を聞いてもらいました。 model of mislabeling について、いろいろコメントを頂きました。 の意味付けを考えました。たけさんが言っていたとおり、ある種の直交性が効いています。

m(y|x;F,p) でなはく m(y|x;F,y') を weight とした error rate を導出する損失を全て求め、証明を書き上げました。 多値判別の問題ですが、ラベル数が5以上の場合に証明できました。 あまりにも研究に打ち込みすぎたので、もしかしたら新世紀にまで到達して…

イントロに multiclass loss を比較する subsection を加えました。 robustness を言うために、weight の uniform dist からの deviation を数値的に求め、結果を図示して論文に載せました。 ある程度は予想通りの結果になりました。hard samples が多いほう…

classification calibrated loss であることを確認しました。

multiclass-madaboost を導出。 U-loss+moment constraint から形式的に、binary-madaboost を拡張する loss を導出することも出来ますが、その場合には multiclass に対して決定関数と条件付き確率の対応が明確ではなく、その点が不満でした。 可積分性から…

論文を修正しています。V=expにおける consistent model が eta>0 に対して計算できたおかげで、構成をかなり変更することになりそうです。 Eta-loss.M とは異なるクラスを与え、その性質を調べる、というストーリー。 可積分性にはほとんど言及しない方針。…

一週間ほどまえ moment match とは少し異なる integrable empirical loss ついて、consistency を成り立たせる統計モデルを導出しました。 その結果として、multiclass madaboost や exp-loss に対する mislabel model (の亜種) などを提案できそうです。

論文を一通り修正しました。明日、微修正をします。中断していた間に Takenouchi et al, 2008 publish されたので、こちらの論文を書きやすくなりました。助かっています。

長らく中断していましたが、論文を修正しました。早々に投稿したいと思います。

integral-boost の論文を修正。長らく放っておきましたが、そろそろ考え直して投稿しましょう。 Two practical benefits. 1 computation, 2 boosting is available.