衝撃リザルトについては理解しつつあります。 昔、Efron が正規判別分析で似たようなことを計算している：その結論は joint を推定したほうがよい、というもの。今ならその理由がかなり明確に分かります。p(y|x) のモデル既知と、p(x|y) のモデル既知では、…

ベイジアンネットワークに関する講義でいろいろ質問が出ました。 Graph から clieque を取り出す方法：講義では詳しい説明はしませんが、補足する予定です。 (意図的にですが)説明を端折った部分について、きちんと質問が出たのは嬉しいです。

multi-class svm と one-class svm を少し復習しました。明日にでも執筆したい。

昨日と今日計算。KL-est の場合に、training data の randomness だけから条件数の分布の確率不等式を導出しました。ようやく squared loss 以外で計算できました。重要な例で、相関がある場合のバウンドを出せたので、不等式評価は少し緩いが良しとしよう。…

準備：ベイジアンネットワーク。ジャンクション・ツリーの説明も省くことにしました。モラル化などを経てクリークをまとめる過程がないと、ジャンクション・ツリーを作る必然性が分かりにくいとの考えからです。 もとのネットワーク(tree)上で、edge から ed…

衝撃リザルト。 おそらく、Nguyen-log は optimal ではなく、さらに exp.family だと nuisance parameter が直交して information loss がない。でも一般のモデルでも直交していそうな気もする。分からない。 計算はしましたが、理解には程遠いです。

サポートベクトルマシンについて書き始めました。ソフトマージンに対して、ハードマージンと同程度の幾何的直観を与えたいのですが、まだ適切に説明できていません。

cov-shift + condition number 研究が一段落し、論文を投稿しました。 最終的には random matrix の condition number について上下界とも一般的な評価を得ることができたので、まずまずと思います。ただ、現実の設定にぴったり合っている訳ではない。データ…

確率伝搬法についてまとめました。学部２年生向け５回の講義なので、確率の言葉もグラフの言葉も最小限に留めています。 最初の例題としてメンデルの法則を提示するつもりですが、これだとモラル化などが必要になり、厳密な部分は講義では扱いきれません。 …

adaptive k-nn について調べています。次元削減のために射影する平面をデータ点ごとに adaptive に選んで k-nn を実行する方法。いくつもの変数があり、実用上うまくいくかどうか不明ですが、2次元の例ではとても attractive な絵が描けます。

仮定をゆるめ、評価をタイトにし、意味が明確に分かるように、確率評価式を修正しました。とりあえず、出来そうなことはやったと思います。 あとは、独立性の仮定を除ければかなりいいですが、いまのところ手掛かりはありません。 推定量の精度を評価する場…