研究 cov-shift：論文を一通り読む CVaR-learning 研究：論文校正 multi-bag 研究：しも特異論文読み 勉強 特異モデルの漸近論4章 empirical processes 講義：統計学の試験問題作成 その他 離散幾何学講義： VC, concentration ineq.

CVaR を学習に応用しています。また、empirical CVaR の収束性を VC で証明しています。 Reviewer のコメントに従って、アッキーさんが大幅に修正してくれました。かなり短くする必要があり、いろいろ削除しています。 論文の校正のために読み直しています。

昨日の証明に補足を加え、より読みやすくしました。 非負定値行列 の第１固有値を とするとき、 が成り立つことを論文でどこまで説明すべきかについて、共著者と若干のやりとりをしました。式変形について、一言あると論文が格段に読みやすくなるハズ、とい…

試験問題の作成。

指数分布の回帰を説明しました。 レポートの解説をしました。 今学期最後の講義でした。

研究 CVaR-learning 研究：論文校正 multi-bag 研究：しも特異論文読み 勉強 特異モデルの漸近論4章 empirical processes 講義：統計学の試験問題作成 その他 離散幾何学講義： VC, concentration ineq.

査読をして editor に報告書を送りました。悪くない論文だと思います。

レポートの採点をしました。100人弱が受講している統計学の講義と違って、こちらは6人。少人数で講義はやりやすいです。 明日が今学期最後の講義です。回帰分析の一般論(例として指数分布の回帰モデルでの最尤推定量など)とレポートの解説をします。

LSIF と uLSIF の差のバウンドに関する証明を論文に追加しました。簡潔な証明にするために若干考えました。論文を共著者に送りました。 以下の内容は直感的に明らかで、証明も簡単です。 The cone generated by includes the eigenvector of the largest eig…

B4：クラスタリング。次元削減で PCA を使う。程々の寄与率でうまくクラスタリングできているので、卒論をまとめやすくなったと思います。

プロジェクタを使って総復習をしました。 授業アンケートをとりました。自由記述欄のコメントが非常に参考になります。

ranking data の回帰について、若干の議論をしました。 binary - ranking - multiclass。 ecoc は ranking に対してうまくいきそうな手法である。現状について調べる必要があります。

ワイシラさんのDr論文審査のため上京。予備審のときのコメントがきちんと反映されていました。

研究 rank-boost 研究：打ち合わせのための論文読み multi-bag 研究：しも特異論文読み cov-shift 研究：Gaussian kernelと固有値の関係 CVaR-learning 研究：論文校正 勉強 特異モデルの漸近論4章 empirical processes その他 離散幾何学講義： VC, concent…

LSIF と uLSIF の差を見積もるのに、間に qLSIF を入れていました。 が大きいと uLSIF と qLSIF の差はかなり小さいです。したがって qLSIF と LSIF の差を見積もればよいことになります。Hölder's ineq の上界はすでに導出してあったので、それらを使うと、…

レポートの解答を作成しました。次回、最後の講義はレポートの解説と回帰分析の補足で終わりの予定です。

講義：数理統計、次週の内容を考えておく 研究 CVaR-learning 研究：論文校正 cov-shift 研究 Gaussian kernel 計算 upper bound の意義 Hölder part と naive norm の upper bound で説明可能か? multi-bag 研究：しも特異論文読み rank-boost 研究：打ち合…

が小さいときの path-following の数値精度を上げるにはどうすべきかについて少々考えました。うまい方法は思い付きません。きちんと計算するには有効数字 100 桁くらい必要で、そこをサボると、(R の quadprog では) QP がうまく解けない。ヘシアンに対角行…

線形回帰・最尤推定・射影・回帰パラメータの検定について講義しました。 次回で今期最後です。話題はまだ決めていません。

特異モデルの漸近論。尤度の１次近似と領域の(approx coneによる)１次近似をそれぞれ行う。それぞれの近似が本当に近いことの証明を追いました。 尤度のほうはスタンダード。こちらは領域の凸性を使って誤差を抑える。 領域のほうは、approx. cone の性質を…

明日のTODO 講義：数理統計学 B4卒論校正 雑用：打ち合わせ 研究 CVaR-learning 研究：論文校正 cov-shift 研究：図の修正、upper bound の意義 multi-bag 研究：しも特異論文読み rank-boost 研究：打ち合わせのための論文読み 勉強 特異モデルの漸近論4章 …

打ち合わせと資料作成：明日もあります B4の卒論をチェック。論文で「限界ライン」という言葉は使っていいのでしょうか? 研究の目的が曖昧であるため、結論がぼやけている。 クラスタリングでは判別分析とは違い、目的が若干曖昧である。素朴には正解が明確…

線形回帰と射影のまとめ。

講義準備：数理統計 回帰分析・射影行列 B4卒論チェック 雑用打ち合わせ multi-bag 研究 勉強：特異モデルの漸近論4章 cov-shift 研究：すぎポンからのメールを考える CVaR-learning 研究

M2：高校入試関連データ。隠れ変数のある離散確率分布(５段階評価の分布)の推定を EM-like な計算で求めます(これはこれで面白い話と思っているので、いずれ一般化したい)。尤度が既知の量だけで表現できるように、いくつか仮定を置きました。そのなかで若干…

線形回帰モデルの係数に関する検定の復習、離散確率分布の最尤推定について解説しました。 試験問題の候補を配布しました。来週は総復習と試験問題の解説をおこないます。 総復習用のスライドを作成しました。ほとんど過去のスライドの切り貼りです。試験ま…

講義：統計学 回帰パラメータの仮説検定、最尤推定 ゼミ multi-bag 研究 勉強：特異モデルの漸近論4章 CVaR learning 研究

特異モデルの漸近論。クリキン本の2章です。Log-likelihood ratio の漸近的な挙動を線形近似して、正規分布の対数尤度の差として表現しています。そのときパラメータ空間として approximating cone を取れる、ということです。尤度と領域の１次近似です。 以…

学期末試験で出題予定の問題をプリントにまとめました。明日配布します。12題中5題程度、試験に出します。 明日は最尤推定量の説明です。

講義準備：統計学 試験問題の候補を配布プリントにまとめる multi-bag 研究 multi-boot with singularity 論文を勉強 判別との関連の考察開始 勉強 特異モデルの漸近論まとめ 離散幾何学講義、VC次元関連。