論文を修正 数値実験ではいい結果が出ました。bound は tight ということです。

条件数に関する(おそらく既知の)等式の証明を、きちんと書きました。 Let A be a positive definite matrix, then min(κ(SAS^T):κ(S)

closed seminar で話しました。貴重な意見をいろいろ頂きました。今後の研究に生かしたいと思います。 outlier detection. binary classification との評価法の違いを確認して明確にする。 重み付き最小２乗法によるバイアス補正と分散安定化の関係。

条件数が大きいほど、最適化の繰り返し数と数値的安定性の間の trade-off が大きくなります。 直感的には理解していましたが、数日前に定量的に理解しました。プロシーに書く予定です。

昨日と今日計算。KL-est の場合に、training data の randomness だけから条件数の分布の確率不等式を導出しました。ようやく squared loss 以外で計算できました。重要な例で、相関がある場合のバウンドを出せたので、不等式評価は少し緩いが良しとしよう。…

cov-shift + condition number 研究が一段落し、論文を投稿しました。 最終的には random matrix の condition number について上下界とも一般的な評価を得ることができたので、まずまずと思います。ただ、現実の設定にぴったり合っている訳ではない。データ…

仮定をゆるめ、評価をタイトにし、意味が明確に分かるように、確率評価式を修正しました。とりあえず、出来そうなことはやったと思います。 あとは、独立性の仮定を除ければかなりいいですが、いまのところ手掛かりはありません。 推定量の精度を評価する場…

論文を校正しました。Reduced version を前の章に移動しました。 一般の f-div での convergence はまだ考えていません。

提案手法の損失関数を若干変換した関数について、条件数を数値的に計算したら 3-4桁小さくなりました。いままで 500 by 500 のサイズで 10^6 程度(これでも他と比べて有意に良い)だったのが 2桁の数値です。 これだけ小さくなると、impact があると言ってい…

bias 項なしの cov-shift est について、条件数を減らすことが出来ることを認識しました。これはまさに我々の方法の場合だけであることを、可積分条件から導出しました。bias 項ありの場合を最初に考えていたため、このような構造があることにしばらく気付き…

条件数の分布について、確率変数 d を導入して代替的な評価をしていました。これは必要ではないようです。推定方法に則した方法にしたがって、直接的に分布を評価する方法を思い付いた気がします。 これをきちんと実行するには、一般の f-div による推定量の…

すぎさん、Dr.ずっきーさんの協力により、どうにか論文を投稿することができました。条件数について、当初は何を示すことが理解を深めることにつながるかも分からず、ここ１ヶ月ほどは手探りの状態でした。どうにか形になったのは共著者さん達のおかげです。…

条件数の bound 導出

実際の設定に則して condition number の確率評価を行うと、期待値の存在を仮定したとき上界がゼロに収束しないことが分かり、若干甘い評価であることが分かりました。これを避けるため、少しバーチャルな設定で確率評価をしました。数値例を示して議論を補…

論文を書いています。〆切は2月中旬。一貫してモデルは RKHS として書いています。

荒い評価ですが、考えている状況のもとでの random matrix の条件数に関して、確率評価の式を得ました。論文には、この結果と数値例を加えればよいでしょう。 Spielman さんや Tao さんらの smoothed analysis の結果を読んだことが役に立ちました。解析手法…

条件数の分布を計算する意図で、簡単な積分評価をしました。条件数の分布をきちんと扱うのはかなり大変そうです。Wishart 分布の条件数の分布については、いくつか結果があるようです。 今考えているのは、(ランダム)行列が変換されたときに、条件数の分布が…

行列の変換に伴う条件数の変化について、その分布を R で数値的に求めました。その結果から、どのような理論を作ろうか模索しています。 つまり、条件数の意味で提案法は最適、と言いたい。数値的には成立しています。