• LSIF と uLSIF の差を見積もるのに、間に qLSIF を入れていました。\lambda が大きいと uLSIF と qLSIF の差はかなり小さいです。したがって qLSIF と LSIF の差を見積もればよいことになります。Hölder's ineq の上界はすでに導出してあったので、それらを使うと、Gaussian kernel の \sigma との関連が分かってきました。
  • 次に upper bound と naive bound の関係を調べました。これも、両者の上界を比較するということで、定性的なことは分かりました。上界による解析がどのくらい実情に合っているかを数値的に調べました。傾向は説明できています。
  • すぎポンに返事を送りました。