糞糞糞ネット弁慶

読んだ論文についてメモを書きます.趣味の話は http://repose.hatenablog.com

IBIS 2018 行った

IBIS2018 | 第21回情報論的学習理論ワークショップ, 2018.11.4〜7, 札幌(かでる2.7・北大)
先月にアンダーライブツアー北海道シリーズで行ったばかり.札幌がちょうどいい気温だった.チュートリアルの日は特に晴れていて,北大内にあるセイコーマート2階のテラス席がとても気分が良かった.
会議以外だと円山動物園が想像以上に見応えがあって良かった.

チュートリアル

深層学習入門

「入門」と称して積分表現の話をするのかと怯えていたら本当に入門で終わった.

転移学習 : 基礎と応用

共変量シフトと密度比推定の話が良かった.

データ駆動型科学のための統計的推論法

ポスター発表でも selective inference が頻発していた.

クエリ可能な確率的組合せ最適化問題
  • 連続緩和して解くみたいな話だった.
  • 「この設定は臓器交換・オンラインデーティングなどに応用をもつ」とのことでしたがチュートリアルでは腎臓交換の例ばかりだったような.マッチング業者の立場から「確率的にマッチするかどうかがわかるけどカップルが成立したら取り消し不可能(臓器交換しなきゃならない)」という問題設定だと確かにそのままだった.
  • レコメンデーションなどと組み合わせられるかと思ったけれど確率的にマッチするかどうかというのは少し違うのではないかと考え直した.

1 日目

離散構造処理系 : その概要と最近の研究状況について

ZDD の紹介.数え上げ(複雑な目的関数を取れない)のイメージがあったのである尤度比について枝刈りを行うことで高速化できるという話が面白かった.

グラフ集合を圧縮して活用するためのデータ構造とアルゴリズム

ZDD のテクニックの話だった.

離散構造処理系の機械学習への応用
  • arm を複数まとめた super arm を考える組み合わせバンディットに活用できるという話が面白かった.

2 日目

公平性に配慮した学習とその理論的課題
  • 「差別」という単語を定義しないまま最初から最後まで話が進んでいたので引っかかる部分が複数あった.おそらく,集団 / 個人公平性が満たされていないことを「差別が発生している」と定義しているのだと思う.
  • 機械翻訳における差別」という話で「性差の無い言語から英語に翻訳すると『XXはYYである』という文が YY によって XX の he/she が変わるのは差別だ」というエピソードが紹介されていた.この例もよくわからなくてどういう翻訳が出力されたら差別ではないのかがわからない.
  • 「US の全件調査データにおいて女性の収入が低いことはバイアスである」という話があったけれど文字通り全件調査ならバイアスではなくそれが事実なのではないか.データが本当に偏っているのか,調査の過程でバイアスが生じたのか(アメリカ大統領選挙の番狂わせ(前編)〜 標本調査における偏り�@|統計学習の指導のために(先生向け), みたいな話ですね) の例でこれは違うのではないかと思った.
  • 「少数クラスをモデルが無視してしまうので偏った数字が出ることで学習におけるバイアスが発生する」と言われていて,これは学習器が無限に賢くなったら解決される差別なのだと思う.
  • 集団公平性 (group fairness) と個人公平性 (indicidual fairness) というふたつの視点が紹介されていたが「どちらの観点から裁判になることが多いのか」という質問が出ていたのが良かった.
  • 社会正義や公平性を満たすためにデータやモデルを無視しなければならないとしたらそれはもはや学習理論が扱う範疇の話ではなくて質疑でもあったように裁判で決める話なのだろうと思いながら聞いていた.

3 日目

コンピュータビジョンにおける無教師学習の進展とその課題

無教師学習とは何かと思ったら最初から最後まで GAN の話だった.

音声分野における敵対的学習の可能性と展望

JSUT コーパスでもおなじみの高道氏による話.

  • GAN で高精度になるしもっと発展が見込めるみたいな話だった.
  • スライド中に「こんなことができるのではないか」と語られていたアイデアがすでに arxiv にあるという話がタイムラインに流れていてそんなペースで論文が出る界隈は死ぬほど大変そうだと思った.

ポスター

去年の東大よりは歩きやすくて聞きやすかった.

  • D1-05: 巨大ランダム行列を用いた構造の変化点検知
    • シンプルな話で面白かったので論文で読みたい.
  • D1-66: 患者情報の季節性と検索クエリに基づくトレンドを用いたインフルエンザ患者数予測
    • 他の人に対して説明しているのを聞いたところ,2 つのデータを分けて推定させたほうが精度が出た,みたいな話が聞こえてよかった.
  • D1-79: 日時が曖昧に記録されたイベント列の解析
    • RBM を時間方向に無限に伸ばすみたいな話だった.最近 accept されたみたいな話だったと思う.
  • D2-72: 教師付解釈学習
    • いい話だった.