タイトル：深層ニューラルネットワークモデルの接続の構造と関数表現能力
講演者：長瀬 准平 氏（ 電気通信大学 データ教育センター 兼 産学官連携センター 特任助教）
概要：本発表では、深層ニューラルネットワークモデルの接続の構造についての議論を行う。特に、活性化関数をReLU関数に仮定した場合、線型性をもっているような線型の接続構造はいずれも多層パーセプトロンのような直列な接続に帰着可能であることを示す。さらに、ReLU関数を活性化関数とする多層パーセプトロンは、表現力と出力を保ちながら実数パラメータを二値化可能であることを示す。これらの結果は構成的であるため、具体的なパラメータを書き下すことが可能であり、実際のモデルの圧縮可能性を議論するとともに、具体的な変換アルゴリズムとして紹介する。また、これらの結果は活性化関数がReLU関数ではない一般の区分線型関数の場合にも拡張することができる。ただし、これらはいずれも学習中のモデルの性能やダイナミクスについては考慮しておらず、あくまで学習前および学習済みのモデルについての結論であることに注意する。
- 日時
-
2025年12月5日（金）18：00～20：00
- 場所
-
オンライン開催
- 主催
-
共催（HRAM 日本応用数理学会 D-DRIVE全国ネットワーク）
- 参加費
-
無料（事前登録要）
https://www-mmds.sigmath.es.osaka-u.ac.jp/structure/activity/ai_data.php?id=102
- web
-
https://www-mmds.sigmath.es.osaka-u.ac.jp/structure/activity/ai_data.php?id=102
- 問合せ先
-
大阪大学 数理・データ科学教育研究センター
鈴木 貴
suzuki@sigmath.es.osaka-u.ac.jp