情報理論SGセミナー
22 イベント
-
Journal Club of Information Theory SG II
2020年12月8日(火) 13:00 - 14:00
田中 章詞 (数理創造プログラム 上級研究員)
The practical updating process of deep neural networks based on stochastic gradient descent is quite similar to stochastic dynamics described by Langevin equation. Under the Langevin system, we can "derive" 2nd law of thermodynamics, i.e. increasing the total entropy of the system. This fact suggests "2nd law of thermodynamics in deep learning." In this talk, I would like to explain this idea roughly, and there will be no concrete new result, but it may provide us new perspectives to study neural networks, I hope.
会場: via Zoom
イベント公式言語: 英語
-
Journal Club of Information Theory SG
2020年12月1日(火) 13:00 - 14:00
田中 章詞 (数理創造プログラム 上級研究員)
The practical updating process of deep neural networks based on stochastic gradient descent is quite similar to stochastic dynamics described by Langevin equation. Under the Langevin system, we can "derive" 2nd law of thermodynamics, i.e. increasing the total entropy of the system. This fact suggests "2nd law of thermodynamics in deep learning." In this talk, I would like to explain this idea roughly, and there will be no concrete new result, but it may provide us new perspectives to study neural networks, I hope. *Detailed information about the seminar refer to the email.
会場: via Zoom
イベント公式言語: 英語
22 イベント
イベント
カテゴリ
シリーズ
- iTHEMSコロキウム
- MACSコロキウム
- 産学連携数理レクチャー
- iTHEMS数学セミナー
- Dark Matter WGセミナー
- iTHEMS生物学セミナー
- 理論物理学セミナー
- 情報理論SGセミナー
- Quantum Matterセミナー
- Math-Physセミナー
- NEW WGセミナー
- ABBL-iTHEMSジョイントアストロセミナー
- 場の量子論セミナー
- STAMPセミナー
- QuCoInセミナー
- Number Theory Seminar
- Berkeley-iTHEMSセミナー
- iTHEMSセミナー
- iTHEMS-仁科センター中間子科学研究室ジョイントセミナー
- iTHEMS集中講義-Evolution of Cooperation
- 作用素環論
- 公開鍵暗号概論
- 結び目理論
- iTHES理論科学コロキウム
- SUURI-COOLセミナー
- iTHESセミナー