物理学事件 |
-
2023年2月8日，星期三
- 物理∩ML研讨会
- 贝叶斯更新和动态流
- 时间:上午11
- 的地方:在线研讨会:请在www.physicsmeetsml.org上注册我们的邮件列表以获取缩放链接
- 发言人:大卫·伯曼，玛丽女王大学
- 文摘:统计推断是在给定数据集的模型参数空间上确定概率分布的过程。随着越来越多的数据可用，这个概率分布通过贝叶斯定理的应用得到更新。我们提出了一个处理这个贝叶斯更新过程作为一个连续的动力系统。统计推断然后由一阶微分方程控制，描述由参数模型族确定的信息几何中的轨迹或流。我们为一些简单的模型求解了这个方程，并表明当Cram´er-Rao边界饱和时，学习率受简单的1/T幂律支配，T是表示数据量的类时变量。我们用基于高斯和Ising模型中耦合常数的推断的解析和数值例子来说明这一点。最后，我们将贝叶斯流所表现出的定性行为与各种神经网络在基准数据集(如MNIST和CIFAR10)上的训练进行了比较，并展示了对于表现出小最终损失的网络，如何也满足简单幂律。
- 主持人:加里的大片