Bengio
Yoshua Bengio,加拿大计算机科学家,蒙特利尔大学教授及蒙特利尔学习算法研究所(Mila)创始人。其研究领域主要集中于人工神经网络与深度学习,在循环神经网络、注意力机制及生成模型等方向作出重要理论贡献。与Geoffrey Hinton、Yann LeCun共同获得2018年图灵奖,被视为深度学习领域的奠基人之一。
核心事实
时间轴 (近 90 天)
论文署名者包括Anthropic联合创始人Jack Clark和OpenAI首席科学家
NLP中的"探针"方法论由Alain和Bengio在2017年系统化提出,成为可解释性研究的标准工具
Alain 和 Bengio 在 2016 年发现在深度神经网络中间层激活上训练线性分类器就能解码高层概念
梯度消失问题由Hochreiter在1991年和Bengio等人在1994年正式分析
Bergstra和Bengio在2012年证明随机搜索在高维空间中通常优于网格搜索
全部知识事实 (7)
Bergstra和Bengio在2012年证明随机搜索在高维空间中通常优于网格搜索
75%已验证课程学习(Curriculum Learning)由Bengio等人于2009年系统化提出,核心思想是模仿人类「由易到难」的学习规律
75%已验证课程学习(Curriculum Learning)由Bengio等人于2009年提出,其核心思想是从简单样本逐步过渡到复杂样本,能够加速模型收敛并提升最终性能
65%待验证NLP中的"探针"方法论由Alain和Bengio在2017年系统化提出,成为可解释性研究的标准工具
60%待验证论文署名者包括Anthropic联合创始人Jack Clark和OpenAI首席科学家
50%待验证Alain 和 Bengio 在 2016 年发现在深度神经网络中间层激活上训练线性分类器就能解码高层概念
50%待验证梯度消失问题由Hochreiter在1991年和Bengio等人在1994年正式分析
50%