含笑听着,便又是朝着台下的前排看了一眼。
正好他看到辛顿老爷子也朝他看来,并给了他一个鼓励的眼神。
馀江呵呵一笑。
他的论文,自然也早就放在了av上,而且早就在小范围内引发了讨论和复现——现在还在搞神经网络的圈子本来也小。
是以,今天绝大多数人,都冲着他而来。
前一位的报告终于结束,馀江走上前台。
“大家好,长期以来,神经网络都面临几大难题,譬如反向传播算法在多层网络中传递误差时,因 /tanh等激活函数饱和特性,导致深层梯度趋近于零,无法有效更新浅层参数,深层网络几乎不可训练”
“又譬如算力硬件限制,集群训练效率低下。”
“又譬如实用性不足”
馀江没有看稿,而是直接从问题出发,道出了神经网络现在的困境。
台下众人都认真地看着他。
“长期的学习过程中,我总结出一个经验,那就是:有问题,我们就解决问题。所以,便有了这篇bn论文。”
馀江说完安静了两秒,开始讲述起论文来。
场下众人一直安静地听着,直到他翻完最后一页。
“请问,框架在非监督学习场景下的表现如何?”
第一个提问的是一个年轻的研究者,问的是训练框架表现。
“表现很好,而且我们已经进行了框架的多次迭代和优化,目前项目已经开源。”馀江冲着对方点了点头。
对方也友好地点了点头:“那这个框架的未来方向如何呢?”
馀江看着他,笑了笑:“我认为这种结构化的概率框架和深度架构的结合,会是未来五年最重要的方向之一,现在大家还在摸索,但我相信这条路走通。”
那人也笑着点头,没有继续追问。
接下来又有几人提出了问题,馀江都一一作答。
最后,辛顿老爷子举起手来。
馀江看着对方,轻轻咳了一声。
“bn看起来前景很美好,但是目前算力实在无法满足,我们总不能每个实验室都准备一台超算吧?”
辛顿的话音落下,台下发出一阵轻轻的笑声。
论文中,除了超算,最低要求的设备都是工作站
这对于目前的神经网络课题组而言,实在是太困难了。
馀江想了想,笑道:“要不这样,我们成立一个神经网络基金会?”
辛顿看着他,有些不解:“神经网络基金会?”
“恩,我们去拉点赞助,然后让基金会来资助我们,如何?”
“譬如我找个企业,前期投入200万美金。”
此言一出,台下顿时“轰”的一声!
辛顿老爷子也瞬间怔住!
他和馀江邮件交流许久,知道这小伙子是中国的天才学生,在本科期间就有如此的成就,而且和自己的很多思路不谋而合,那是喜欢不了
但他现在,居然能成立个基金会?
这还是普通的学生吗?
茶歇时,咖啡厅。
馀江和徐洪涛以及之前在北大有过一面之缘的大卫坐在一起喝起了咖啡。
大卫对馀江的报告赞不绝口,随即便一脸期待地看着馀江:“馀,你说的基金是真的?”
馀江笑着点头。
“当然不会有假。”
徐洪涛含笑不语。
看来馀江的名气还是不够大啊
这帮海外学术圈的,愣是不知道这位小伙是中国最年轻的首富。
“那”大卫便目光灼灼起来。
就在这时,不远处,辛顿和杨立昆两人匆匆赶来。
这二位那可是圈子里有名的大佬,馀江三人连忙起身。
辛顿坐下来之后没有客套,直接进入了正题,目光炯炯地看着馀江:“你先前说的基金会是认真的吗?”
“认真的。”
辛顿和杨立昆二人对视了一眼。
“是谁出钱?”
“慧江。”
“慧江?那是什么公司?”
“呃一家游戏公司。”馀江想了想又补充道:“和我有关。”
“我能说动慧江,前期出两百万美金,成立一个非营利性质的基金会。”
馀江靠在椅背上,笑着解释道:“届时对国内外的课题团队开放申请,只要有好的研究方向就可以申请计算资源和经费支持。不要求论文署名权,不要求成果归属,纯粹是为了给这个领域延续一点火种。”