“谷歌现在有许多希望发展AI技术的场景,我们要实现一百多种语言的相互翻译,以便人们更好的交流;我们要智能分析医疗图像,更精准地预测和诊断疾病。这些所有的应用当中,其实最核心的就是两件事情,算法和算力。”
杰夫的总结非常精要,现代的AI主要基于神经网络这个老古董算法,如果抛开计算能力去谈论AI算法,完全是空中楼阁。
“谷歌有决心打造世界上最强力的算力平台,我们一定会让优秀智慧的算法最大程度上发挥它们的价值。”
对于杰夫的这个决心,孟繁岐并不怀疑,这正是他初期选择谷歌的原因。
“算力的含义比较纯粹,也好理解。但算法的含义太多,其实我个人倒是觉得,网络结构本身的设计不是什么重点和核心的东西。
真正想要改变世界,需要足够简单易用的框架和平台,要易于部署,在运算的数据类型上做优化加速。”
这个阶段,业界非常关注神经网络的设计,具体哪一层怎么设计,用什么操作比较好。
这个时期,这么做起到的收益也十分巨大,比如去年的AlexNet和今年的DreamNet,都有很恐怖的提升。
不过在孟繁岐看来,AI时代后期的结构就不怎么变化了,最重要的还是大力出奇迹,加上他很清楚什么任务用什么结构比较好,结构设计对他来说太过简单。
“当竞争走到最后,大模型的训练技术,和海量优质资源更为关键一些。”
杰夫和辛顿偷偷交换了一下眼神,感觉怪怪的。
本来是杰夫来给这个还在学校里接触研究的本科生展现一下谷歌的野望,什么多领域开花,最大的计算平台之类的。
怎么感觉这小子对AI工业的主要痛点问题了解的如此清楚,不像是象牙塔里搞研究的样子。
学界研究AI,主要是为了验证某个猜想,提升具体的指标。
工业AI则更加务实一点,怎么实现需要的资源少,怎么做模型的速度更快,怎么样才能部署到不同的设备上。