邓磊:国内首个类脑计算博士造出一颗登上Nature的芯片

2019 年 12 月 14 日,《麻省理工科技评论》公布了 2019 年“35 岁以下科技创新 35 人”(Innovators Under 35 China)中国区榜单。在本届榜单上,虽然缺失了“创业家”的身影,但是我们看到了许多在具有产业化潜能的领域坚持科研使命的获奖人,也看到更多散布在海外顶尖学术机构的科学家们,用自身不改初心的坚持努力,取得了世界级标竿成就的科研成果,其中有超过半数以上的获奖者,都取得了世界级的突破性研究成果与发现。我们将陆续发出对 35 位获奖者的独家专访,介绍他们的科技创新成果与经验,以及他们对科技趋势的理解与判断。

关于 Innovators Under 35 China 榜单

自 1999 年起,《麻省理工科技评论》每年都会推出“35 岁以下科技创新 35 人”榜单,旨在于全球范围内评选出被认为最有才华、最具创新精神,以及最有可能改变世界的 35 位年轻技术创新者或企业家,共分为发明家、创业家、远见者、人文关怀者及先锋者五类。2017 年,该榜单正式推出中国区评选,遴选中国籍的青年科技创新者。新一届 2020 年度榜单正在征集提名与报名,截止时间 2020 年 6 月 30 日。详情请见文末。

邓磊

先锋者

邓磊凭借其在类脑计算领域取得的一系列成果,荣膺 2019 年《麻省理工科技评论》“35 岁以下科技创新 35 人”中国区得主。

获奖时年龄:29 岁

获奖时职位:美国加州大学圣塔芭芭拉分校博士后
获奖理由:他是世界首款异构融合类脑芯片“天机芯”的主要设计者,用自动驾驶自行车验证通用智能的可行性。

“天机芯”的问世,集中展现中国科学家在类脑计算领域的研究能力和探索精神。

“旧神退散,新神未立”。

这句话可以用以描述近年来计算架构领域的发展。2017 年计算机图灵奖的两名得主 David Patterson 和 John L Hennessy 在一篇文章中也曾给出类似判断,即“未来十年是计算架构发展的黄金十年”。

类脑计算便被认为是计算架构创新的“新神”之一。

不过,对绝大多数人来说,这个诞生于上个世纪 90 年代的概念究竟意味着什么,仍如一团迷雾。

2019 年 8 月,清华类脑计算施路平团队的“天机芯”成果成为 Nature 封面研究,让我们得以将“类脑计算”这一概念具象化,也一窥其作为新型计算架构的魅力所在。

这款全球首个异构融合类脑计算芯片,不但支持类脑计算领域的脉冲神经网络,也可运行 AI 技术中的人工神经网络。它的处理能力成功在自动驾驶自行车这一应用场景中得到验证,也是国内团队在人工智能、芯片领域的研究成果第一次登上 Nature 封面。

作为这篇论文的一作,邓磊是国内第一个类脑计算专业毕业的博士生,可以说,他也是国内最早一批看到类脑计算未来的青年科学家。

邓磊本科在中科大精密仪器系学习,主要研究机器人和光电系统,博士阶段加入清华大学施路平团队,真正进入类脑计算领域进行探索,也从零开始参与到清华类脑中心的建立。

这个团队要做的一件重要的事情,就是让两条都追求实现机器智能、却长期平行发展的技术故事线彼此靠近:

一方面,机器学习领域在 2012 年迎来标志性事件——多伦多大学 Geoffrey Hinton 团队当时发表的一篇论文表明,用反向传播训练的人工神经网络(ANN)问鼎图像识别第一。此后,深度学习正式开启眼下这波人工智能应用浪潮,尤其带动AI芯片行业火热。

另一方面,“古老”的神经形态计算也酝酿出更多新的生机——诺贝尔医学奖得主艾伦·劳埃德·霍奇金于 1952 年提出脉冲神经网络(SNN)之后,IBM 于 2011 年发布了 TrueNorth 芯片,成为人类用电路模拟人脑 SNN 计算的起点。在那之后,2014 年问世的第二版 TrueNorth 又印证了类脑芯片具备一定的实际工作能力。

这两大标志事件出现的时间点,正值邓磊 2012 年结束本科学习、进入博士学习的阶段。无独有偶,在那期间,他在一场学术活动中接触到了“类脑计算”这一概念,对此产生了极大的兴趣,而那场讲座的演讲者,正是他日后博士生涯的导师施路平。

彼时,“类脑计算”甚至在国内搜索引擎中都没有相关的条目。但邓磊认为,它将是机器学习和神经形态计算两个技术的结合,探索的问题也将更为本质和深刻,这对他产生了巨大的吸引力:这是一个无穷无尽的课题,只可能存在暂时的研究瓶颈,但不会走向消亡,它将长期存在,甚至直到人类命运的尽头。

图 | 邓磊在颁奖典礼上做演讲(来源:DeepTech)

“我更想去揭示人脑通用智能的奥秘,而不是单独地选择两个技术方向其中之一”,他说。

于是,当施路平 2013 年正式加入清华并启动筹办清华类脑计算中心时,邓磊也成为团队中的一员,正式开始其类脑计算研究生涯。

打造一个类脑计算平台,是团队首先面临的一个技术大考。而且这个平台需要区别于仅面向人工神经网络的加速器(通常所说的AI芯片),以及仅面向脉冲神经网络的神经形态芯片,而是兼顾两者体现出一定的计算通用性。

基于这个设想,团队于 2014 年 ~ 2016 年进行了芯片设计的工作,提出天机芯片架构,登上 Nature 的天机芯(此前还有一代产品)于 2017 年流片成功,并应用到了无人自行车这一场景中,相关的研究论文于 2019 年公开发表在 Nature 上。

至此,同时支持神经形态计算模型、机器学习模型运行的天机芯,作为一个全新的计算硬件平台正式走进人们的视野,两大正处于高速发展阶段的智能技术成功在现实中出现交融,一个新的起点得以展开。

“天机芯片是世界上首个将上述两类计算模型进行异构融合的计算平台,不仅能够支持单一范式模型的高效处理,还提供了混合建模的能力,可以促进对于新型神经计算模型的探索,推动人工通用智能的发展”,邓磊说。

具体的技术实现上,天机芯采用众核架构,每个核都可以自由配置成 SNN 单元或 ANN 单元,同时还可形成兼容模式,支持 SNN 和 ANN 作为输入输出的自由转换,实现 40000 个神经元,最终得以同时运行 SNN 和 ANN,一块芯片跑两类计算模型。

对于“天机芯”为何需要进行这样的融合,邓磊进一步解读到,目前人们所熟知的人工智能技术(或者范围更小的机器学习亦或深度学习),其模型源于大脑神经网络,但在发展过程中更加倾向于用优化问题建模并求解,可归类为应用导向的智能。由于与应用更加贴近而备受产业界的青睐,国外的谷歌、微软、Facebook 和国内的百度、阿里、腾讯、商汤、旷世科技等公司都热衷于这个方向的研究。而与上述的人工智能模型相比,计算神经科学的模型更加注重在脑科学上的可信度。

“前者的刚性建模方式导致诸多公认的缺陷,比如可解释性和鲁棒性的不足、倾向于单任务、依赖于大数据和高算力等,使得其难以实现通用的人工智能;而后者虽然有人脑这个目前已知的唯一通用智能体支撑,但由于目前对大脑计算原理的认识还远远不足以形成比较明确的体系,导致其所建立的模型还难以取得超过机器学习的性能”,他说。

天机芯片诞生之后,团队还配套开发出第一代类脑计算软件工具链,可支持从机器学习编程平台到“天机芯”的自动映射和编译。目前,团队已经启动了下一代芯片的研究,预期明年年初可以完成研发工作。

值得一提的是,邓磊认为,开发“天机芯”的最大挑战并不在于某一个具体的技术难点,而在于人。

由于类脑计算本身过于交叉的学科背景,致力于这个方向的研究团队需要有精通脑科学、计算架构、人工智能、芯片设计、材料科学等各学科人才的到位,才能够驱动类脑计算研究得到不断的创新。这也正是伴随清华类脑计算中心从成立初期至今的重要命题。

据了解,早在 2012 年,清华大学就瞄准未来人工智能发展的前沿,通过人才引进布局类脑计算,之后在 2014 年依托精仪系成立了联合了七个院系的类脑计算研究中心,施路平教授作为类脑计算研究中心主任。现在,在这个中心,每天都有来自不同学科领域的顶尖头脑进行着智慧的碰撞。

回忆起当初从零参与中心建设的经历,邓磊笑称:“没有学姐学长的感觉还是相当孤独的。” 但随着“天机芯”相关的后续研究继续沿着这个方向深入,他也相信,未来会有越来越多的人加入到这个极具挑战的方向中,开拓出更多的可能性。