Nature Comm.: 强关联钙钛矿构建树状神经

知社 知社学术圈 今天

海归学者发起的公益学术平台

分享信息,整合资源

交流学术,偶尔风月

人工智能AI)和机器学习(ML)已经开始并将持续影响人类社会的科技进步和文明发展的方方面面。如何更加深入地理解人类大脑的工作机理从而设计更有效更自主的人工智能,与此同时将智能集成到硬件组件中将是未来十分重要的研究前沿。  


脑科学和神经学家们认为人类的记忆是层级结构的,就好比一个树状结构,有着树干和树枝等不同层级。举例来说,让你回想一个家人的名字非常容易,但是让你说出一个多年不联系的普通朋友的名字,却往往十分困难,在这个例子中家人的名字就处在记忆中树干的位置,而朋友的名字在偏远的树枝位置。

图1. (a)理论神经科学中的树状层展模型,可用于理解人类的记忆行为并提高人工神经网络的存储能力,Prog. Theor. Phys. 81, 321–328 (1989)。(b)低温下自旋玻璃中的树状结构,Phys. Rev. B 73, 184414 (2006)。(c)本研究中基于强关联镍基氧化物的室温树状记忆结构 (2020)。

受此启发,早期的神经网络学家们致力于构建一个树状模型来学习和理解人类的记忆行为,见图1(a)。并且,他们也发现这一网络层状结构可以大大提高信息的存储密度。与此同时,类似层级树状结构也被发现存在于自旋玻璃材料中。不同于铁磁材料中有序的自旋交互排列,自旋玻璃内的交互排列是杂乱的(disordered),并且随着温度的变化存在无数个亚稳的、“树状结构”的磁化态,见图1(b)。这一和人类记忆类似的树状结构可以应用到记忆器件中,并且可以用来学习和认知人类的大脑,从而引起了很多交叉前沿科学家们的兴趣。但令人遗憾的是由于自旋玻璃相变温度的限制,之前报道的树状记忆结构往往存在于低温,限制了走向实用和可规模拓展的可能。在室温实现这一树状记忆结构将为未来人工智能硬件的发展以及对人类记忆机制的理解有着重要的基础和应用意义。


最近,由普渡大学(Purdue University)材料工程学院Shriram Ramanathan 教授课题组领导以及校内其他课题组合作,联合美国能源部阿贡国家实验室、布鲁克海文国家实验室、加州大学圣地亚哥分校等研究团队,通过纳秒级电压脉冲在钙钛矿强关联氧化物中驱动质子迁移,成功的观测并报道了室温的树状记忆结构,见图1(c)。该研究成果于2020年5月7日以“Perovskite Neural Trees”为题发表在Nature Communications上。文章第一作者为普渡大学工程院吉尔布雷思学者(Gilbreth Research Fellow):张海天博士(Dr. Hai-Tian Zhang),Ramanathan教授课题组博士生Tae Joon Park,以及加州大学圣地亚哥分校 Frano 课题组的Ivan A. Zaluzhnyy 博士。

实际上,树(Tree)是早在数论中就存在的数学概念,近40年前被用于发展初期的的神经网络理论。而在硬件中实现树状记忆结构的困难在于找到一种可以在室温承载多种亚稳态材料,并且在电场的刺激下可在不同亚稳态之间快速转化,与此同时可以被唯一识别。

Ramanathan课题组通过纳秒级电压脉冲控制质子在强关联镍基氧化物中的原子尺度迁移,解决了这些问题。这一钙钛矿氧化物材料电阻率由于电荷相互作用引发的量子强关联效应对质子掺杂(每个晶格掺杂一个质子会导致电阻率变化约10个数量级)和电场脉冲(导致质子迁移)高度敏感。在一系列电压脉冲的刺激下,质子会在晶格中迁移,同时材料在不同亚稳态之间转化,电阻也会沿着特定轨迹变化,进而形成树状结构的一个树枝,见图2(a)和(b)。如果提高电压脉冲的强度或持续时间,则电阻变化的轨迹会产生分支。重复此过程,可以制备一个具有多个分支的树状电阻结构,并且这些变化是非易失性的,从而实现树状的记忆结构。此外,材料电阻变化速率会随着脉冲数的增加逐渐降低,这就模仿了突触的自限制行为,我们把这一特性应用到了脉冲时序依赖可塑性(spike time dependent plasticity)神经网络中作为一种独特的无监督学习规则(unsupervised learning algorithm),并且实现了高精确度的手写数字识别,见图2(c)和(d)。
 

图2.(a)强关联镍基氧化器件示意图。施加电场脉冲可使质子在晶格中迁移,并且改变局部的Ni价态和电子-电子强关联作用,从而调控器件电阻。(b)树形记忆结构示意图。(c)用于手写数字识别神经网络的结构图。(d)使用树状突触进行数字学习的演化过程(示意图,详细实验结果请参考文章具体内容)。

此外Ramanathan课题组的孙毅飞博士(现厦门大学能源学院特聘研究员) 也通过与美国能源部阿贡国家实验室周华博士(Dr. Hua Zhou),加州大学圣地亚哥分校Alex Frano教授等合作,通过原位X射线吸收光谱(见图3(a))揭示了电场脉冲下质子在器件中的迁移路径以及材料结构及电子态的演变过程,见图3(b)-(f)。此外,他们在液相电解质中也成功地实现了材料的非易失性树状电阻调控,拓展了该类类脑记忆器件的适用范围。此外通过第一性分子动力学模拟,该工作也研究了电场下质子在镍基氧化晶格中的迁移动力学行为,并且发现电场可以有效地降低质子的迁移能垒,进一步为这一树状记忆器件的机制提供了微观理解,见图3(g)-(i)。
 

图3. (a-f)通过纳米探针X射线吸收谱成像实验来研究质子迁移的微观过程。(g-i)通过第一性动力学方法研究质子在电场下迁移的动力学过程。

这一工作为AI的硬件升级开辟了一个潜在的新领域,即将智能引入到硬件器件当中。树状结构网络已经被广泛用于神经网络,疾病传播模型和社交网络的研究中,在硬件中实现类似的树状结构可以为未来软件、硬件科研工作者的合作提供基础,并且在多学科的交叉前沿中迸发出创新的火花。这一器件还可能创造一种人类与AI之间更自然地交流方式:由于质子是人类信息传递的自然载体,基于质子输运的器件未来或将是实现与生命体直接沟通(Human-Machine Interfaces)的关键组件。 

最后,特别感谢布鲁克海文国家实验室NSLS-II光源的Yong Chu博士和阿贡国家实验室APS光源的Zhan Zhang博士对该工作的大力协助。

点击下方知社人才广场,查看最新学术招聘

交易担保 知社助手 知社人才广场

点击“阅读原文”查看论文原文。

扩展阅读

 

全橡胶神经突触晶体管和集成神经功能的软系统

芯片神经元 |《自然-通讯
npj: 量子拓扑的识别—深度神经网络和量子行走

窥探阴暗,MIT研发世上首个心理变态AI

本文系网易新闻·网易号“各有态度”特色内容

媒体转载联系授权请看下方