FOE 前沿总述：迈向忆阻存内核算-从原理到运用

　　跟着大数据年代的到来，传统的冯诺依曼架构因为处理单元和存储器相互别离，带来了巨大的延时和能耗，承受着昂扬的数据传输本钱，即冯诺依曼瓶颈，因而需求对核算架构进行革命性的改动。存内核算（In-memory Computing）范式便是其间一种开门见山的改造办法。望文生义，存内核算架构在功用和物理上兼并了数据处理和存储单元，在数据存储的方位即处理数据，在器材层面以原位的办法履行核算，因而能够防止频频的数据通信，然后削减相应的延时和能耗。存储器是存内核算的中心器材，存内核算架构的需求一起也促进了新式非易失性存储器（NVM）的展开。模仿式忆阻器作为存内核算的重要器材候选，能够支撑各种模仿核算运用，包含人工神经网络（ANN）、机器学习、科学核算和数字图画处理等，展示出了杰出的潜力，并亟待后续的进一步研讨。

　　本文总述了忆阻存内核算的最新研讨展开。作者首要介绍了存内核算的布景，作为其间心器材的忆阻器的底子特性，以及忆阻存内核算范式的底子原理，即经过运用忆阻器的多阶电导调控才能、非易失特性和器材阵列结构，高功率地履行并行矩阵向量乘法（MVM）运算。结合近年来宣布的相关作业，作者依据其对核算精度和相应硬件处理方案的不同要求，将它们分为两类，即对不确定、不精准的效果具有忍受性的“软核算”，以及对每个使命都着重清晰、准确的数值效果的“硬核算”。作者总述了这两类忆阻存内核算运用的最新展开，其间，软核算部分首要重视神经网络及其它机器学习算法，而硬核算则聚集于科学核算和数字图画处理算法。此外，作者评论了没有处理的敞开性应战，并提出了忆阻存内核算范式的进一步展开方向，希望能引发人们对这一新式范畴的重视，并进一步启示相关的研讨效果。

　　MVM作为最底子和最重要的数学操作之一，是如数字信号处理、机器学习算法和方程求解等许多运用范畴的中心操作进程。忆阻穿插阵列因为具有彻底互联的拓扑结构，能够高并行地履行MVM运算。在忆阻阵列中，输入向量被编码为按时序输入的电压向量，而待运算矩阵则被映射为器材的电导值，经过欧姆规律和基尔霍夫电流规律，运算效果能够直接从忆阻阵列的输出电流中取得。该运算范式具有O(1)的时刻杂乱度，因而运算时刻与矩阵巨细无关，比较于传统的CMOS处理器，具有更高的能效，且能消除很多的数据传输开支。可是，作为一种模仿核算范式，忆阻存内核算的效果的准确性直接受限于其硬件特性，包含器材的有限电导态和本征随机性，以及精度有限的数模转换器（DAC）和模数转换器（ADC）。依据不同运用对核算精度的要求，能够被大致分为软核算和硬核算两类，其间软核算对不确定、不精准的效果具有忍受性，而硬核算则着重清晰、准确的数值效果。在软核算中，机器学习是最具代表性且最重要的范畴之一,一般聚集于从数据的内涵和相对相关中学习一个特定的模型，并完结数据分类、聚类或回归等不同使命。优异的机器学习算法所必需的泛化才能和鲁棒性天然兼容了软核算效果的含糊性。而在硬核算中，因为细小的中心核算差错仍会导致终究核算效果存在巨大的差错，因而一般要求运算处理器有极高的核算精度，对硬件完结提出了严峻的应战。科学核算和数字图画处理将被作为硬核算的代表，介绍其取得的展开，并评论能够战胜的应战以及进步根据存内核算范式的硬核算功能的最新办法。

　　图1. (a) 忆阻器的理论由蔡少棠教授于1971年初次提出，是除电阻、电容和电感之外的第四种底子无源电路元件。忆阻器由磁通量（）和电荷（q）之间的联系界说【Nat. Electron, 1(5):322】；(b)惠普实验室于2008年初次制备并展示的忆阻阵列的扫描隧道显微镜图画【Memristors and Memristive Systems, pp. 316】；(c)具有金属/绝缘体/金属三明治结构的忆阻器图示；(d)典型的忆阻器I-V曲线示意图，显现了电压扫描下的捏滞回线，标明忆阻用具有可逆的电阻调控才能；(e)导电细丝型和(f)界面型忆阻器的电导调控机理图；(g)根据欧姆规律和基尔霍夫电流规律，将MVM运算映射到忆阻穿插阵列中的原理示意图

　　ANN强壮的数据表达才能一般伴跟着不断添加的网络参数和核算量的价值。而忆阻神经网络经过忆阻阵列高效的MVM运算，能够完结更快的核算，并削减数据的存储和移动开支，从而完结整个体系加快。从底子的多层感知机（MLP）到卷积神经网络（CNN）模型，再到更为杂乱的长短时程神经网络（LSTM）、回忆增强网络（MANN）等，忆阻神经网络揣度现已得到了广泛的完结与验证，相较于GPU等处理器能够取得数量级的功能进步。针对CNN的特性，除了通用型的忆阻神经网络加快器，还存在着特别规划的3D阵列结构，以完结更高的核算密度和功率。

　　除此之外，忆阻神经网络练习能够使网络习惯忆阻器材的非抱负效应，如器材间差异性、失效和良率等，且能够在各种实践运用中加强网络的灵活性和通用性。因而有许多研讨重视忆阻神经网络练习战略的布置和优化。

　　图2. (a)由128×64 1T1R忆阻阵列和外围电路构成的MVM完结方案【Adv. Mater., 30(9): 1705914】；(b)带有仿制卷积核和混合练习办法的硬件体系操作流程简图【Nature, 577(7792): 641646】；(c)在特别规划的阶梯结构3D忆阻阵列中映射卷积操作的战略示意图。在2D阵列中处理卷积操作需求对权重核和输入信息进行重新排列，而在所展示的3D阵列中则只需求一些简略的移位和仿制操作【Nat. Electron., 3(4): 225232】

　　数据维度的剧增也给传统的机器学习算法带来了巨大的应战。与直接运用忆阻阵列加快矩阵操作的神经网络运用不同，非神经网络类型的忆阻机器学习算法更多地依靠于特定的数据映射办法或近似核算战略来处理算法中的杂乱操作。一类代表性的运用是经过忆阻阵列完结类似度衡量。如欧氏间隔、余弦间隔等的常用的类似度核算办法，常运用于K-means数据聚类、最近邻查找、自组织映射算法等许多根底机器学习算法中。许多研讨经过优化映射战略和核算办法，在忆阻阵列上完结了高效的存内类似度衡量。

　　另一类处理高维数据的办法是直接运用忆阻阵列提取原始数据的特征并下降数据维数，如主成分剖析法（PCA），稀少编码办法（sparse coding）等。经过在忆阻阵列上存储改换矩阵或是特征字典，这类机器学习算法能够有效地运用忆阻存内核算范式进行加快。此外，兼容适配多种算法的忆阻机器学习加快器也受到了研讨者的重视，成功的演示了包含MLP、PCA、稀少编码在内的多种运用，为面向机器学习的通用硬件加快体系供给了处理方案。

　　忆阻器内部的本征随机性会给器材的电导态带来无法消除的噪声和扰动。虽然软核算使命能够忍受恰当程度的噪声，但在实践运用中，过高的电导随机性仍是难以承受的。可是值得注意的是，电导态的随机散布一般体现出高斯散布的特性，因而能够被用于许多概率核算运用中，将本来有害的噪声运用起来。霍普菲尔德网络（HNN）是处理组合优化问题的常用算法之一，且一般需求采纳退火办法来协助网络收敛到最优解。研讨者们一方面经过忆阻阵列的并行核算特性来加快HNN的迭代核算进程，另一方面则经过运用器材的本征读噪声或电导演化的随机性，完结多种高效的退火办法，终究取得愈加优异的网络体现。马尔科夫链蒙特卡洛（MCMC）办法经过数据抽样相同能够用来处理优化问题。在这种办法中，忆阻穿插阵列被用作一个天然的硬件采样机器，阵列中的每一行都对应问题的一种解，而迭代生成的新解则因为器材电导的概率散布而天然具有随机性。

　　图4. (a)经过外围电路调制器材本征噪声来优化忆阻HNN【Nat. Electron., 3(7): 409418】；(b)运用对角线上忆阻器材作为自反应权重的硬件完结TCNN的映射战略【Sci Adv, 6(33): eaba9901】；(c)用于完结广义HNN的多功用随机点积电路。蓝色、黄色、绿色和赤色布景别离对应基准HNN，以及随机、可谐和混沌办法的完结。标有/×的电路模块表明求和/缩放操作；(d)用于BM网络的随机神经元在不同施加电压（对应不同的等效退火温度）下的传递函数【Nat. Commun., 10(1): 5113】。插图展示了峰值信噪比；(e) MCMC采样办法的演化战略示意图【Nat. Electron., 4(2): 151161】

　　科学核算旨在为科学研讨和工程运用中的天然及技能问题进行建模，一般需求具有高核算精度（大于64位浮点精度）、高吞吐量、低延时特性的高功能核算机（HPC），并协作低时刻杂乱度的数值算法来履行。可是，忆阻存内核算硬件受限于器材非抱负效应的约束，一般只能履行低精度核算（ 6-bit），且需求杂乱的外围电路协作，导致核算延时明显添加。此外，忆阻阵列的全衔接特性使其在处理稀少向量-矩阵运算（SpMV）时功率很低。上述这些要素均约束着高功能存内科学核算体系的展开。因而，研讨者们提出了许多最新的处理方案以战胜上述应战：（1）经过引进数字处理器，引进位切片的办法对忆阻阵列精度进行扩展；（2）提出混合精度存内核算架构，运用高精度的数字处理器协助算法迭代收敛；（3）经过电路规划完结纯模仿核算，消除DAC、ADC等的开支，以接近于O(1)的时刻杂乱度完结方程求解、矩阵逆求解等科学核算问题；（4）经过矩阵切片、行/列紧缩、子块切开等办法，优化稀少矩阵的映射和核算进程。

　　数字图画处理包含图画质量进步、特征提取、信息剖析、分类和紧缩等许多方面，触及了很多的MVM操作，如卷积和正交改换等。因为图画处理的数据一般非常巨大，因而，忆阻存内核算在加快数字图画处理方面展示出了巨大的潜力。研讨者们运用高功能的多值忆阻器，能够在阵列上并行完结多个图画边际检测算子，进步检测质量。而3D忆阻阵列也被用于3D医学图画等的检测，极大进步了运算密度。图画紧缩作为另一种重要的运用，能够减小图画的存储和传输本钱。而由正交改换完结的图画紧缩办法，如小波改换（DWT）、离散余弦改换（DCT）等，其数学实质即两次MVM操作。经过将改换矩阵映射到忆阻阵列上，比较于CMOS电路，能够在能效、面积和功能方面得到明显的进步。可是，器材的非抱负要素和ADC/DAC的有限精度仍受限了处理图画的质量。此外，研讨者们还规划并验证了忆阻存内紧缩感知的完结，大幅优化了核算杂乱度。

　　跟着核算机科学和大数据技能的快速展开，传统的冯诺依曼架构因为处理单元和存储器相互别离，带来了巨大的延时和能耗。忆阻存内核算范式则被认为是有望处理该问题的候选方案之一。以机器学习为代表的软核算运用方向现已在忆阻阵列上得到了广泛的验证，包含神经网络、数据聚类和回归等许多范畴。一起，以科学核算和图画处理为代表的硬核算也成功在忆阻阵列上完结，并在下降功耗和时刻杂乱度等方面取得了很大打破。究其底子，这些运用的展开都得益于忆阻阵列能够以很高的并行性履行并行矩阵向量乘法操作操作，并消除了很多的数据移动使命。可是，忆阻存内核算仍面对着从底层硬件到体系规划各个层面的不行忽视的应战。

　　在器材层面，不同的运用场景对器材的要害特性目标有着不同的需求。关于将运算矩阵映射到忆阻阵列上后便不需求频频更新的运用，如神经网络揣度、科学核算、图画处理等，器材的高精度编程和长时刻坚持特性是至关重要的要素，而擦写次数则相对无关宏旨。可是关于需求常常更新运算矩阵的运用，如神经网络练习等，则严峻依靠器材杰出的突变特性和擦写次数。而器材的本征随机性，一方面，能够用于优化使命以及随机核算运用。另一方面，许多机器学习使命能够忍受必定程度上的器材随机性，乃至经过原位练习来补偿必定的差错。与之相反的是，硬核算的使命一般对器材的随机性非常灵敏，尤其是科学核算问题，需求严厉调控器材的随机性。此外，器材的低电导值、低操作电压以及免初始化进程（forming-free）等特功能够更好的按捺漏电流并进步整体能效，因而契合大部分存内核算运用的展开需求。一起，更大的集成规划和密度，乃至是3D堆叠，也有利于更杂乱运用的完结。因而，需求经过机理剖析、资料工程、操作办法优化等途径，针对不同运用范畴的需求，进行详细的器材功能优化。

　　在阵列层面，影响存内核算功能体现的首要原因之一是用于阵列表里数据交换的DAC和ADC带来的巨大硬件开支。DAC和ADC的精度越高，意味着模仿核算效果越准确，但也会带来更大的硬件开支，包含能耗、面积和时延，会下降乃至抵消存内核算带来的硬件优势。关于大多数软核算使命，DAC和ADC的精度要求一般能够恰当下降。忆阻神经网络揣度便一般经过量化算法在较低的精度下履行。关于依靠于准确的MVM核算效果的使命而言，或许的处理方案有几种。一是运用优化的数据复用和数据流战略，并选用特别规划的ADC/DAC阵列。另一种是经过选用固定化的模仿式外围电路，以纯模仿核算的方法完结一些根底运用，如MLP或一些具有自迭代的科学核算使命。此外，阵列的寄生效应也是阵列层面中面对的重要应战，如线电阻和寄生电容效应，将导致信号的差错和传输的推迟，且跟着工艺节点和集成密度的进一步进步而益发杰出，约束着阵列的巨细和并行运转的上限。因而，在硬件规划根底上，对阵列级仿真的深入剖析对错常有必要的。

　　在体系和架构方面，一个杰出的限制要素首要是大规划的运算矩阵和现有忆阻阵列的有限规划之间的不匹配。例如，一个50层的ResNet-50网络便具有超越25Mb的权重，更不用说许多实用化的商业网络模型，而现在最先进的忆阻阵列一般是几个Mb的量级。此外，当考虑一种通用忆阻神经网络芯片，将需求满意多样的互连结构，如残差神经网络（ResNet）的残差衔接，LSTM的门控操作，以及CNN中不同粒度的卷积操作等。值得注意的是，除了通用芯片，专用存内核算芯片就像ASIC之于CPU也将成为未来的展开干流之一。这些展开方向都对架构规划提出了很高的要求，如散布式核算和资源分配的规划等。其次，关于特定的运用，忆阻神经网络练习在进步灵活性和功能方面体现出了令人形象深入的潜力，但仍受限于精度和杂乱的硬件映射方案。关于科学核算来说，更低的时刻杂乱度和更高的精度预期能够经过模仿-数字协处理器完结，以及提出更多硬件友爱型的存内SpVM战略。除此之外，怎么经过交融模仿-数字协处理器和纯模仿处理器结合两者的优势，仍然是一个敞开但值得探究的问题。上述各方面都意味着，将硬件映射和软件算法结合起来的跨层级架构规划关于更强壮、更高效的忆阻存内核算体系是不行或缺的。

　　综上所述，比较于传统的核算体系，根据忆阻器的存内核算范式在处理速度和能耗上都带来了很大的优势。作者信任忆阻器和存内核算技能会跟着器材到架构层面的展开而不断进步，并终究在物联网和边际智能范畴得到广泛运用。

　　李祎副教授，我国科协青年人才托举工程项目当选者，现在上任于华中科技大学集成电路学院。他于2014年在华中科技大学取得微电子学博士学位。他的首要研讨爱好包含忆阻器及其在存内核算与神经形状核算中的运用，相关效果宣布在IEEE EDL、TED、TCAS-I、Adv. Funct. Mater.、我国科学信息科学、IEDM、IMW等重要期刊及会议。

　　缪向水教授，教育部长江学者，华中科技大学集成电路学院院长。他于1996年在华中科技大学取得工学博士学位。1996年至1997年，他在香港城市大学任职。1997年至2007年，他在新加坡A*STAR的国家数据存储研讨院任职。他的研讨爱好包含相变存储器、忆阻器、神经形状核算和存内核算。他在闻名期刊和会议上宣布了200多篇论文，包含Science、Nature Communications、Adv. Mater.、Nano Lett.、IEEE EDL、IEEE TED和IEDM等。

　　华中科技大学集成电路学院信息存储资料及器材研讨所，亲近结合国家及湖北省集成电路工业的严重需求，以存储器范畴前沿探究、技能展开以及运用需求为导向，承当了国家02专项、国家要点研制方案、国家天然科学基金等重要科研项目，从原理、资料、器材、工艺、集成、运用多个层面，要点攻关三维相变存储器、忆阻器等下一代先进存储器技能，并在神经形状类脑核算和存内核算等前沿范畴展开了一系列引领性作业，研讨效果宣布在Science，Nature Communications，Adv. Mater，Adv. Funct. Mater., Nano Lett., IEEE EDL, TED, IEDM, IMW等重要期刊和会议。团队多年来和长江存储、华为、武汉新芯等龙头企业展开了亲近的产学研协作，为业界输送了一大批优异人才。

　　Frontiers of Optoelectronics (FOE)期刊是由教育部主管、高等教育出书社出书、德国施普林格（Springer）出书公司海外发行的Frontiers系列英文学术期刊之一，以网络版和印刷版两种方法出书。由北京大学龚旗煌院士、华中科技大学张新亮教授一起担任主编。

　　由教育部主管、高等教育出书社主办的《前沿》（Frontiers）系列英文学术期刊，于2006年正式创刊，以网络版和印刷版向全球发行。系列期刊包含根底科学、生命科学、工程技能和人文社会科学四个主题，是我国掩盖学科最广泛的英文学术期刊群，其间13种被SCI录入，其他也被A&HCI、Ei、MEDLINE或相应学科世界威望检索体系录入，具有必定的世界学术影响力。系列期刊选用在线优先出书办法，确保文章以最快速度宣布。