“你随机间吗?”跟着密歇根大学(University of Michigan)最新的忆阻器发现,东说念主工智能芯片可能很快就会戒备到事件的规章。
密歇根大学的一个商议小组垄断新的忆阻器本事创建了一个时间感知神经麇集。诚然这项本事现在仅仅在小范围上已毕,但其特色可能会导致东说念主工智能的关键范式改革。
封装的1晶体管1-忆阻器(1T1M)芯片,忆阻器阵列的光学显微图像,以及忆阻器的单位结构。图片由Nature提供
与感知器等早期神经麇集比较,当代东说念主工智能模子远远超出了通俗的模式识别。最新的部署,如 Copilot 或 GPT4,不错生成新的材料。但是,这种性能会耗尽颠倒大的功率。
在神经松开时间中寻找灵感
商议东说念主员商议了东说念主脑中的神经元,以了解他们如安在忆阻器(神经元的硬件模拟)中复制计时。神经元通过一种称为“浮松时间”的东西来编码关连一系列事件何时发生的信息。神经元采纳并发送一些电信号。神经元唯有在采纳到一定的输入信号阈值时才会发送我方的信号,况且必须在一定的时间范围内达到这个阈值。如若时间过长,神经元就会松开并开释电能。东说念主类不错相识事件发生的时间和缓序,因为这些神经元在咱们的神经麇蚁合以不同的速度松开。
到现在为止,忆阻器的责任旨趣与此不同。当一个忆阻器战役到一个信号时,它的电阻会减小,允许更多的下一个信号通过。跟着时间的推移,更多的松开会导致更高的电阻。但是,加州大学团队的商议标明,基底材料的变化不错产生不同的弛豫时间,近似于神经元弛豫时间的当然变化,从而使忆阻用具有计时机制。
商议东说念主员挖掘“原子全国的厨房水槽”
使用熵褂讪氧化物 (ESO),UM 忆阻器发扬出随时间变化的弛豫时间,不错在159到278 ns之间进行调换。依赖时间的神经元激活不错在硬件中编程,从而在部署模子时不需要耗电的GPU。
ESO不错通过摒弃氧化物的比例来调治其弛豫时间,从而在电神经元中已毕可编程的时间依赖性。图片由密歇根大学提供
UM小组使用钇、钡、碳和氧(YBCO)衬底设备了这种ESO,该衬底在-292°F以下具有超导特色。该项运筹帷幄一位商议东说念主员将这种熵褂讪的氧化物称为“原子全国的厨房水槽”;也即是说,商议东说念主员添加的元素越多,它就越褂讪。
经过熟谙后,该建筑不错识别数字 0 到 9 的声息(在许厚情况下以致在音频输入完成之前),同期与基于 GPU 的系统比较,长期保合手更好的运犯罪果。明天,该团队肯定他们不错进一步校正用于制造建筑的动力密集型历程。
第一个具有计时当作的忆阻器
在当代神经麇蚁合,GPU 本事完成了大部分熟谙和识别。GPU 从内存中索要已知权重,将它们用于乘法和累加,并将它们发送回内存。这不错疏通汗漫次数,终结是模子输出。这种门径相等适用于微型模子。跟着模子变得越来越先进,内存出动的数目驱动突显冯·诺依曼架构的瑕玷。很多商议东说念主员和设备东说念主员正在转向内存蓄意或硬件复古的本事,以加速这种数据传输并降拘泥耗。
UM小组并不是第一个在东说念主工智能和高等蓄意中使用忆阻器的团队。已往的很多小组还是探索了用于内存蓄意的新材料。但是,UM是第一个发扬出时间依赖性当作的商议小组,这关于复制东说念主脑的运作模式至关蹙迫。
已毕更节能的 AI 芯片
诚然 UM 小组对他们的可调 ESO 能否很快插足商用莫得任何歪曲,但他们的商议记号着向硬件复古的东说念主工智能性能又迈进了一步。
内存处理系统中 UM 基于内存的内核的暗示图。图片由Nature提供
如若忆阻器件好像垄断当代半导体本事,它们对定制的东说念主工智能硬件措置决议的影响可能是庞杂的。UM团队忖度,在不改变时间常数的情况下,他们的新材料系统不错将东说念主工智能芯片的能效擢升到现在材料的六倍。