超高效人工光电神经元成真?速度比自然神经元快3万倍,研究登Nature子刊

发布时间:2022-11-30

AI 系统越来越受限于为实现其功能的硬件。现在,一种新的超导光子电路问世,它可模拟脑细胞之间的连接。这仅需消耗人类具有同类功能细胞能量的 0.3% ,而运行速度却可提高约 30000 倍。

在人工神经网络中,被称之为神经元的诸多组件被植入数据并协同来解决诸如人脸识别等问题。神经网络反复调整相互间的突触——一种神经元之间的连接,确定由此产生的行为模式是否为更佳的解决方案。但随着时间推移,神经网络最终会在计算的结果中发现最佳的行为模式。而后它会选取这些模式作为默认值,模仿人脑的学习过程。

尽管 AI 系统被逐步发掘更多真实世界中的应用,但鉴于用于驱动其运行的硬件局限性,它们仍面临诸多重大挑战。为了解决这个问题,研究人员已经开发出了受人脑启发的神经形态计算机硬件。

例如,神经形态的微芯片组件可能仅会在一定时间内接受到特定数量的输入信号时,才可能发出尖峰信号或者生成一种输出信号。这是一种更接近模拟真实生物神经元行为方式的策略。与典型的人工神经网络相比,这些设备仅发出极少的尖峰信号,因此所处理的数据将会少得多,同时原则上所需功率和通信带宽会小很多。

然而,神经形态硬件通常使用传统电子设备,这最终会限制它们可实现的复杂功能和信号传递速度。举例来说,每个生物神经元都可以拥有数万个突触,但神经形态设备很难将它们的人工神经元相互连接起来。对此,一种有效的解决方案就是多路复用,即一个信号通道可以同时承载更多的信号。然而,随着芯片变得更大、更复杂精细,运算速度可能会迟缓。

在近期一项新研究中,美国国家标准与技术研究院(NIST)的研究者们探索使用光发射器和接收器来连接神经元。原则上,光链路或光波导能以光速通信速率将每个神经元与数千个其他神经元连接起来。相关论文在《自然 · 电子学》上发表。

202211.yjdt.ai1.jpg

论文地址:https://www.nature.com/articles/s41928-022-00840-9

研究概览

研究者使用了能够检测单光子的超导纳米线装置,其中能检测到的这些光信号是最小的单元,可被看作能量效率的物理极限。

如下渲染图展示了模拟神经元突触(大脑中神经元之间的接口点)的超导电路如何被用来创造未来的人造光电神经元。

202211.yjdt.ai2.jpg

执行光子神经计算通常很棘手,因为其一般都需要可以在相当长时间内捕获光的光学腔。在集成微芯片上创建这样的空腔并将它们与许多波导连接起来具有极大的挑战性。

因此,研究者开发了混合电路系统,其中每个探测器的输出信号被转换为约 2 皮秒长的超快电脉冲。这些脉冲均由超导量子干涉仪网络或超导量子干涉仪(SQUID)内的单个磁涨落或磁通量引起。

NIST 的研究员、通讯作者 Jeffrey Shainline 表示,「多年来,我们一直在努力进行理论研究工作,希望发掘出使技术能够实现神经形态计算的物理极限的本质原理。对这一目标的追求让我们想到了这个概念——将单光子能级的光通信与约瑟夫森结执行的神经网络计算相结合。」

202211.yjdt.ai3.png

Jeffrey Shainline

超导量子干涉仪(SQUID)由一个或多个约瑟夫森结构成,是一个三明治结构,上下均为超导材料,中间由绝缘薄膜隔开。如果通过约瑟夫森结(Josephson junction, JJ)的电流超过某个特定的阈值,超导量子干涉仪就将开始产生磁通量。

在感应到一个光子后,单光子探测器(single-photon detector, SPD)就会产生磁通量子,而后这些通量子就会在 SQUID 的超导回路中作为电流被收集。这种存储的电流可以作为一种记忆形式,记录神经元发出了多少次尖峰信号。

下图 2 为布局和完成的电路。a 为整个突触电路的 3D 布局;b 为完成制造的显微镜图像;c 为 SPD 布局;d 为制造中的 SPD;e 为 JJ 和分流电阻的布局;f 为制造中的 JJ 和分流器;g 为用于 DR(dendritic receiving, 树突接收)循环的 SQUID;h 为制造中的 DR SQUID。

202211.yjdt.ai4.png

Shainline 感叹道,「让电路工作起来其实相当容易。在设计阶段,制造和实验花费了相当多的时间,但实际上,在我们第一次制造出这些电路时,它们就已经可以开始工作了。这预示着此类系统未来的可扩展性非常好。」

研究者将单光子探测器与约瑟夫森结集成在一起,形成了一个超导突触。他们计算出突触的峰值频率能够超过 1000 万赫兹,同时每个突触事件消耗大约 33 阿托焦耳的能量(1 阿托焦耳等于 10^-18 焦耳)。相比之下,人类神经元的最大平均峰值速率仅约为 340 赫兹 ,而同时每个突触事件却将消耗大约 10 飞焦耳(1 飞焦耳等于 10^-15 焦耳)。

下图 3 展示了单个突触的特性,其时间常数为 6.25 μs,电感为 2.5 μH。测量结果表明实际值分别为 8.06 μs 和 3.2 μH。

202211.yjdt.ai5.png

下图 4 展示了突触传递函数可以在广泛的时间尺度范围内进行设计。

202211.yjdt.ai6.png

此外,研究者可以实现这些电路系统设备的输出时间从数百纳秒变化到毫秒。这也意味着这些硬件可以与一系列系统连接,实现从高速电子设备间的通信乃至人机间更悠闲的交互。

未来,研究者将把他们研发的新突触与片上光源相结合,创造出完全集成的超导神经元。Shainline 对此表示,「实现完全集成的超导神经元仍然存在巨大的挑战,但若我们能够将最后那部分也集成进去,那么非常有理由相信最终它可能会成为人工智能的强大计算平台。」

原文链接:https://spectrum.ieee.org/neuromorphic-computing-superconducting-synapse


来源:机器之心