摘要:科学家提出了一种通过光学系统实施神经网络的新方法,这可能使机器学习将来更可持续。在新论文中,研究人员证明了一种比以前的方法要简单得多。...
科学家提出了一种通过光学系统实施神经网络的新方法,这可能使机器学习将来更可持续。 Max Planck Light Institute的研究人员发表了他们的新方法自然物理学,证明一种比以前的方法要简单得多。
如Chatgpt所展示的那样,随着计算机视觉到文本的生成,机器学习和人工智能越来越普遍。但是,这些复杂的任务需要越来越复杂的神经网络。有些具有十亿个参数。神经网络规模的这种快速增长使这些技术因其成倍增长的能耗和训练时间而走上了不可持续的道路。例如,据估计,培训GPT-3消耗了1000多兆瓦的能源,这相当于小镇的每日电能消耗。这种趋势使人们需要更快,更节能和更具成本效益的替代方案,从而引发了神经形态计算的快速发展领域。该领域的目的是用物理神经网络替换数字计算机上的神经网络。这些经过精心设计,以更快,更节能的方式进行物理上所需的数学操作。
光学和光子学是神经形态计算的特别有前途的平台,因为可以将能耗保持在最低限度。只能在非常高速的情况下并行执行计算,只能受到光速的限制。但是,到目前为止,已经面临两个重大挑战:首先,意识到必要的复杂数学计算需要高激光功能。其次,缺乏这种物理神经网络有效的一般培训方法。
通过在其自然物理学的新文章中,Clara Wanjura和Florian Marquardt提出的新方法可以克服这两种挑战。该研究所主任Florian Marquardt解释说:“通常,数据输入印在光场上。但是,在我们的新方法中,我们建议通过更改光传输来烙印输入。”这样,可以以任意方式处理输入信号。即使光场本身以最简单的方式行为,在不相互影响的情况下,波浪会干扰。因此,他们的方法允许人们避免复杂的物理互动来实现所需的数学功能,否则这些功能将需要大功率光场。评估和训练这个物理神经网络将变得非常直接:“这确实很简单,就像通过系统发送灯光并观察传输光。这使我们能够评估网络的输出。与此同时,这使得人们可以衡量所有相关信息的培训信息,”该研究的第一位作者克拉拉·沃吉拉(Clara Wanjura)说。作者在模拟中证明,他们的方法可用于执行与数字神经网络相同的准确性的图像分类任务。
将来,作者计划与实验组合作,以探索其方法的实施。由于他们的提议显着放松了实验要求,因此可以应用于许多物理上非常不同的系统。这为神经形态设备开辟了新的可能性,可以在广泛的平台上进行体育锻炼。