摘要：研究人员开发了一种技术，确保数据在基于云的多方计算过程中保持安全。利用光的量子特性的方法可以使医院或金融公司等组织能够使用深度学习来安全地分析机密的患者或客户数据。...
从医疗保健诊断到财务预测，深入学习模型已在许多领域使用。但是，这些模型在计算上是如此密集，以至于它们需要使用强大的基于云的服务器。
对云计算的这种依赖会带来很大的安全风险，特别是在医疗保健等领域，由于隐私问题，医院可能不愿使用AI工具来分析机密患者数据。
为了解决这个紧迫的问题，麻省理工学院的研究人员开发了一种安全协议，该协议利用光的量子属性确保在深入学习计算过程中发送和从云服务器发送的数据保持安全。
通过将数据编码到光纤通信系统中使用的激光中，该协议利用了量子力学的基本原理，使攻击者不可能在未经检测的情况下复制或拦截信息。
此外，该技术可确保安全性，而不会损害深度学习模型的准确性。在测试中，研究人员表明，他们的协议可以保持96％的准确性，同时确保强大的安全措施。
“诸如GPT-4之类的深度学习模型具有前所未有的功能，但需要大量的计算资源。我们的协议使用户能够在不损害其数据的隐私或本身本身的专有性质的情况下利用这些强大的模型。”
MIT博士后Sri Krishna Vadlamani在纸上加入了Sulimany；瑞安·哈默利（Ryan Hamerly），现在是NTT Research，Inc。的前博士后； Prahlad Iyengar，电气工程和计算机科学（EECS）研究生； EECS的教授，量子光子学和人工智能小组和RLE的首席研究员，以及高级作家Dirk Englund。该研究最近在量子密码学年会议上发表。
深度学习安全的双向街道
研究人员专注于基于云的计算方案涉及两方 - 一个具有机密数据的客户，例如医疗图像，以及控制深度学习模型的中央服务器。
客户希望使用深度学习模型进行预测，例如患者是否基于医学图像患癌症，而无需透露有关患者的信息。
在这种情况下，必须发送敏感数据以生成预测。但是，在此过程中，患者数据必须保持安全。
此外，该服务器不想透露像OpenAI这样的公司花费数年和数百万美元建设的专有模型的任何部分。
瓦德拉曼尼补充说：“双方都有他们想要隐藏的东西。”
在数字计算中，坏演员可以轻松地复制从服务器或客户端发送的数据。
另一方面，量子信息不能完美复制。研究人员在其安全协议中利用了这一属性，称为无关原则。
对于研究人员的协议，服务器使用激光光编码深神经网络的权重为光场。
神经网络是一个深度学习模型，由对数据进行计算的互连节点或神经元的层组成。权重是模型的组成部分，每次输入一次进行数学操作，一次。一层的输出被馈入下一层，直到最后一层生成预测。
服务器将网络的权重传输到客户端，该权重实现操作以根据其私人数据获得结果。数据仍然屏蔽了服务器。
同时，安全协议允许客户仅测量一个结果，并且由于光的量子性质而阻止客户端复制权重。
客户端将第一个结果馈入下一层后，该协议的设计旨在取消第一层，以便客户端无法了解有关模型的其他任何内容。
Sulimany解释说：“与其测量服务器的所有传入光，客户只能测量运行深神经网络并将结果馈入下一层所需的光。然后，客户端将残留的光发送回服务器以进行安全检查。”
由于无关定理，客户端不可避免地会在测量结果的同时对模型应用微小的错误。当服务器从客户端接收残留灯时，服务器可以测量这些错误以确定是否泄漏了任何信息。重要的是，这种残留光已被证明不能揭示客户数据。
实用协议
现代电信设备通常依靠光纤来传输信息，因为需要长距离支撑大规模带宽。由于该设备已经结合了光激光器，因此研究人员可以在没有任何特殊硬件的情况下将数据编码为其安全协议的光线。
当他们测试他们的方法时，研究人员发现，它可以保证服务器和客户端的安全性，同时使深度神经网络达到96％的准确性。
当客户执行操作时泄漏的模型的一小部分信息不到对手需要恢复任何隐藏信息所需的信息。在另一个方向上工作，恶意服务器只能获得窃取客户数据所需的大约1％的信息。
Sulimany说：“您可以确保在这两种方面都安全 - 从客户端到服务器，从服务器到客户端。”
“几年前，当我们开发了MIT的主校园和MIT Lincoln实验室之间分布式机器学习推断的演示时，我意识到，我们可以做一些全新的东西来提供物理层安全性，这是基于多年的量子密码学工作，这些工作也已经在该测试中表现出来，” Englund说。” “但是，有许多深厚的理论挑战必须克服，以查看是否可以实现这种隐私的分布式机器学习的前景。直到KFIR加入我们的团队，这是不可能的，因为KFIR独特地理解了实验性的组成部分，以开发统一的框架，使这项工作构成了这项工作。”
将来，研究人员希望研究如何将该协议应用于一种称为联邦学习的技术，在该技术中，多方使用他们的数据来培训中央深度学习模型。它也可以用于量子操作中，而不是他们为这项工作研究的经典操作，这可以在准确性和安全性方面具有优势。
以色列高等教育理事会和扎克曼茎领导力计划部分支持这项工作。
