新安全協議保護雲端計算中的數據免受攻擊
麻省理工學院（MIT）的研究人員研發出一種安全協議，利用光的量子特性來確保在深度學習計算中傳送到雲伺服器的數據保持安全。
深度學習模型在許多領域中被廣泛應用，如醫療診斷和財務預測。然而，這些模型需要強大的雲端伺服器來處理其龐大的計算量。
這種對雲端計算的依賴帶來了顯著的安全風險，特別是在醫療領域，醫院可能會因隱私問題而不願意使用人工智能工具來分析機密的病人數據。
為了解決這個迫切的問題，麻省理工學院的研究人員開發了一種安全協議，利用光的量子特性來確保在深度學習計算中傳送到和來自雲伺服器的數據保持安全。
通過將數據編碼到光纖通信系統中使用的激光光中，該協議利用了量子力學的基本原理，使攻擊者無法在不被發現的情況下複製或截取信息。
此外，這項技術在不影響深度學習模型準確性的前提下也能保證安全。在測試中，研究人員證明他們的協議可以在保持96%準確度的同時確保強大的安全措施。
研究的主要作者、麻省理工學院電子研究實驗室的博士後Kfir Sulimany表示：「像GPT-4這樣的深度學習模型具有前所未有的能力，但需要大量的計算資源。我們的協議使用戶能夠在不妥協數據隱私或模型專有性的情況下利用這些強大的模型。」
Sulimany與麻省理工學院的博士後Sri Krishna Vadlamani、現任NTT Research, Inc.的前博士後Ryan Hamerly、電機工程與計算機科學（EECS）研究生Prahlad Iyengar以及EECS教授兼量子光子學與人工智能小組的首席研究員Dirk Englund共同撰寫了這篇關於安全協議的論文。這項研究最近在量子密碼學年度會議上發表。
深度學習中的雙向安全通道
研究人員專注的雲端計算場景涉及兩個角色——擁有機密數據的客戶端，如醫療影像，以及控制深度學習模型的中央伺服器。
客戶端希望使用深度學習模型來做出預測，例如根據醫療影像判斷病人是否患有癌症，但不想洩露病人的信息。
在這種情況下，必須傳送敏感數據來生成預測。然而在此過程中，病人的數據必須保持安全。
同時，伺服器不希望透露任何由像OpenAI這樣的公司花費多年和數百萬美元建立的專有模型部分。
Vadlamani補充道：「雙方都有想要隱藏的東西。」
在數字計算中，惡意行為者可以輕易地複製從伺服器或客戶端發送的數據。
然而，量子信息不能被完美複製。研究人員在他們的安全協議中利用了這一特性，即無法克隆原理。
在研究人員的協議中，伺服器使用激光光將深度神經網絡的權重編碼到光場中。
神經網絡是一種深度學習模型，由層層相互連接的節點或神經元組成，用於對數據進行計算。權重是模型中對每個輸入進行數學運算的組件。每一層的輸出被傳遞到下一層，直到最終層生成預測。
伺服器將網絡的權重傳輸給客戶端，客戶端根據其私有數據實施操作以獲得結果。數據仍然對伺服器保持隱蔽。
同時，安全協議允許客戶端僅測量一個結果，並且由於光的量子特性，防止客戶端複製權重。
當客戶端將第一個結果餵入下一層時，協議設計用來取消第一層，這樣客戶端就無法了解到模型的其他信息。
Sulimany解釋道：「客戶端只測量運行深度神經網絡所需的光，並將結果餵入下一層。然後，客戶端將剩餘的光返回給伺服器進行安全檢查。」
由於無法克隆定理，客戶端在測量結果時不可避免地會對模型應用微小的錯誤。當伺服器接收到來自客戶端的剩餘光時，可以測量這些錯誤以確定是否洩露了任何信息。重要的是，這些剩餘的光不會揭示客戶端數據。
實用的協議
現代電信設備通常依賴光纖來傳輸信息，因為需要支持長距離的大帶寬。由於這些設備已經包含光學激光器，研究人員可以在不需要特殊硬件的情況下將數據編碼到光中以實現其安全協議。
在測試中，研究人員發現，該方法可以在伺服器和客戶端之間保證安全，同時使深度神經網絡達到96%的準確性。
當客戶端執行操作時，洩露的模型信息量不到對手恢復任何隱藏信息所需的10%。從另一個角度看，惡意伺服器只能獲得其需要竊取客戶端數據的1%信息。
Sulimany表示：「您可以保證它在雙向上都是安全的——從客戶端到伺服器和從伺服器到客戶端。」
Englund表示：「幾年前，當我們在麻省理工學院主校區和麻省理工林肯實驗室之間開發分佈式機器學習推斷的演示時，我意識到我們可以做一些全新的事情來提供物理層安全，這是基於多年量子密碼學研究的成果。然而，要實現這種隱私保證的分佈式機器學習，必須克服許多深奧的理論挑戰。直到Kfir加入我們的團隊，這才成為可能，因為Kfir獨特地理解了開發支撐這項工作的統一框架所需的實驗和理論組件。」
未來，研究人員希望研究這一協議如何應用於稱為聯邦學習的技術，其中多個方使用其數據來訓練一個中央深度學習模型。它也可以用於量子操作，而不是他們為這項工作研究的經典操作，這可能在準確性和安全性上都提供優勢。
巴黎索邦大學CNRS研究主任Eleni Diamanti表示：「這項工作巧妙地結合了來自通常不會交匯的領域的技術，特別是深度學習和量子密鑰分發。通過使用來自後者的方法，它為前者增加了一個安全層，同時也允許實現看似現實的應用。這對於在分佈式架構中保護隱私可能很有趣。我期待看到該協議在實驗不完美情況下的表現及其實際實現。」
這項工作部分由以色列高等教育委員會和Zuckerman STEM領導力計劃支持。
評論
麻省理工學院這項研究展示了量子技術在提升雲計算安全性方面的潛力。隨著深度學習模型在各行各業的應用日益增加，如何在不犧牲數據隱私的情況下充分利用這些技術成為一大挑戰。這項研究不僅提出了一個創新的解決方案，還為聯邦學習等新興技術的應用提供了可能性。然而，如何在實際應用中克服技術和理論上的挑戰，仍需進一步探索。這項研究也提醒我們，跨學科合作和創新思維對於解決複雜的現代科技問題是至關重要的。
以上文章由特價GPT API KEY所翻譯。而圖片則由FLUX根據內容自動生成。
