3個問題：建模對抗性智能以利用AI的安全漏洞
麻省理工學院計算機科學與人工智能實驗室（CSAIL）的首席研究科學家Una-May O’Reilly討論她如何開發代理，揭示AI模型的安全弱點，讓我們在黑客行動之前就能察覺到。
如果你看過《湯姆與傑瑞》等卡通片，應該會認識到一個共同的主題：一個難以捉摸的目標總是能避開強大的對手。這場貓捉老鼠的遊戲——無論是字面還是隱喻——都涉及追逐那些每次都能微妙地逃脫的東西。
同樣地，逃避持續的黑客攻擊對於網絡安全團隊來說是一項持續的挑戰。麻省理工學院的研究人員正在開發一種名為“人工對抗性智能”的AI方法，模仿設備或網絡的攻擊者，以在真正的攻擊發生之前測試網絡防禦。其他基於AI的防禦措施則幫助工程師進一步加固系統，以避免勒索病毒、數據盜竊或其他黑客攻擊。
在這裡，Una-May O’Reilly，麻省理工學院計算機科學與人工智能實驗室（CSAIL）的首席研究員，負責Anyscale Learning For All Group（ALFA），討論人工對抗性智能如何保護我們免受網絡威脅。
問題：人工對抗性智能如何充當網絡攻擊者的角色，又如何表現為網絡防禦者？
答：網絡攻擊者存在於一個能力光譜的不同位置。在最低端，有所謂的腳本小子，或威脅行為者，他們隨意使用知名的漏洞和惡意軟件，希望找到一些沒有做好網絡安全的網絡或設備。在中間是那些資源更豐富且組織更好的網絡雇傭兵，他們專門針對企業進行勒索或敲詐。而在最高端，則是一些有時受到國家支持的團體，他們可以發動最難以檢測的“高級持續威脅”（APT）。
這些攻擊者所擁有的專業、邪惡的智能就是對抗性智能。攻擊者製作非常技術性的工具，讓他們可以駭入代碼，他們為目標選擇合適的工具，並且他們的攻擊通常是多步驟的。在每一步，他們學習一些東西，將其整合到自己的情境意識中，然後決定下一步該怎麼做。對於高級的APT，他們可能會戰略性地選擇目標，並設計一個隱蔽的、低可見性的計劃，以至於其實施能夠逃過我們的防禦屏障。他們甚至可以計劃出誘導證據，指向另一個黑客！
我的研究目標是複製這種特定類型的攻擊智能，即對抗性智能（人類威脅行為者所依賴的智能）。我使用AI和機器學習來設計網絡代理，並模擬人類攻擊者的對抗行為。我還模擬網絡軍備競賽中的學習和適應過程。
我還要指出，網絡防禦系統非常複雜。它們隨著攻擊能力的提升而演變出更複雜的結構。這些防禦系統涉及設計檢測器、處理系統日誌、觸發適當的警報，以及將其分類進入事件響應系統。它們必須持續保持警惕，以保護一個很大且難以跟蹤的動態攻擊面。在這種攻擊者與防守者的競爭中，我的團隊和我也在為這些不同的防禦前線發明AI。
對抗性智能的另一個特點是：湯姆和傑瑞都能從彼此的競爭中學習！他們的技能隨著競爭而變得更加精湛，並進入了一場軍備競賽。一方變強，另一方為了自保也變得更強。這種互相改進的過程不斷上升！我們努力複製這些網絡版本的軍備競賽。
問題：在我們日常生活中的哪些例子中，人工對抗性智能保護了我們的安全？我們如何使用對抗性智能代理來領先於威脅行為者？
答：機器學習在確保網絡安全方面已被廣泛應用。各種檢測器能過濾出威脅。它們會針對異常行為和可識別的惡意軟件進行調整。例如，手機上的一些垃圾郵件保護工具就是基於AI的！
我的團隊設計的AI網絡攻擊者可以執行威脅行為者所做的事情。我們發明AI，賦予我們的網絡代理專業的計算機技能和編程知識，使它們能夠處理各種網絡知識、計劃攻擊步驟，並在行動中做出明智的決策。
具有對抗性智能的代理（如我們的AI網絡攻擊者）可以用作測試網絡防禦的練習。檢查網絡對攻擊的魯棒性需要大量的努力，而AI能夠幫助這方面的工作。此外，當我們將機器學習應用於我們的代理和防禦時，這些代理會展開一場我們可以檢查、分析並用來預測當我們採取防禦措施時可能使用的對策的軍備競賽。
問題：他們正在適應哪些新風險，並且是如何做到的？
答：似乎新軟件的推出和系統配置的變化永無止境。每次發布都可能出現攻擊者可以利用的漏洞。這些可能是已經記錄的代碼中的弱點，或者是新的。
新的配置可能會帶來錯誤或新的攻擊方式。我們在面對拒絕服務攻擊時並未想像會出現勒索病毒。現在，我們正在處理網絡間諜活動和勒索病毒，還有知識產權盜竊。所有的關鍵基礎設施，包括電信網絡、金融、醫療、城市、能源和水系統，都是攻擊的目標。
幸運的是，對於保護關鍵基礎設施，已投入了大量努力。我們需要將這些努力轉化為基於AI的產品和服務，以自動化其中的一部分工作。而且，當然，我們還需要持續設計更智能的對抗性代理，以保持我們的警惕，幫助我們練習保護我們的網絡資產。
—
從O’Reilly的研究中可以看出，對抗性智能不僅是網絡安全的一種防禦手段，更是對抗黑客攻擊的一種策略。隨著技術不斷演進，黑客的攻擊方式也在不斷變化，這使得網絡安全的挑戰愈發嚴峻。未來，我們需要不斷地更新和完善防禦機制，並利用AI的優勢來加強系統的安全性。這不僅是技術上的挑戰，更是對於如何應對未來潛在威脅的一次深刻反思。
以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。
