加州核電廠用AI安全系統？弊定利？

加州核電廠部署生成式人工智能安全系統

美國首個使用人工智能的核電廠，諷刺的是，這也是加州最後一座仍在運營的核電廠。

根據CalMatters的報導，迪亞布羅峽谷核電廠預計在本十年內將被退役。在此期間，廠主太平洋煤氣與電力公司（PG&E）聲稱正在部署其名為“中子企業”（Neutron Enterprise）的工具，這將是全美首個使用人工智能的核電廠，並將分階段逐步實施。

不到18個月前，迪亞布羅峽谷正朝著2024年開始退役，並在今年結束的方向快速前進。然而，在2023年底，加州公共事業委員會投票決定將退役時間延長五年，將不可避免的關閉推遲至2029年和2030年。

在該投票後不到一年，PG&E宣布與一家名為Atomic Canyon的初創公司合作，該公司專門針對這座核電廠而成立，並位於加州中部沿海的聖路易斯奧比斯波。這一合作以及工具部署的第一個“階段”，將一些Nvidia的高性能H100人工智能晶片引入這座即將退役的核電廠，並為生成式人工智能提供所需的計算能力。

中子企業運行在一個內部伺服器上，並無雲端訪問，其最大的用例與所謂的人工智能“搜索引擎”相似，主要是總結大量的監管文件。根據Atomic Canyon的首席執行官及聯合創始人特雷·勞德代爾的說法，這並不危險——雖然任何使用人工智能進行信息總結的人都知道，這項技術仍然經常會出現事實錯誤。

PG&E高層莫琳·扎拉維克在接受CalMatters訪問時堅稱，這項人工智能計劃將更像是一個“副駕駛”，而不是“決策者”，旨在協助真人員工而非取代他們。

“我們每年大約花15,000小時來搜尋我們的多個數據庫、記錄和程序，”扎拉維克解釋道。“這將大大減少這段時間。”

勞德代爾則用更簡單的話表達了這一點。

“你可以記下這句話，”他告訴CalMatters。“核電廠的人工智能專家說，現在我絕對不想讓人工智能來運行我的核電廠。”

如果這個“現在”的附加條件讓你感到不安，你並不孤單。考慮到加州自1970年代以來一直在艱難地逐步淘汰核設施，因為對有毒廢物的擔憂，以及勞德代爾聲稱正在與其他州的核電廠進行對話，這不禁令人擔憂。

“你可以僅僅把生成式人工智能用於核電廠的一個特定任務，然後就結束了，”技術監察機構Data & Society的塔瑪拉·克尼斯警告道，“我並不相信它會止步於此。”

作為Data & Society氣候、技術與正義計劃的負責人，克尼斯表示，雖然使用人工智能來幫助篩選大量文件是有意義的，但“信任PG&E在核環境中安全使用生成式人工智能是值得更多審查的。”畢竟，這家公司在1990年代因實際案例的艾琳·布羅克維奇而暴露出污染傾向。

與此同時，加州立法者對Atomic Canyon和PG&E提出的計劃使用感到印象深刻，但尚不清楚這種狹隘的功能是否會保持不變。

這一事件引發了對人工智能在高風險環境中的應用的深思。雖然技術的發展可以提高效率，但在涉及公共安全的情況下，我們是否應該更加謹慎？尤其是考慮到PG&E的過去記錄，這使得對其使用人工智能的信任變得更加脆弱。這不僅是技術問題，還是關於責任和透明度的社會問題，值得我們每個人深思。

以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。