OpenAI 關閉病毒式 ChatGPT 驅動的哨兵槍項目
OpenAI 宣布已經切斷了一名工程師的 API 訪問權限，該工程師的視頻展示了一種由 ChatGPT 控制的電動哨兵槍，這引發了人們對人工智能武器的廣泛擔憂。
這位名為 sts_3d 的工程師自去年八月開始發布一個電動自動旋轉椅的項目視頻。到十一月，這個裝置似乎無縫轉變為一個能快速旋轉至任意角度並激活伺服器精確發射項目的哨兵槍（雖然他的視頻中只展示了空包彈和模擬激光的發射）。
然而，就在本週，sts_3d 發布了一個新視頻，展示了這個哨兵槍與 OpenAI 實時 API 的整合。在視頻中，這把槍使用 ChatGPT 的整合功能，根據 sts_3d 說出的命令進行瞄準和發射，甚至在發射後以愉快的聲音回應。
OpenAI 在對 Futurism 的評論請求中表示，他們已經“主動識別出這一違規行為，並通知開發者停止這一活動”。OpenAI 的使用政策禁止使用其服務開發或使用武器，或自動化可能影響人身安全的系統。
警報！入侵者警報！
“語音驅動的殺手機器人”這一角度最近吸引了大量關注，但在視頻中展示的 ChatGPT 整合並沒有達到《終結者》那樣可怕的殺人機器水平。這裡，ChatGPT 更像是一個華麗且過於繁瑣的語音激活遙控器，為一個真正令人印象深刻的槍架服務。
視頻中的語音控制似乎也並不特別高效。sts_3d 每次發出的命令都需要幾秒鐘來口述，而 ChatGPT 處理和執行這些命令也需要幾秒鐘。與此相比，sts_3d 的其他視頻中，槍械能以可怕的速度自動跟蹤特定顏色的物體，或在視頻畫面中快速在鼠標指定的目標之間旋轉，這些似乎更具冷酷的計算性。早在最近的大型語言模型熱潮之前，愛好者的哨兵槍項目就已經展示出能追蹤和射擊移動目標的能力。
儘管如此，任何將“人工智能”和“武器”聯繫起來的想法，迅速引發人們對無情的自動機器的想像，這些機器能“智能地”識別和消除威脅，而無需人類干預。美國軍方對這類自動化人工智能武器系統顯示出潛在的興趣，即便目前仍然需要人類參與發射決策。
OpenAI 的使用政策長期以來就包含禁止用於可能“傷害人員、毀壞財產或開發武器”的用途的條款。然而去年一月，《攔截者》報導了一個秘密的使用政策更新，移除了對“軍事和戰爭”用途的先前禁令。就在上個月，OpenAI 宣布與軍事承包商安杜里爾合作，“開發並負責任地部署先進的人工智能解決方案，以應對國家安全任務”。
儘管有政策存在，開放權重和開源人工智能模型的廣泛普及幾乎確保了工程愛好者和武器愛好者將繼續實驗各種級別的人工智能控制槍械。無論是否使用 ChatGPT 作為這些項目的語音介面，這一趨勢都不會改變。
在這篇報導中，我們可以看到人工智能技術的快速發展所帶來的潛在風險。儘管目前的應用看似無害，未來如果這些技術被不當使用，後果可能會非常嚴重。社會應該對這類技術的發展保持警惕，並制定相應的法律和倫理框架，以防止其被用於不當的武器開發或其他危險用途。這不僅僅是一個技術問題，更是關乎人類未來的道德選擇。
以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。
