Meta AI被我玩弄，竟然露出禁忌內容！

zero comment

🎬 YouTube Premium 家庭 Plan成員一位只需
HK$148/年！

不用提供密碼、不用VPN、無需轉區
直接升級你的香港帳號 ➜ 即享 YouTube + YouTube Music 無廣告播放

立即升級 🔗

**如何成功欺騙Meta的AI顯示裸照、製毒方法及其他被封鎖的內容**

儘管Meta宣稱其AI產品具有高度安全性，但WhatsApp的新AI助手卻輕易被愚弄，顯示出許多不應該的資訊。

我並不想成為毒販或色情商，但出於好奇，我測試了Meta新推出的AI產品，以了解其安全性。這次的測試純粹是為了教育目的。

Meta最近推出了Meta AI系列產品，由Llama 3.2提供動力，能生成文字、代碼和圖像。Llama模型在開源AI領域中非常受歡迎，且調整得非常細緻。

這款AI逐步推出，最近才在巴西的WhatsApp上提供，讓數百萬人可以使用先進的AI功能。

**Case 1: 輕鬆製毒**

我的測試發現，Meta的AI防禦在輕微的壓力下就瓦解了。雖然助手最初拒絕提供製毒資訊，但當問題以歷史角度提問時，AI則提供了詳細的製作方法。

這種技術是眾所周知的“越獄”技術，透過將有害請求包裝成學術或歷史框架，AI被誤導為提供中立的資訊。

**Case 2: 不存在的炸彈**

我嘗試讓AI生成製作炸彈的步驟。最初被拒絕，但稍微改變措辭後，AI開始提供資訊。這表明Meta似乎訓練其模型抵制已知的“越獄”提示，但仍然存在漏洞。

**Case 3: 角色扮演竊車**

透過角色扮演的方式，我請AI幫助寫一個涉及竊車的電影場景。AI提供了詳細的步驟，顯示出這種方法的有效性。

**Case 4: 嘗試生成裸照**

AI不應生成裸露或暴力內容，但當我以解剖學研究為藉口時，AI提供了逐漸裸露的圖片。這表明AI在核心上並未完全封鎖裸露內容。

**為什麼越獄如此重要**

這表明Meta還有很多需要改進的地方。AI公司與越獄者之間的貓鼠遊戲不斷演變，越獄者幫助公司開發更安全的系統，而AI開發者則推動越獄者不斷提升技術。

儘管Meta的AI存在漏洞，但比某些競爭者要安全。然而，後代內容審查仍不是理想的解決方案，Meta和其他公司需要進一步完善這些模型，因為AI世界中的風險正在不斷增加。

**評論**

這篇文章揭示了AI技術的潛在風險和挑戰。當我們越來越依賴AI時，安全性和道德問題也隨之而來。Meta需要不斷改善其AI模型的安全性，以防止不當內容的生成。這也讓我們反思，AI技術的發展不僅僅是技術進步，還涉及到倫理和社會責任。越獄技術的存在提醒我們，無論技術多先進，總有漏洞需要填補。這場技術與倫理的博弈，將是未來AI發展的重要課題。

以上文章由特價GPT API KEY所翻譯