AI 深偽色情醜聞震撼悉尼高中 警方展開調查
一名來自澳洲悉尼的高中生，據稱利用人工智能創作並散佈了多名女同學的色情深偽圖像，隨著對AI濫用的擔憂加劇，此事件引起了廣泛關注。
深偽技術是通過深度學習算法生成的假圖像，這些圖像高度真實，根據質量的不同，難以與真實照片區分開來。雖然這類圖像通常是成人內容，但並不一定如此。
這名未具名的男學生，據報導從社交媒體帳號和校內活動中抓取照片，以生成多名女學生的露骨AI圖像。然後，他通過假社交媒體帳號散佈這些內容，根據學校官員發給家長的電子郵件報導。
新南威爾士州警方在接到「不當圖像被製作和在線散佈」的報告後，展開了調查。警方正與電子安全專員和教育部合作，處理此事件。
學校發給受影響家長的電子郵件中提到：「學校已獲悉一名12年級男學生據稱使用人工智能創建了一個與你的女兒及其他學生相似的個人資料。不幸的是，來自社交媒體和校內活動的無辜照片被濫用。」
這並非孤例。根據倫敦非營利組織Internet Matters的研究，約有53萬名英國青少年曾遇到裸體深偽圖像。去年，華盛頓州西雅圖的當地新聞報導了一名青少年在社交媒體上分享同班同學的深偽圖像。前一年，新澤西州的一組女學生發現她們的全身穿著照片被用作生成不當深偽圖像的基礎。
隨著生成式AI的發展，這個問題似乎正在擴散。民主與技術中心的一項調查顯示，50%的美國高中教師知道至少有一次他們學校的某人被描繪在AI生成的露骨內容中。
新南威爾士州教育部長普魯·卡爾在星期四的新聞發布會上稱此事件為「令人厭惡」。卡爾表示：「這名學生將受到紀律處分，並讚揚學校副校長迅速處理此事。」
教育部強調對此類行為的零容忍立場。一位部門發言人告訴《衛報》：「我們的首要任務是確保學生感到安全。」學校正在為受影響學生提供持續的心理健康支持。
此事件發生在去年6月維多利亞州的一起類似案件之後，當時一名17歲的學生據稱為約50名女同學創建了露骨的AI生成圖像。該學生在調查後獲得了警方的警告。
法律專家指出，目前針對AI生成露骨內容的立法存在漏洞。澳大利亞參議院在2023年8月通過了針對非自願深偽色情的立法，而美國的倡導者則推動《防止親密圖像深偽法案》。
其他針對該問題的法律倡議還包括《深偽責任法案》、新加坡的反深偽法規以及歐盟的AI法案。
這起事件不僅反映了AI技術的迅猛發展，也揭示了社會在面對新科技時的道德和法律挑戰。隨著技術的進步，我們是否能夠在保障創新與保護個人隱私之間找到平衡，將成為未來亟需解決的重大課題。社會各界需共同努力，制定適當的法律框架，以防止這類事件的再次發生，並確保每一位學生的安全與尊嚴得到尊重。
以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。
