AI和性別
AI是否存在性別偏見？人工圖像如何延續現實中的性別歧視
人工智能（AI）越來越成為日常生活的一部分。然而，由於其模型通常基於過時的數據，且該領域仍由男性研究者主導，隨著其對社會影響力的增長，AI也在延續性別歧視的刻板印象。
一個簡單的請求就能顯示出這一點，只需使用像Stable Diffusion或Dall-E這樣的圖像生成AI工具。
當被要求生成「經營公司的人的圖像」或「經營大型餐廳的人」或「從事醫療工作的人」時，出現的幾乎都是白人的男性形象。而當這些程序被要求生成「護士」或「家庭幫助」或「家政助理」的圖像時，則幾乎都是女性。
根據聯合國教科文組織（UNESCO）去年發表的一項研究，研究人員要求各種生成式AI平台撰寫包含不同性別、性傾向和背景角色的故事。結果顯示，關於「少數文化或女性的故事往往更具重複性且基於刻板印象」。
該報告顯示，男性通常被賦予更具威望和專業性的職業，如教師或醫生，而女性則常常被 relegated 到傳統上被低估或更具爭議的角色，如家政工、廚師或妓女。
非洲大陸在AI發展中的角色
這些大型語言模型（LLM）工具使用的廣泛語言模式也往往將女性姓名與「家庭」、「家庭」或「孩子」等詞彙聯繫在一起，而男性姓名則更常與「商業」、「薪水」和「職業」等詞匯相關聯。
因此，這些模型顯示出對女性的「明確偏見」，UNESCO在一份新聞稿中警告道。
「現實世界中的歧視不僅在數字領域中反映出來，還在那裡被放大。」UNESCO傳播和信息助理總幹事Tawfik Jelassi表示。
社會的鏡子
生成內容的AI「在某一時期訓練於數十億文檔」 ，法國國家數字科學與技術研究所（Inria）研究主任Justine Cassell解釋道。
她指出，這些文檔的產生時間會影響其內容，往往包含過時和歧視性的刻板印象，因此基於這些文檔訓練的AI也在傳遞和重申這些偏見。
這不僅適用於圖像和文本生成器，也適用於面部識別程序，這些程序依賴於數以百萬計的現有照片。
在2019年，美國一家聯邦機構警告稱，一些面部識別系統在正確識別女性，尤其是非洲裔美國女性時存在困難，這對公共安全、執法和個人自由都有影響。
這在職場中也是一個問題，因為AI越來越多地被人力資源經理用於招聘輔助。
2018年，路透社報導說，亞馬遜不得不放棄一個AI招聘工具。原因是該系統未能以性別中立的方式評估候選人，因為它基於公司的簡歷數據，這些數據主要來自男性，導致拒絕女性申請者。
數據多樣性
AI首先是一個數據問題。如果這些數據不完整，或僅代表一類人，或者包含有意或無意的偏見，AI程序仍然會使用這些數據，並在大規模上傳播這些偏見。
「確保驅動系統的數據多樣化，並能代表所有性別、種族和社區是至關重要的。」數據流行聯盟（Data-Pop Alliance）智庫的數據、技術和創新主任Zinnya del Villar表示。
在與聯合國婦女署的採訪中，del Villar解釋道：「有必要選擇反映不同社會背景、文化和角色的數據，同時消除歷史偏見，例如那些將某些工作或性格特徵與某一性別聯繫起來的偏見。」
根據Inria的Cassell所言，一個根本問題是「如今大多數開發者仍然主要是白人男性，他們可能對偏見的存在不夠敏感」。
由於他們不存在女性和少數族裔所遭受的偏見，男性設計師往往對這一問題的認識不足，而88%的算法是由男性構建的。除了提高對偏見的認識外，研究人員還敦促該領域的公司聘用更多多樣化的工程團隊。
「我們需要更多女性來編寫AI模型，因為她們會問：這些數據是否包含異常行為或我們不應該在未來重現的行為？」創業公司Ejara的首席執行官兼聯合創始人Nelly Chatue-Diop告訴RFI。
女性的代表性不足
根據世界經濟論壇的資料，目前全球從事人工智能工作的人中僅有22%是女性。
Join Forces & Dare（JFD，前身為數位女性日）進行的歐洲AI晴雨表顯示，在受訪的企業中，擁有AI經理的高管委員會中，只有29%的這些經理是女性。全球範圍內，女性在AI研究人員中的比例僅為12%。
「AI開發中的多樣性缺失強化了偏見，延續了刻板印象，並減緩了創新。」報告警告道。
這一觀察得到了UNESCO的認可，他們認為，女性在該領域及管理職位的不足代表性「導致創建的社會技術系統未能考慮到所有性別的不同需求和觀點」，並加劇了「男女之間的差距」。
歐洲AI能否創造更統一的歐洲身份？
這兩個組織強調，需要確保女孩從小就意識到並被引導進入STEM（科學、技術、工程和數學）學科，這些領域仍然過於常見於男性，而高成就的女性往往不為人知。
隨著AI應用越來越多地被公眾和企業使用，「它們有能力塑造數百萬人的認知。」UNESCO總幹事Audrey Azoulay指出。「即使是最微小的性別偏見在其內容中，也會顯著增加現實世界的差異。」
UNESCO和許多行業專家呼籲在國際層面建立機制，以在倫理框架內監管該行業。
但這似乎還是遙不可及。美國在這一領域的巨大影響力下，並未簽署上個月發佈的巴黎峰會AI聲明，英國也同樣如此。
雖然英國政府表示該聲明在全球AI治理方面未能走得更遠，但美國副總統JD Vance批評所謂的歐洲對技術的「過度監管」。
在當前的科技環境中，這一問題的嚴重性不容忽視。AI的發展應該促進社會的平等，而不是加劇現存的性別和種族不平等。這需要更多的女性參與AI的創建和發展，以確保不同的觀點和需求被納入考慮。
以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。
