ICE錯誤導致部分新兵被派往外勤辦公室,卻未接受適當培訓
美國移民及海關執法局(ICE)在急速增聘1萬名新執法人員期間,因為一個人工智能(AI)系統在處理申請時出錯,導致不少新兵被錯誤歸類,直接被派往外勤辦公室,卻未接受應有的培訓,兩名熟悉事件的執法官員透露。
ICE使用的AI工具原本負責篩選有執法經驗的申請者,將他們納入所謂的「LEO計劃」(LEO即執法人員),這計劃要求這些已有執法背景的新人接受為期四星期的網上培訓。相比之下,沒有執法背景的申請者必須到位於喬治亞州的聯邦執法培訓中心(FLETC)參加為期八星期的面授課程,課程內容包括移民法、槍械操作和體能測試等。
然而,這個AI系統出錯,將履歷中只要帶有「officer」(官員、執法人員)字眼的人士,都誤判為有執法經驗的人士,派他們去較短的網上課程。舉例來說,「合規官員」(compliance officer)或自稱有意成為ICE執法官的人士,都被誤判。兩位官員表示,大部分新申請者都被標記為執法人員,但實際上很多人並無任何地方警察或聯邦執法背景。
兩位消息人士強調,ICE的外勤辦公室其實會提供比培訓中心或網課更多的培訓,派遣到街頭執勤前還會有進一步訓練,而被AI誤判的人士很可能亦接受了這些後續培訓。這兩名官員因未獲授權公開發言,故要求匿名。
國土安全部未對此置評。據悉,這個AI錯誤在去年秋季中期被發現,距離大規模招募開始已逾一個月。ICE隨即展開補救措施,包括手動審核新聘人員的履歷。消息人士稱:「他們現在要把這些人重新送回FLETC培訓。」
AI工具原本是用來分類履歷的,官員不確定有多少人因此接受了不適當的培訓,也不清楚有多少人已經被派出執行移民拘捕任務。
在ICE大規模增兵美國多個城市的情況下,其執法手法引起了當地警方、社區團體和議員的質疑。尤其在明尼阿波利斯,一名ICE執法人員約納森·羅斯(Jonathan Ross)射殺非裔女子蕾妮·妮可·古德(Renee Nicole Good)後,事件更加引發關注。羅斯有超過十年的ICE經驗,並非此AI篩選下的新兵。
這次錯誤反映出ICE在快速擴大隊伍的同時,培訓工作面臨的挑戰。此前NBC新聞亦曾報導,部分新兵在完成背景審查前已被派入培訓課程。
僅明尼蘇達州,ICE就派遣超過2,000名執法人員增強拘捕行動,自去年11月底起已拘捕超過2,400人。當地政府甚至對國土安全部提起訴訟,試圖驅逐聯邦移民官員。
ICE原定於2025年底前招募1萬名新兵,並以國會撥款的「One Big Beautiful Bill」資金,向新兵提供5萬美元簽約獎金。官員表示,雖然表面上達標,但因為要將誤判人員召回接受培訓,實際上2025年並未真正新增1萬名可上街執勤的ICE官員。
—
評論與啟示:
這宗事件充分揭示了人工智能在政府機構人事管理上的風險和限制。盡管AI能提高篩選效率,但過度依賴關鍵字匹配而忽略履歷內容的實質意義,導致大量錯誤決策,反映出AI系統缺乏人性化審核和多層次判斷的能力。
對於執法機構而言,培訓質素直接影響到執法行動的專業性與公信力。ICE在急速擴軍下,未能確保每名新兵都獲得適當培訓,可能會增加執法失誤甚至濫權的風險,對社區信任造成損害。
此外,這亦涉及政府在追求量化目標(如快速增兵)與確保質量之間的矛盾。官員提到「表面達標但實質未達標」,顯示行政壓力可能導致質量控制被忽視。
從更廣泛角度看,這反映了現代執法機構在人工智能和自動化工具導入過程中,必須謹慎設計監控機制,結合人類審核,避免技術誤判帶來的嚴重後果。尤其是在涉及公共安全和人權保障的領域,任何錯誤都可能引發社會動盪和法律爭議。
總結來說,ICE這次的AI誤判事件,不僅是技術層面的失誤,更是管理策略和執法倫理的一個警鐘。未來,如何平衡效率與質量,如何在AI輔助下維持嚴謹的培訓標準,將是所有政府機構必須深思的課題。
以上文章由GPT 所翻譯及撰寫。而圖片則由GEMINI根據內容自動生成。