紐約再推AI監管 立法創新監察機構

紐約市再次嘗試規管人工智能

紐約市議會週二一致通過一套法案，成立全新「算法問責辦公室」，旨在對市政府使用的人工智能（AI）及其他算法工具進行監管和報告。這是過去六年內，紐約市第三次嘗試建立AI監管框架，反映出市政府對如何合理使用AI的持續關注。

這批被稱為「保障無偏見AI規管與披露法案」(GUARD Act) 的法案，將設立專責的算法問責辦公室。該辦公室負責評估市政府各部門使用的AI和算法工具，制定相關採購與部署規範，並公布審查過的工具清單。辦公室還會協助各部門推行新系統、分析風險、調查歧視指控，以及促進公眾參與監管過程。

其中兩項法案由市議會技術委員會主席Jennifer Gutiérrez議員提出，另一項則由Julie Menin議員贊助。隱私倡導者長期以來對政府使用AI及算法工具持保留態度。舉例來說，紐約市兒童服務管理局曾因使用一種包含社會經濟指標（如居住區域和家庭規模）的算法工具來評估兒童受暴風險，遭受外界質疑。

事實上，這並非紐約市首次嘗試為AI設立規範。前市長Bill de Blasio於2018年成立的自動化決策系統專責小組，因進展緩慢而飽受批評，首次公開會議甚至延後近一年才召開。該小組最後建議成立一名算法管理及政策官員，但該職位在2022年被現任市長Eric Adams撤銷，職責併入新成立的科技創新辦公室。市議會後續通過法例，要求各部門每年提交使用過的自動決策系統報告。

Adams市長上任一年後，委任了人工智能與機器學習主管，並於2023年公布一份「AI行動計劃」，列出37項目標，涵蓋AI使用指引和報告要求。然而，這份計劃的執行情況不明朗，市府表示已「處理」35項目標，但未清楚透露具體進度。紐約市最近一次年度進度報告於2024年10月發布，下一份報告預計數週內發表，而Adams市長任期只剩一個多月。

Gutiérrez議員指出，新法案將為AI行動計劃增添更強的執法力，批評現行計劃僅是「紙上談兵」。她強調：「科技不能靠空想來管治，必須有人手實際執行。充足的人手和問責團隊，才能在系統部署前進行審查，支援難以跟上的部門，並在工具傷害紐約人時介入。沒有實際人員，監管就只是一個口號；有了人員，才會變成一個系統。」

不過，部分倡議團體認為法案仍有不足，需要針對性修訂以提升效力。例如監督技術監察項目高級法律研究員Darío Maestro指出，法案未明確規定使用標準及審核準則。前市長de Blasio時期的首席技術官John Paul Farmer則關注新成立的算法問責辦公室能否高效運作，能否獲得市府支持，並融入決策流程，審查速度是否符合運作需求，以及是否允許有彈性的測試空間。

Gutiérrez議員辦公室正為下任市長Zohran Mamdani草擬過渡備忘錄，希望新辦公室的建設不會因換屆而停滯。至於Adams市長是否會簽署成為法律，尚未收到回應，但考慮到他近期多次使用否決權，情況仍待觀察。Gutiérrez辦公室則不預期會遭否決。

—

評論與分析

紐約市再次嘗試規管AI，凸顯出地方政府在面對快速發展的人工智能技術時，尋求平衡創新與監管的挑戰。過往幾次嘗試因為官僚程序緩慢、缺乏實際執行力而成效有限，這次新成立的算法問責辦公室如果能真正配備專業團隊和足夠權力，將有望成為AI監管的模範。

不過，監管AI的複雜性不容小覷，尤其是涉及社會公義、隱私權及技術透明度。法案雖然有宏觀框架，但缺乏細節標準及審核機制，可能令監管變得流於形式。此外，AI技術本身不斷演變，監管機構必須保持彈性及前瞻性，避免規範滯後於技術發展。

值得注意的是，監管不應只停留於政府內部，更應擴展至私營企業和公共服務中AI的應用，保障市民權益。公眾參與和透明度是關鍵，只有讓民眾真正了解AI如何影響他們生活，才能建立信任。

最後，紐約市的經驗對全球城市來說都是寶貴的參考。AI監管需要結合政策制定者、技術專家、民間社會和用戶的多方合作，才能打造既促進科技發展，又保障公平正義的治理模式。香港在推動智慧城市和AI應用時，也應借鑒這些經驗，謹慎設計本地的AI政策和監管機制。

以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。