加州警隊引入AI自動生成報告引爭議

加州丘拉維斯塔警隊引入AI技術 自動生成警察報告掀起熱議

上星期，我特別關注了人工智能在執法機構中的應用，因為加州丘拉維斯塔市上月批准其警察部門使用這項新科技。

簡單來說，市議會一致通過購買Axon公司的AI軟件。Axon是一家向全美警隊出售電擊槍、無人機等裝備的科技公司。該市計劃在四年內投資100萬美元購買Axon的產品，其中包括一款備受爭議的AI應用程式——自動撰寫警察報告的軟件。

這款名為Draft One的軟件，能即時將警員身穿攝像機的錄像轉錄成文字。Axon去年推出此產品，並稱其運用了改良版的ChatGPT技術。

為何此事重要？

警察報告詳述警員與市民的接觸經過，是刑事案件審理中確立事實的重要文件，法官、陪審團和律師都依賴這些報告作為判案依據。

全美已有愈來愈多警隊開始試用這類AI軟件。據Axon發言人Kristin Lowman透露，加州弗雷斯諾和坎貝爾的警隊也在使用Draft One。

聖地牙哥市長托德·格洛麗亞認為，這項技術有助於提升破案效率和應對緊急事件的速度。他在本月的Politifest論壇上表示：「我相信科技會繼續扮演關鍵角色，幫助我們在有限警力下達成所需的回應時間目標。」

支持者的聲音

多數警隊支持將AI融入工作流程。丘拉維斯塔警察局長羅克薩娜·肯尼迪指出，警員每班完成報告可能耗時長達三小時，AI工具可以節省時間，讓他們專注於更有意義的任務。肯尼迪透露，部分警員已於今年初開始使用AI工具，整個部門將於今年內全面推行。

批評者的擔憂

民權團體擔心AI生成的報告可能出現「幻覺」——即AI產生的錯誤信息，這些錯誤可能影響個人自由及公正審判。美國公民自由聯盟（ACLU）擔憂ChatGPT會製造不可預測的錯誤，並可能帶有種族和性別偏見。刑事司法支持者亦質疑警方是否有能力核實AI報告的準確性。

Axon的安全措施

Axon網站指出，警員可在轉錄過程中隨時修改草稿，報告必須經過警員審核及批准才能完成。此外，軟件被設計避免推測和誇大，並要求警員補充缺漏資料，確保報告內容準確。

加州推動AI警察報告立法

加州成為首批規管AI生成警察報告的州份之一。州長加文·紐森上周簽署了參議員傑西·阿雷金提出的《參議院法案524》。該法規定，警隊必須披露是否使用AI撰寫報告，保存原始身穿攝像機的影像和錄音以備審查，並禁止科技公司出售或分享所收集的數據。

不過，該法律並未禁止AI使用，也未提供更詳細的操作指引。

部分律師擔憂AI使用透明度不足，呼籲警隊公開相關政策。聖地牙哥縣地區檢察官辦公室發言人表示，目前尚未制定警察使用AI轉錄錄像的政策，強調將繼續以「超越合理懷疑」的標準評估案件，並期望警方提交準確報告。

阿拉米達公共辯護人瑪戈·喬治在今年早些時候的委員會聽證會中指出，隨著多個警隊擴大試用AI，辯護律師無法知悉報告是否由AI生成。

加州警察局長協會最初反對該法案，擔心增加警員文書負擔。後來因法案修訂，將AI定義收窄並僅要求披露最終報告，該協會態度轉為中立。

阿雷金表示：「我們必須在迎接這些快速發展和好處的同時，建立防護措施，確保新科技負責任地運作。」

然而，媒體調查發現部分警隊關閉了AI安全保護功能。印第安納州拉斐特警隊關閉了Draft One要求人工糾錯的功能，也選擇不啟用AI披露功能。

阿拉斯加安克雷奇警隊在三個月試驗期後決定不採用該軟件，因為未見明顯節省時間。南卡羅來納大學和克萊姆森大學2024年的研究亦發現，Axon的轉錄服務未提升警員效率。

猶他州今年早前通過類似加州的法律，並進一步要求警隊制定內部AI使用政策，明確規範技術的使用範圍和時機。

我最近關注的新聞

– KPBS報道，國家城在可負擔房屋目標上持續落後。
– 聖地牙哥聯合論壇關注度假屋稅議題，提議向度假出租或空置第二房屋徵收每房間5000美元稅款。
– 洛杉磯時報報導，一名TikTok用戶因追蹤並發布移民執法局突襲視頻，現被聯邦拘留。

感謝大家閱讀Sacramento Report！如有新聞線索或建議，歡迎聯絡nadia@voiceofsandiego.org。

—

評論與啟示

丘拉維斯塔警隊率先採用AI生成警察報告，代表執法部門正積極探索利用人工智能提升效率的可能性。警察報告是司法程序的重要依據，AI能即時轉錄並撰寫，無疑有助減輕警員的文書負擔，讓他們能專注於更核心的執法工作。

然而，AI系統的「幻覺」問題和潛在偏見風險，提醒我們科技絕非萬能，尤其在司法這類關乎人權和公平的領域，任何技術錯誤都可能造成嚴重後果。現時AI報告仍需人工審核，這是防範錯誤的關鍵，但隨著技術普及，如何確保審核嚴謹、透明，並防止數據被濫用，是立法和監管的挑戰。

加州的新法案雖然開創先河，但仍屬初步規範，缺乏具體操作細節與限制。其他州如猶他州更進一步，強制制定內部AI政策，提供了值得借鏡的範例。未來，警隊和立法機關需平衡技術創新與公民權益保障，建立完善的監管機制。

此外，媒體揭露個別警隊關閉安全功能的行為，暴露出執法機構在科技應用上的不透明和潛在風險。公眾和司法體系應持續監督，確保AI技術不被濫用，且不削弱法律的公正性。

總括而言，AI在警務上的應用正處於關鍵轉折點。香港及其他地區在考慮引入類似技術時，應吸取國外經驗，從立法、技術、倫理和透明度多方面入手，避免重蹈覆轍，確保科技真正助力公共安全，而非成為新的隱患。

以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。