MIT研究：點樣確保AI唔失控，保障人類價值？

zero comment

調整人工智能與人類價值觀

「我們需要確保人類能夠獲得人工智能的好處，同時不失去對這項技術的控制。」這是麻省理工學院（MIT）資深學生奧德麗·洛沃（Audrey Lorvo）所說的話。洛沃主修計算機科學、經濟學和數據科學，並且是社會與計算倫理責任（SERC）獎學金獲得者。

洛沃正在研究人工智能安全，這個領域旨在確保越來越智能的AI模型是可靠的，並能夠造福人類。這一領域專注於技術挑戰，如穩健性和人工智能與人類價值觀的一致性，還包括社會關注的問題，如透明度和問責制。同時，從業者也擔心隨著人工智能工具變得越來越強大而帶來的潛在生存風險。

「隨著我們接近人工通用智能（AGI），確保人工智能不被濫用或違背我們的意圖變得越來越重要。」洛沃說。AGI是指人工智能能夠匹配或超越人類認知能力的潛力。

作為MIT施瓦茨曼計算學院的一名SERC獎學金獲得者，洛沃仔細研究人工智能如何自動化AI的研究與開發過程。作為大數據研究小組的成員，她正在調查與人工智能自身加速研究的潛力相關的社會和經濟影響，以及如何有效地將這些想法和潛在影響傳達給包括立法者和戰略顧問在內的普通觀眾。

洛沃強調需要批判性地評估人工智能的快速進展及其影響，確保組織擁有適當的框架和策略來應對風險。「我們需要確保人類能夠獲得AI的好處，並且不失去對技術的控制。」她表示，「我們必須竭盡所能安全地發展它。」

她參加的人工智能安全技術獎學金計劃反映了她對理解AI安全技術層面的投入。該獎學金提供了回顧現有研究的機會，旨在將AI發展與潛在的人類影響考量對齊。「這個獎學金幫助我理解AI安全的技術問題和挑戰，讓我能夠提出更好的AI治理策略。」她說。根據洛沃的說法，站在AI前沿的公司不斷突破界限，這意味著我們需要實施有效的政策，優先考慮人類安全，而不妨礙研究。

人類參與的價值

當洛沃來到MIT時，她知道自己想要追求一門能夠讓她在科學和人文交匯處工作的學科。然而，MIT提供的多樣化課程使得她的選擇變得困難。

「有這麼多途徑可以幫助提升個人和社區的生活質量。」她說，「MIT提供了如此多不同的探索路徑。」

洛沃最初選擇了經濟學——這是一門她因其量化影響而喜愛的學科，之後她研究了數學、政治科學和城市規劃，最終選擇了6-14課程。

「喬舒亞·安格里斯教授的計量經濟學課程讓我看到了專注於經濟學的價值，而數據科學和計算機科學的元素則吸引了我，因為人工智能的影響力和潛力日益增長。」她說，「我們可以利用這些工具來解決一些世界上最迫切的問題，並希望克服嚴峻的挑戰。」

洛沃還專注於城市研究與規劃和國際發展等領域。

隨著她逐漸縮小研究重點，洛沃發現自己與MIT社區的其他成員在對人類的看法上有共鳴，例如MIT AI對齊小組，她從中學習到了很多關於AI安全的知識。「學生們關心自己的邊際影響。」她說。

邊際影響是指特定時間、金錢或努力的額外效果，是衡量一項貢獻對已經在做的事情增加了多少，而不是專注於總影響的方式。這可能影響人們選擇將資源投入到何處，這一想法對洛沃來說很有吸引力。

「在資源有限的世界中，基於數據的方法來解決一些我們最大的挑戰，可以從量身定制的方式中受益，這樣能夠引導人們去那些他們最有可能做出貢獻的地方。」她說。「如果你想最大化你的社會影響，反思你的職業選擇的邊際影響會非常有價值。」

洛沃也重視MIT對全面教育的重視，並利用機會通過MIT Concourse探索哲學等學科，該計劃促進科學與人文之間的對話。Concourse期望參與者能夠獲得科學、技術和人類追求的指導、清晰和目的。

學生在MIT的經歷

洛沃在課外投入時間創造難忘的經歷，並與同學建立關係。「我很幸運，能夠在課程、研究和社團活動與其他活動之間取得平衡，比如舉重和校外的倡議。」她說，「MIT總是有如此多的社團和活動可供參加。」

這些擴展她世界觀的機會挑戰了她的信念，並讓她接觸到新的興趣領域，這些都使她的生活和職業選擇得到了改善。洛沃流利地講法語、英語、西班牙語和葡萄牙語，她也讚揚MIT為學生提供的國際經歷。

「我曾在智利聖地亞哥和巴黎實習，並幫助測試我們在2023年秋季的D-Lab課程中與馬達加斯加理工學校和Tatirano非政府組織合作設計的水蒸氣凝結室。」她說，「我也享受通過我的國際發展和D-Lab課程學習如何解決經濟不平等的機會。」

作為MIT本科經濟學會的會長，洛沃與其他對經濟學感興趣的學生建立聯繫，同時繼續擴展自己對該領域的理解。她喜歡她所建立的關係，並參加該協會一整年的活動。「即使作為一名資深學生，我也發現了新的校園社區值得探索和欣賞。」她說。「我鼓勵其他學生在MIT的學習期間繼續探索激發他們興趣的團體和課程。」

畢業後，洛沃希望繼續研究人工智能安全，並探討可以幫助確保人工智能安全有效部署的治理策略。

「良好的治理對於人工智能的成功發展至關重要，並確保人類能夠從其變革潛力中受益。」她說，「隨著技術的持續演變，我們必須不斷監測人工智能的增長和能力。」

理解技術對人類潛在影響、做好事、持續改進，以及創造讓大思想得以發光的空間一直驅動著洛沃。將人文與科學相結合是她所做工作的核心。「我一直希望能夠貢獻於改善人們的生活，而人工智能則代表了人類面臨的最大挑戰和機遇。」她說。「我相信，人工智能安全領域可以從擁有跨學科經驗的人中受益，像我幸運地獲得的那樣，我鼓勵任何熱衷於塑造未來的人去探索這一領域。」

在這篇報道中，我們看到奧德麗·洛沃的故事不僅僅是關於她的學術成就，更是關於她對人類未來的深刻思考和責任感。她的經歷提醒我們，科技的進步必須與人文價值相結合，才能真正造福社會。隨著人工智能技術的快速發展，相關的倫理和治理問題變得尤為重要。未來的科技領袖需要具備跨學科的視野，這不僅能促進技術創新，還能確保這些創新不會偏離人類的根本利益。

以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。