MIT新課程：哲學 x AI 探索電腦倫理，拆解數碼時代道德兩難

將哲學與人工智能結合 探討計算倫理

在麻省理工學院（MIT）的一門新課程中，由電機工程及計算機科學（EECS）和哲學教授共同授課，學生們面對數字時代的道德困境。

在這門名為6.C40/24.C40（計算倫理）的課程中，教授阿曼多·索拉爾-萊薇馬（Armando Solar-Lezama）向學生提出一個他經常在麻省理工學院計算機輔助編程小組的研究中思考的問題：

「我們如何確保機器只做我們想讓它做的事情？」

在當前被視為生成式人工智能的黃金時代，這似乎是一個緊迫的新問題。然而，索拉爾-萊薇馬這位麻省理工學院的傑出計算教授迅速指出，這一掙扎與人類歷史一樣悠久。

他開始重述希臘神話中的米達斯王故事，這位君主獲得了將任何他觸碰的東西變成黃金的神力。可預測的是，當米達斯不小心將他所愛的人變成了金色石像時，這個願望反而適得其反。

「小心你所要求的，因為它可能以你意想不到的方式實現。」他告誡學生們，許多學生都是渴望成為數學家和程序員。

索拉爾-萊薇馬翻閱麻省理工學院的檔案，分享一些模糊的黑白照片，講述編程的歷史。我們了解到1970年代的皮格馬利翁機器需要極其詳細的提示，直到90年代末的計算機軟件，工程師團隊需要數年時間和800頁的文檔來編程。

儘管這些過程在當時令人驚訝，但它們花費的時間過長，無法及時到達用戶，並且不留給自發發現、遊玩和創新的空間。

索拉爾-萊薇馬談到現代機器的風險，這些機器不一定會遵循程序員的提示或紅線，並且同樣能夠造成傷害或拯救生命。

電氣工程專業的高年級學生泰圖斯·羅斯勒（Titus Roesler）點頭表示認同。他正在撰寫關於自動駕駛汽車倫理的最終論文，考慮當一輛假設的車輛撞死行人時，誰應該承擔道德責任。他的論點質疑技術進步背後的基本假設，並考慮多種有效觀點，依賴於功利主義的哲學理論。羅斯勒解釋道：「粗略來說，根據功利主義，最道德的行為是能為最多人帶來最大利益的行為。」

與索拉爾-萊薇馬共同開發並共同授課的麻省理工學院哲學教授布拉德·斯科（Brad Skow）向前傾身並作筆記。

一門需要技術與哲學專業知識的課程

計算倫理這門課程於2024年秋季首次開設，通過麻省理工學院施瓦茨曼計算學院的「計算教育共同基礎」計劃創建，該計劃旨在將多個學科結合起來，開發和授課新課程，並啟動將計算與其他學科融合的新項目。

教授們交替授課。斯科作為勞倫斯·S·洛克菲勒哲學教授，從哲學的角度探討當前倫理問題的更廣泛影響，而索拉爾-萊薇馬則通過他的視角提供觀點。

斯科和索拉爾-萊薇馬互相參加彼此的講座，並根據反饋調整隨後的課程。實時學習彼此的元素使課堂對話更加生動和響應。課程內容結合了與哲學或計算機科學研究生一起深入探討本週主題的討論。

「外人可能會認為這是一門確保麻省理工學院新計算機程序員在進入世界時總是做出正確決定的課程，」斯科說。然而，這門課故意設計成教授學生一種不同的技能。

哲學教授卡斯帕·海爾（Caspar Hare）作為計算社會與倫理責任的副院長，構思出這門計算倫理課程，決心創造一個有影響力的學期長課程，超越單純的對錯講授。他招募了斯科和索拉爾-萊薇馬作為主講教授，因為他知道他們可以做出更深刻的貢獻。

「深入思考課堂上出現的問題需要技術和哲學的專業知識。麻省理工學院沒有其他課程能將這兩者並排放置。」斯科表示。

這正是高年級學生阿萊克·韋斯特沃（Alek Westover）選擇報名的原因。這位數學與計算機科學的雙學位學生解釋說：「很多人都在討論未來五年人工智能的發展。我認為參加一門幫助我深入思考這個問題的課程是很重要的。」

韋斯特沃表示，他對哲學的興趣源於對倫理的關注和區分對錯的渴望。在數學課程中，他學會了寫下問題陳述並即時確認是否成功解決。然而，在計算倫理課程中，他學會了如何為「棘手的哲學問題」撰寫論點，這些問題可能沒有單一的正確答案。

例如，「我們可能關心的一個問題是，如果我們建立了能夠做任何人類能做到工作的強大人工智能，會發生什麼？」韋斯特沃問。「如果我們與這些人工智能互動到這種程度，我們應該給它們薪水嗎？我們應該多麼關心它們的需求？」

這沒有簡單的答案，而韋斯特沃假設未來在工作場所他會遇到許多其他困境。

「那麼，互聯網是否正在摧毀世界？」

學期開始時，學生們深入探討人工智能風險，即「人工智能是否對人類構成生存風險」，解構自由意志、我們的大腦如何在不確定性下做決策的科學，以及有關人工智能長期責任和監管的辯論。第二個更長的單元則專注於「互聯網、萬維網及技術決策的社會影響」。學期末則專注於隱私、偏見和言論自由。

其中一堂課的主題直截了當地問道：「那麼，互聯網是否正在摧毀世界？」

高年級學生凱特琳·奧戈（Caitlin Ogoe）主修計算與認知（Course 6-9）。她之所以選擇這門課程，正是因為她可以在這樣的環境中探討這類問題，這是她自我描述為「技術懷疑者」的原因。

奧戈在一個聽力受損的母親和一個有發展性障礙的妹妹的家庭中長大，成為了負責撥打技術支持電話或設置iPhone的家人。她利用這些技能兼職修理手機，這使她對計算產生了深刻的興趣，並為她進入麻省理工學院鋪平了道路。然而，第一年的一個著名暑期獎學金讓她質疑消費者如何受到她幫助編程的技術影響的倫理。

「我所做的所有技術工作都是從人、教育和個人聯繫的角度出發的。」奧戈說。「這是我熱愛的領域。參加有關公共政策、技術和文化的人文課程是我最大的熱情之一，但這是我第一次參加包括哲學教授的課程。」

接下來一週，斯科講授人工智能中的偏見角色，而奧戈計劃明年進入職場，但最終計劃上法學院專注於相關問題的監管，她舉手提出問題或分享反駁意見四次。

斯科深入探討了COMPAS這一有爭議的人工智能軟件，該軟件使用算法預測被指控犯罪的人再次犯罪的可能性。根據2018年ProPublica的一篇文章，COMPAS可能會將黑人被告標記為未來罪犯，並且對黑人被告的錯誤陽性率是白人被告的兩倍。

這堂課專門用於確定該文章是否值得得出COMPAS系統存在偏見並應該停止使用的結論。為此，斯科介紹了公平的兩種不同理論：

「實質公平是指特定結果可能是公平或不公平的想法。」他解釋說。「程序公平則是關於產生結果的程序是否公平。」然後介紹了多種相互衝突的公平標準，並討論哪些是合理的，以及它們對COMPAS系統得出的結論。

隨後，兩位教授上樓到索拉爾-萊薇馬的辦公室，對當天的課堂進行回顧。

「誰知道呢？」索拉爾-萊薇馬說。「也許五年後，大家會笑著說人們曾經擔心人工智能的生存風險。但是，我看到這堂課中有一個主題是學會如何超越媒體話語，深入思考這些問題。」

這門課程不僅僅是為了讓學生了解計算機倫理，更是引導他們在技術與人文之間找到平衡，這對於當前和未來的科技發展至關重要。這樣的課程設計不僅有助於學生在專業上取得成功，更能培養他們對社會影響的敏感性和批判性思維，這對於推動科技的負責任發展尤為重要。

以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。