人工智能或許會破解無法解決的問題——但人類無法理解結果
人工智能（AI）在基礎科學中已經成為焦點。2024年諾貝爾化學獎和物理獎的五位獲獎者都有一個共同點：AI。的確，許多科學家，包括諾貝爾獎委員會，正在慶祝AI作為變革科學的力量。
正如一位獲獎者所言，AI加速科學發現的潛力使其成為「人類歷史上最具變革性的技術之一」。但這種變革對科學真正意味著什麼？
AI承諾幫助科學家更快、更便宜地做更多的事情，但它也帶來了一系列新的擔憂。如果科學家急於推進AI的應用，他們可能會將科學轉變為一種逃避公眾理解和信任的事物，並無法滿足社會的需求。
理解的幻覺
專家們已經確定至少三種可能會使研究人員陷入困境的幻覺。
第一種是「解釋深度的幻覺」。僅僅因為一個AI模型在預測某個現象方面表現出色——例如AlphaFold，它因預測蛋白質結構而獲得諾貝爾化學獎——並不意味著它能準確解釋該現象。神經科學的研究已經顯示，專為最佳預測設計的AI模型可能會導致對潛在神經生物機制的誤導性結論。
第二種是「探索廣度的幻覺」。科學家可能認為他們在探索研究中調查了所有可測試的假設，事實上他們只是在查看一組可以使用AI測試的有限假設。
最後是「客觀性的幻覺」。科學家可能認為AI模型不帶偏見，或能夠考慮所有可能的人類偏見。然而，所有AI模型不可避免地反映了其訓練數據中的偏見以及開發者的意圖。
更便宜、更快的科學
AI在科學中日益受到青睞的主要原因之一是它能夠更快、更便宜地產生更多結果。
一個極端的例子是最近由Sakana AI Labs開發的「AI科學家」機器。該公司的願景是開發一個「完全由AI驅動的自動科學發現系統」，每個想法都可以以僅15美元的價格轉化為完整的研究論文——儘管批評者表示該系統產生了「無盡的科學垃圾」。
我們真的希望未來的研究論文僅需幾次點擊便能生成，僅僅是為了「加速」科學的產出嗎？這有可能淹沒科學生態系統，產生毫無意義和價值的論文，進一步拖累已經超負荷的同行評審系統。
我們可能會發現自己生活在一個科學如同以往所知的樣子被AI生成的內容噪音所掩埋的世界中。
缺乏背景
AI在科學中的崛起恰逢公眾對科學和科學家的信任仍然相當高，但我們不能理所當然地認為這一點會持續。信任是複雜且脆弱的。
正如我們在COVID大流行期間所學到的，呼籲「信任科學」可能會失敗，因為科學證據和計算模型經常受到質疑、不完整，或開放於不同的解釋。
然而，世界面臨著氣候變化、生物多樣性喪失和社會不平等等諸多問題，這些問題需要專家判斷制定的公共政策。這種判斷還必須對特定情況敏感，從各個學科和生活經驗中收集意見，並必須通過當地文化和價值觀的視角進行解釋。
正如去年發表的國際科學理事會報告所指出的，科學必須認識到細微差別和背景，以重建公眾信任。讓AI塑造科學的未來可能會削弱在這方面艱苦獲得的進展。
如果我們允許AI主導科學探索，我們可能會創造出一種優先考慮AI最擅長的問題、方法、觀點和專家的知識單一文化。
這會使我們遠離負責任AI所必需的跨學科方法，以及解決我們社會和環境挑戰所需的細緻公共推理和對話。
科學的新社會契約
進入21世紀時，有人認為科學家擁有了一份新的社會契約，即科學家將其才華集中於當前最迫切的問題，以換取公共資金。其目標是幫助社會朝向一個更可持續的生物圈——一個生態上合理、經濟上可行和社會上公正的生物圈。
AI的崛起為科學家提供了一個機會，不僅能履行責任，還能重振這一契約。然而，科學界首先需要解決一些關於AI使用的重要問題。
例如，在科學中使用AI是否是一種「外包」，可能會損害公共資金工作的完整性？這該如何處理？
那麼，AI日益增長的環境足跡呢？研究人員如何在將AI整合到研究流程中時，保持與社會期望的一致？
在未建立這一社會契約的情況下，僅僅依靠AI改變科學的想法，風險在於本末倒置。
讓AI在沒有來自多元聲音和學科的輸入的情況下塑造我們的研究優先事項，可能會導致與社會實際需求之間的錯位，並導致資源分配不當。
科學應該惠及整個社會。科學家需要與他們的實踐社群和研究利益相關者進行真正的對話，這些討論應該涉及這一新社會契約的各個維度，反映共同的目標和價值觀。
是時候積極探索AI在科學中所能啟發或阻礙的各種未來，並建立必要的標準和指導方針，以負責任地利用其潛力。
—
這篇文章引發了對當前科學界與AI之間關係的深思。AI的迅速發展無疑為科學研究帶來了前所未有的便利，但這也要求科學家們必須更加謹慎，確保不會因為追求速度和效率而忽視科學的核心價值。未來的科學需要的是更全面的視角，能夠融合多元學科的智慧，從而真正解決人類面臨的重大挑戰。這不僅僅是技術的問題，更是倫理和社會責任的問題。如何平衡這些因素，將是科學社群需要面對的重要課題。
以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。
