改善健康，通過一個個機器學習系統
馬茲耶赫·加哈米（Marzyeh Ghassemi）致力於確保醫療模型的訓練既穩健又公平。
馬茲耶赫·加哈米從小就對視頻遊戲和謎題感到著迷，對健康問題也有濃厚的興趣。幸運的是，她找到了將這兩個興趣結合起來的道路。
“雖然我曾考慮過從事醫療保健行業，但計算機科學和工程的吸引力更強，”加哈米說，她是麻省理工學院電機工程與計算機科學系及醫療工程與科學研究所（IMES）的副教授，也是信息與決策系統實驗室（LIDS）的主要研究員。“當我發現計算機科學，特別是人工智能和機器學習，可以應用於醫療保健時，這讓我的興趣得到了交匯。”
如今，加哈米和她的健康機器學習研究小組正在深入研究如何使機器學習（ML）更加穩健，並隨後應用於改善健康的安全性和公平性。
加哈米在德克薩斯州和新墨西哥州的伊朗裔美國工程師家庭中長大，身邊有許多榜樣可以追隨進入STEM（科學、技術、工程和數學）領域。她熱愛基於謎題的視頻遊戲——“解謎以解鎖其他關卡或進一步推進是一個非常有吸引力的挑戰”——她的母親還在早期就讓她接觸更高級的數學，讓她開始將數學視為不僅僅是算術。
“加法或乘法是基本技能，強調它們是有充分理由的，但這種焦點可能會模糊高級數學和科學更多是關於邏輯和謎題的觀念，”加哈米說。“多虧了我母親的鼓勵，我知道未來會有有趣的挑戰等著我。”
加哈米表示，除了母親外，還有許多人支持她的智力發展。在新墨西哥州立大學獲得學士學位時，榮譽學院的主任和前馬歇爾獎學金獲得者——傑森·阿克爾森（Jason Ackelson），現在是美國國土安全部的高級顧問——幫助她申請馬歇爾獎學金，使她得以前往牛津大學，在2011年獲得碩士學位，並首次對快速發展的機器學習領域產生興趣。在麻省理工學院進行博士研究時，加哈米說，她得到了“教授和同儕的支持”，並補充道：“那種開放和接納的環境是我努力為我的學生複製的。”
在攻讀博士學位的過程中，加哈米也首次發現健康數據中的偏見可能隱藏在機器學習模型中。
她曾訓練模型使用健康數據來預測結果，“當時的思維方式是使用所有可用數據。在圖像的神經網絡中，我們發現正確的特徵會被學習到，以獲得良好的性能，消除了手工設計特定特徵的必要。”
在與麻省理工學院計算生理學實驗室的首席研究科學家和IMES成員萊奧·塞利（Leo Celi）會議上，塞利問加哈米是否檢查過模型在不同性別、保險類型和自我報告的種族患者中的表現。
加哈米檢查了，結果發現存在差距。“我們現在有近十年的工作證明這些模型差距難以解決——它們源於健康數據中的現有偏見和默認技術實踐。除非你仔細考慮，否則模型會天真地複製和擴展偏見，”她說。
自那時以來，加哈米一直在探索這些問題。
她在工作中的一次重大突破是幾個部分的結合。首先，她和她的研究小組展示了，學習模型可以從胸部X光等醫療圖像中識別患者的種族，而這是放射科醫生無法做到的。然後，研究小組發現，對“平均”表現進行優化的模型在女性和少數群體中的表現不如預期。去年夏天，她的小組將這些發現結合起來，顯示出模型越是學會從醫療圖像中預測患者的種族或性別，其在這些人口統計子組中的性能差距就越大。加哈米和她的團隊發現，如果模型被訓練以考慮人口統計差異，而不是專注於整體平均性能，這個問題可以減輕——但這一過程必須在每個部署模型的地點進行。
“我們強調，在一個醫院環境中訓練以優化性能（平衡整體性能和最低公平差距）的模型在其他環境中並不最佳。這對模型的開發有重要影響，”加哈米說。“一個醫院可能有資源來訓練模型，並能證明它表現良好，甚至可能有特定的公平約束。然而，我們的研究顯示，這些性能保證在新的環境中並不成立。一個在一個地點平衡良好的模型在不同環境中可能無法有效運行。這影響了模型在實際中的效用，必須努力解決這一問題，對於那些開發和部署模型的人來說尤其如此。”
加哈米的工作受到她自身身份的啟發。
“我是一位明顯的穆斯林女性和母親——這兩者都幫助塑造了我看待世界的方式，這影響了我的研究興趣，”她說。“我研究機器學習模型的穩健性，以及缺乏穩健性如何與現有偏見結合。這種興趣並非偶然。”
談到她的思考過程，加哈米表示，靈感經常在她戶外活動時湧現——在新墨西哥州的自行車騎行、在牛津的划船、在麻省理工學院的跑步以及如今的劍橋海濱散步。她還表示，在處理複雜問題時，思考大問題的各個部分並試圖理解她對每個部分的假設可能不正確是非常有幫助的。
“根據我的經驗，新解決方案的最限制因素是你認為你知道的東西，”她說。“有時候，直到你深入挖掘模型、系統等，意識到你對某個子部分的理解不正確或不全面，才難以超越自己（部分）的知識。”
儘管加哈米對她的工作充滿熱情，但她有意識地保持對生活更大畫面的追蹤。
“當你熱愛你的研究時，可能很難不讓這成為你的身份——我認為這是許多學者需要意識到的事情，”她說。“我努力確保自己擁有超越自己技術專長的興趣（和知識）。
“幫助優先考慮平衡的最佳方式之一是與好人相處。如果你有家庭、朋友或同事鼓勵你做一個完整的人，請珍惜他們！”
加哈米因涵蓋計算機科學和健康兩個早期熱情的工作而贏得了許多獎項和認可，她對生活的看法充滿信心。
“波斯詩人魯米（Rumi）有一句話翻譯為‘你就是你所尋找的’，”她說。“在生命的每一個階段，你都必須重新投資於找到自己，並朝著你想成為的方向推進。”
這篇報導不僅展示了加哈米在機器學習領域的貢獻，還反映了她作為一位女性科學家在追求平等和公平方面的努力。她的研究強調了在技術發展與社會正義之間的平衡，這不僅是科學問題，也是道德問題。未來，科學界應更多關注如何在技術創新中融入社會責任，從而確保科技的進步能夠惠及所有人。
以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。
