MIT研究「謙遜AI」框架 助醫療系統偵測不確定性 (2026-04-01 16:28:35)

麻省理工學院（MIT）研究團隊正積極開發一套名為BODHI（Balanced, Open-minded, Diagnostic, Humble and Inquisitive）的框架，旨在為臨床人工智慧（AI）系統注入「謙遜」特質，使AI能夠坦承自身的不確定性與資訊缺口，進而大幅降低醫療誤診的風險。

醫療錯誤是美國主要的死亡原因之一，每年奪走逾25萬條生命，而AI系統若過於自信，可能加劇這類錯誤。為此，MIT主導的研究團隊開發的BODHI框架，不需對現有AI系統進行大規模修改，即可應用於提示層級（prompting）。

BODHI框架的運作分為兩個階段：首先，AI會分析自身的認知狀態，包括不確定性、資訊缺口及潛在的危險信號；接著，透過「美德啟動矩陣」（Virtue Activation Matrix），根據信心水平與臨床複雜度，決定是「繼續監測」還是「明確轉交人類專家介入」，最終生成提供給臨床醫師的回應。

研究人員在名為HealthBench Hard的200個具挑戰性的臨床情境中，對GPT-4.1-mini和GPT-4o-mini兩款AI模型進行測試。結果顯示，在導入BODHI後，GPT-4.1-mini尋求更多上下文資訊的頻率從7.8%躍升至97.3%，整體臨床品質分數亦從2.5%顯著提升至19.1%。GPT-4o-mini的上下文尋求率從零增至73.5%，整體分數則從0.0%提高至2.2%。儘管兩款模型在導入BODHI後，溝通品質分數均略微下降約12個百分點，但謙遜AI在判斷正確性與風險管理上的潛力仍備受肯定。

此研究是麻省理工學院關鍵數據中心（MIT Critical Data）為解決醫療AI設計中結構性問題所做的廣泛努力之一。資深研究作者、貝斯以色列女執事醫療中心（Beth Israel Deaconess Medical Center）醫師暨哈佛醫學院副教授Leo Anthony Celi指出，AI不應僅是提供答案的「神諭」，更應扮演協助人類決策的「教練」或「副駕駛」角色，提升人類連結資訊的能力。主要作者暨MIT關鍵數據中心研究員塞巴斯蒂安·安德列斯·卡哈斯·奧多涅斯 (Sebastián Andrés Cajas Ordoñez) 也強調，研究目標是促進人類與AI系統的協同合作，激發人類的創造力，而非讓AI單獨包辦所有事務。

MIT團隊的下一步計畫是將BODHI框架應用於MIMIC資料庫訓練的AI系統，並與貝斯以色列拉希醫療系統（Beth Israel Lahey Health system）的臨床醫師合作進行測試。未來，BODHI也計畫推廣至放射學和急診分流等高風險應用領域。