一套醫療人工智能系統，答對了九成問題，算不算安全？如果剩下的一成恰好落在一種急症分診、藥物禁忌或高風險人群身上，漂亮的平均分反而可能掩蓋真正的危險。11月4日，Google公佈一套面向健康場景的端到端評估框架，把準確性、安全性和有用性分開衡量，並把封閉題基準、自動評分器與專家人工複核放進同一條評估鏈。這件事的意義，在於它把醫療AI從「會不會回答」推向「在具體情境下能不能被信任」。

三個分數不能互相替代

通用模型評測常將正確答案視為核心目標，但健康問題並非只有「對」與「錯」這兩種答案。一句在醫學知識上正確的話，如果沒有提醒就醫時機，可能就缺乏實用性；一段建議如果忽略年齡、妊娠、慢性病或正在服用的藥物，即使表述流暢，也可能不安全；而一味給出保守的警告，雖然降低了風險，卻可能讓用戶得不到可執行的信息。Google 將準確性、安全性和實用性並列，實際上承認了三者之間存在張力，任何單一的評價標準都會遺失一部分臨床意義。

該框架同時涵蓋常見問題與高風險情境。常見問題可用以檢驗模型是否穩定，而高風險情境則決定系統是否有資格進入真正的工作流程。這兩者不能使用相同的權重來處理：無論對於感冒護理的回答有多好，也不能抵消一次胸痛分診的失誤。對於產品團隊而言，這意味著測試集不能只追求數量，還需要根據危害程度進行分層，並為少數但後果嚴重的失敗保留單獨的阻斷規則。

為何自動評分還需要專家？

自動評分器適用於快速掃描大量回答，發現明顯的事實錯誤、遺漏或不一致之處；封閉式問題的基準適用於版本間的比對，判斷模型升級後是否發生能力回退。但醫療建議往往依賴於上下文，許多回答不是一句話就能判定的。例如，“可以先觀察”是否合理，取決於症狀持續時間、嚴重程度和伴隨的徵兆；“諮詢醫生”也可能只是套話，無法證明系統真的理解風險。

專家的人工複核並非只是裝飾，而是將臨床判斷重新帶回評估過程中。專家能檢查模型是否追問了關鍵條件、是否清楚地說明了不確定性、是否在需要時進行了升級處理。更重要的是，專家可以解釋為何一個答案不合格，並幫助團隊將失敗轉變為可重現的測試案例。只有形成「自動掃描發現問題—專家界定風險—新版本回歸驗證」的循環，評估才能真正影響產品，而不只是停留在發布會資料中。

評估架構改變的是上線方式

如果一套健康的 AI 只在上线前做一次测试，它很快就会被新的模型版本、提示词、知识库和用户行为拖离原来的安全边界。端到端框架更适合被做成持续门禁：每次模型或系统改动，都重新跑常见场景与高风险场景；一旦关键风险项退步，就暂停发布。线上还要保存去标识化的失败类型和人工升级记录，观察实验室里没有覆盖的真实问题。

這種方法也會改變採購和監管之間的溝通。醫院或健康平台不應該只問「模型分數有多少」，而應該要求查看場景覆蓋範圍、失敗分佈、人工複核方法以及版本變更等情況。開發者需要說明哪些問題可以處理、哪些問題必須轉交給專業人員，以及系統在遇到資訊不足時會如何行動。可信度來自於邊界的透明度，而非來自於一個看起來很高的百分比。

對行業更現實的啟示

醫療領域的競爭，很可能不會只由最大的模型贏得。能否建立穩定的評估流程、能否在產品上線之前避免高風險的失敗、能否持續吸收臨床反饋，都將成為產品的差異化因素。如果小型模型在特定的應用場景中有明確的邊界，它可能比一個什麼都能回答的大型模型更有價值。

Google 公開這套方法，也提醒市場不要將「模型能力」與「產品安全」混為一談。前者描述模型可能做到什麼，後者則取決於數據、交互、監控、人工介入和責任設計。真正成熟的醫療 AI，不是永遠給出答案，而是在該回答時給出可靠的答案，在信息不足時承認不確定，在風險升高時把決定交還給專業人員。那才是從演示走向真正醫療的門檻。