國立臺灣大學公共衛生學院

當醫療AI走向臨床，如何實踐「負責任人工智慧」？

文／國立臺灣大學健康政策與管理研究所吳若薇、楊艾庭、李達宇副教授

　　臺灣於115年公布《人工智慧基本法》，是繼《個人資料保護法》修法後，另一對於醫療照護產業科技使用與資料應用具重大影響的規範，其核心意涵是為了推進「以人為本之人工智慧研發與人工智慧產業發展」，醫療AI不再只是技術創新議題，更牽涉透明、公平、問責與臨床安全的制度設計。

其中，該法第四條具體規範政府推進人工智慧之研發與應用，應遵循「永續發展與福祉、人類自主、隱私保護與資料治理、資安與安全、透明與可解釋、公平與不歧視、問責」七大原則。這些原則為人工智慧治理建立了重要方向，但當AI進一步進入醫療照護場域，如何將抽象的倫理與治理原則轉化為臨床可理解、可執行、可監測的實務框架，便成為健康體系必須面對的課題。

　　在目前的醫療體系中，衛福部負責任AI執行中心、臨床AI取證驗證中心、AI影響性研究中心等單位，正扮演人工智慧從「概念與原型」邁向「臨床應用」過程中的關鍵角色。然而，所謂「負責任人工智慧」究竟包含哪些原則、各原則在不同國家與健康體系中如何被詮釋，以及這些原則如何影響AI的創新與採用，仍有必要進一步釐清。

因此，健康經濟學與人工智慧辦公室的最新研究，共納入24篇來自美國、歐洲、亞洲與跨多地區的研究，探討不同研究中所指「負責任人工智慧」之具體意涵是否有所差異、其核心原則包含哪些項目、各項原則如何被完整詮釋，以及負責任人工智慧原則如何與人工智慧創新、採用共同構築出動態結構。

圖一：本研究之系統思考架構

從文獻回顧看國際上負責任AI的核心治理原則

　　回顧結果顯示，「透明與可解釋」是國際文獻中最一致強調的原則，逾九成文獻均有論及；其次為公平與不歧視、問責、安全與穩健可靠，出現於七至九成文獻。其餘如人類自主與人為監督、隱私與資料治理、公共利益、永續發展等原則雖屢被提及，詮釋方式卻分歧且缺乏概念一致性。

　　法規面的比較分析則發現三種治理路徑：歐盟透過《一般資料保護規則》與《人工智慧法》，採取風險分級與權利保障的整合立法；美國依部門別規範、專業標準與風險管理框架推進；臺灣則結合個人資料保護、醫療器材管理與原則性之《人工智慧基本法》，呈現混合式治理，與本回顧所歸納之核心原則高度呼應。

　　基於上述發現，本研究提出系統思考架構（如圖一）：負責任人工智慧原則位居核心，界定倫理與規範的邊界；「人工智慧創新」與「人工智慧採用」兩個子系統透過雙向回饋持續互動。創新成果形塑臨床採用的可行性，採用經驗則回頭修正模型設計與治理標準。外圍由主管機關、健康科技評估單位、倫理委員會、醫院與資料治理機構等制度層次，將原則轉譯為規則、誘因與問責機制，而整體又鑲嵌於政治、法律、經濟與社會文化脈絡之中。負責任人工智慧因此並非靜態的價值清單，而是健康體系各層次持續共同演化下浮現的系統性特質。

醫療AI落地前，應具備監測、紀錄與問責機制

　　文獻回顧的同時，我們也發現了現在面臨的缺口－－多數文獻仍停留在宣示性原則，鮮少說明各原則在不同健康體系中應如何詮釋、排序與落實，將倫理原則連結至機構與體系脈絡的實證研究更屬少數。同一原則（如公平或透明）在不同司法管轄區可能隱含不同的操作性要求，政策制定者須明確界定其在地意涵，並轉化為可測量的實務規範；上市後的持續監測、效能追蹤與不良事件通報，也應納入治理框架，以偵測模型漂移、確保臨床安全。

　　對臨床端而言，醫師的角色正從單純使用者轉為資料治理與風險的共同承擔者，包括理解訓練資料來源、辨識潛在偏誤，以及在否決人工智慧建議時留下可供問責的決策紀錄。這些知識與紀錄的累積，有賴研究與實務社群共同投入。研究團隊後續將以此系統思考架構為基礎，持續與國內外機構及公衛學院師生合作，推動負責任人工智慧從倫理原則走向可評估、可監測的體系實踐。

　　針對此研究，臺大公共衛生學院鄭守夏院長表示，「人工智慧正快速改變醫療照護的發展，也重新定義公共衛生研究與健康治理的方式。面對醫療AI走向臨床，除了追求技術創新，更需要建立值得信賴、以人為本的治理機制。公共衛生在其中扮演關鍵角色，不僅連結科技、政策與臨床，更肩負培育跨領域人才、促進健康公平的重要使命。」

----------------------------------------------------------------------

公衛四季：臺大公衛電子報第023期【2026秋季號】文章延伸閱讀

分享到: