隨著各類新興醫療器材蓬勃發展，這些創新產品有望顯著提升診斷準確性與照護品質。然而，在這些醫材投入臨床使用前，必須具備充分的實證資料，證明其在實際應用情境中同樣具備有效性與安全性，以保障病人權益。然而，搭載人工智慧技術的醫療器材因具備持續學習與調整能力，其性能可能隨時間而變化，這也使得監管機關在監督此類產品及評估其所產出證據的過程中，面臨日益嚴峻的挑戰。
因應上述困難，英國藥品和醫療產品監管局（Medicines and Healthcare products Regulatory Agency, MHRA）於2024年9月23日公告「人工智慧醫療器材法規沙盒」（The regulatory sandbox for AIaMD，也稱人工智慧密封艙計畫(AI airlock programme)，以下簡稱AI airlock）的試辦計畫招募資訊[1] ，稱於10月7日前將招收4-6組對病人健康存在益處的創新AI醫材，並提供其來自MHRA、衛生及社會關懷部（DHSC）、英國國家醫療服務系統人工智慧實驗室（NHS AI Lab）及英國醫療器材認證機構（The Association of Approved Bodies for Medical Devices in the UK, Team AB）的聯合建議。
該試辦計畫所稱之「沙盒」（sandbox）機制，指入選的健康科技產品在衛生監管機關的指導與監督下，於虛擬或封閉的環境中進行測試。此舉有助於降低驗證過程潛在的生成風險，也能協助製造商在相對安全的條件下，蒐集未來可用於醫療器材上市申請之佐證資料。對監管機關而言，同時也透過沙盒機制近距離觀察測試產品，藉此了解人工智慧醫材面臨的監管限制與差距，以利機關進一步採取後續的法制革新。
MHRA表示，AI airlock計畫區分為三個階段實施，第一階段為「模擬氣密艙」，主要聚焦於召集相關領域專家與利害關係人，針對產品與應用場景進行觀點交流與策略性討論；第二階段為「虛擬氣密艙」，則將技術模型置入模擬環境中，並運用真實結構的合成資料進行操作測試，藉以探索特定使用情境下的表現與風險；第三階段為「現實世界氣密艙」，此階段會將產品實際部署於現實臨床場域，如醫院或英國國民保健署（NHS）旗下的信賴機構中，藉由真實世界資料的收集與分析，評估其實際運作效能與安全性。
透過AI airlock計畫，將有助於製造商和MHRA更清楚地瞭解使用AI醫療器材將會帶來何種具體的應用挑戰，從而形成更有利的監管框架，為行業提供更清晰的市場途徑，最終促使這些類型的產品能夠儘快安全地送到需要它們的病人手中。
資料來源：本文作者蒐集
圖 MHRA人工智慧醫療器材法規沙盒的計畫經理Hannah Bowden與技術主管Natasha Motsi（左3、4）與計畫入選廠商–飛利浦醫療系統的監管事務主管Liron Bar Yaakov（右2）於2025年5月RAPS Euro Convergence 2025研討會上分享該計畫的推動與參與經驗
AI airlock的申請對象，必須符合英國醫療器材法規中定義「使用AI的醫療器材」，且商品製造商必須是法人實體，並有權在英國販售商品。除此之外，申請產品也應符合下列其中一項(或以上)的標準，包括：
MHRA總共收到約40份的申請書，經過兩輪的專家討論和面試後，已於2024年12月4日公告最終入選的5項創新技術[2] 。這5項入選技術皆是經評估具開發成熟度，有望加速導入NHS體系實現臨床應用，且每一項入選產品所搭載的技術皆對現行監管制度及監管議題，提出具體挑戰。以下為該5項技術及對應之監管主題：
慢性阻塞性肺病（Chronic Obstructive Pulmonary Disease, COPD）是一種影響英國數百萬人的肺部疾病，其因為呼吸道變窄及受損，進而導致呼吸困難。且病情往往隨著時間的推移而惡化，導致大量的住院人口產生。Lenus Health Ltd 開發的Lenus Stratify®是一款醫療軟體工具，其使用AI來分析健康資料並預測COPD的不良後果，例如住院風險。這些預測可望讓多學科的護理團隊盡早進行介入及調整治療計畫，並顯著減少住院的病人。
人工智慧驅動之醫療器材的監管可能具有挑戰性，特別是當它們的演算法不斷變化時，必須要確保這些演算法的更新不會危及病人安全。有效的「預定變更控制計畫」（Predetermined Change Control Plans, PCCPs）[4] 可有助於管理這些變更，確保它們在實施之前得到適當的記錄、審核和核准，以降低風險發生的可能性。Lenus Health也已為Lenus Stratify制定了變更控制計畫，Airlock希望藉此產品探索出如何將預定變更控制計畫納入監管流程，以確保病人安全。
為了驗證健康照護產品，須使用廣泛的病例和臨床資料進行分析，但實務上要取得充分且多樣化的健康資料卻十分困難，故使用「合成資料」進行推論可能有助於解決這個問題。本計畫即是希望進一步了解，如何透過合成資料來模仿更複雜的病例，並藉此訓練AI模型處理更廣泛的臨床情況。
過去，放射科醫生審查病人的結果後會寫一份摘要報告，也稱為「病人初步診斷」（原文為impression），其內容為放射科醫生認為對後續轉診之醫生而言最重要的資訊。Philips此次將生成式AI功能新增到現有的Philips放射學影像歸檔和傳輸系統中，旨在將放射科醫生在影像檢查期間的主要發現自動生成出一份初步診斷的摘要報告，不僅使報告產出過程更加高效和準確，也能減少管理負擔、錯誤、遺漏和溝通不流暢的問題。
大型語言模型（Large Language Models, LLM）於健康照護領域的應用，正面臨多項與安全性、倫理性與有效性的監管挑戰。由於LLM通常以來自網路的龐大資訊為訓練來源，因此容易受到偏見、不實或未經驗證之內容的影響，進而導致產出不準確的結果。此外，LLM所生成的內容往往表達流暢、具說服力，即使資訊本身有誤亦難以被識別；同時，即使輸入相同內容，模型仍可能生成彼此不一致的回應，進一步增加其臨床應用上的不確定性與風險。
為降低上述問題，近年興起一項名為「檢索增強生成」（Retrieval-Augmented Generation, RAG）的人工智慧技術。RAG可使LLM在生成內容前，先檢索並分析經過驗證的知識庫資料，進而引導其生成更準確、可追溯且符合現行醫療標準的資訊。此技術有望成為提升LLM在健康照護領域應用可靠性的重要工具。
臨床指引蘊含大量關於妥善治療的重要資訊，但瀏覽所有相關網站和文件往往耗時費力。Smart Guideline 是一款AI代理工具，它使用RAG策劃的知識圖譜，並參考英國國家健康暨照護卓越研究院（National Institute of Health and Care Excellence, NICE）的資料庫，包括臨床指引、知識摘要、病人使用資訊和英國國家處方集等內容。臨床醫生可透過此工具提出關於病人管理的問題，系統將以自然語言的形式答覆，例如建議的最佳治療方案、危險警示、轉診標準與藥物交互作用提示，並可顯示參考來源以利查核。如果系統判定沒有足夠的資訊，即不會產出回應，以降低誤導風險。AI Airlock希望藉由此案研究RAG技術之應用， 進一步釐清結合驗證知識庫與LLM所帶來的監管優勢。
AI的「透明度」和「可解釋性」，是確保AI醫材之安全與效能的重要考量因素，而監管機構也越來越重視業者是否能開發出讓臨床醫生也能夠理解和解釋的人工智慧系統。然而，目前尚無明確的評估標準，以確認人工智慧系統是否能在臨床環境中持續保持實用性和高效能，並且理論與實際的可行性之間也仍存在差距。
由於乳癌病患人數眾多，且看診與治療流程中往往需面對較長的預約等待時間，OncoFlow 平台運用人工智慧技術，協助醫療專業人員為乳癌患者 進一步提升病人的存活機會。目前該系統專注於乳癌領域的應用，但未來亦具備延伸至其他癌症類型之潛力。本計畫將進一步探討OncoFlow在資料處理上的可解釋性與決策透明度，以確保臨床應用上的信任性。
AI需要藉由分析大量資料進行學習，但AI的效能可能會隨著現實生活的變化而下降，下降的可能原因有：出現了原先沒有收納的新類型病人、改用新的掃描儀器、或環境中的其他因素產生了變化。以上這種效能下降的現象也被稱為飄移（Drift），而資料飄移可能對人工智慧的安全性造成重大衝擊。為了解決此問題，需要對AI的效能進行持續監控。此計畫即是希望研究如何透過即時監控系統來進行效能和安全問題的識別，以妥善執行上市後監督及產品風險管理。
該項開發的產品FAMOS可以監測資料的變化、人員如何使用AI以及AI所給出的結果，且其將部署於機構內部屬的硬體平台內，並非將敏感的醫療資料發送到中央伺服器，以降低資安與隱私風險。
（因篇幅有限，AI Ａirlock計畫辦理成果請見下篇）
參考文獻
[1] MEDICINES AND HEALTHCARE PRODUCTS REGULATORY AGENCY[MHRA], AI Airlock: the regulatory sandbox for AIaMD (2025), https://www.gov.uk/government/collections/ai-airlock-the-regulatory-sandbox-for-aiamd (last visited Jun. 11, 2025).
[2] MHRA, Guidance: AI Airlock pilot cohort (2025), https://www.gov.uk/government/publications/ai-airlock-pilot-cohort/ai-airlock-pilot-cohort (last visited Jun. 11, 2025).
[3] 根據2025年3月16號AI airlock支援辦公室所發布的消息，Lenus Stratify選擇退出本計畫，但退出理由並未公布。
[4] 有關英國的預定變更控制計畫制定政策，可參考其於2023年發布的指引。MHRA, Guidance: Software and AI as a Medical Device Change Programme roadmap (2023), https://www.gov.uk/government/publications/software-and-ai-as-a-medical-device-change-programme/software-and-ai-as-a-medical-device-change-programme-roadmap (last visited Jun. 11, 2025).
作者資訊
| 姓名 | 單位 | 職稱 | 電子信箱 | 聯絡電話 |
| 劉怡 | 資策會 科技法律研究所 | 副法律研究員 | yiliu@iii.org.tw | (02)6631-1007 |