AI/ML醫材在臨床上可能面臨的挑戰-以召回事件作分析

陳維斌、顏煜叡、連健宇、C. Benson Kuo、鄧維光、張又心、陳芃婷*

 

人工智能/機器學習（Artificial Intelligence/Machine Learning, AI/ML）技術對醫療保健產業產生了深遠影響，包括但不限於提高診斷準確性、預測疾病結果、個性化治療計劃、遠程患者監測、加速藥物發現以及改進手術程序等方面。此外，人工智能還有助於優化醫療保健管理流程、加強患者資料保護的網路安全，並支援醫療設備的持續學習和改進。

隨著美國FDA批准越來越多支援AI/ML的醫療器材(AI/ML Enabled Medical Device)，理解其在召回方面所帶來的獨特挑戰變得至關重要。因為召回是製造商和分銷商針對違反FDA法規的醫療器材採取的主動措施，當發現醫療器材有缺陷、對健康構成風險或同時有缺陷和健康風險時，就應該啟動召回。在極少數情況下，如果製造商或進口商疏忽自願召回危害健康的器械，FDA可能會根據21 CFR 810向其發出召回令。

   根據2023年10月15日美國FDA發布的已註冊AI/ML enabled medical device且為Class II的資料，共有688筆記錄¹，其召回數量獲取方式如圖1。以此為基礎自FDA設置的OpenFDA資料庫²自同一日期下載的召回事件共有171筆，每筆召回事件都記錄了相應的資訊，包括召回產品、召回日期、召回原因(Reason for Recall)以及根本原因(Root Cause)等。由於FDA在獲悉可能導致或已導致I類或重大II類召回的潛在違規醫療產品時會進行檢查以確定問題的根本原因，因此以下為根據根本原因來進行的分析結果。

 

圖1. 支援 AI/ML 醫療器材召回數量獲取方式

 

 

        根據根本原因所發生的數量，前五個根本原因包括：軟體設計(Software design) 69/40%、公司內部調查(Under investigation by firm) 33/19%、設備設計(device design) 19/11%、流程設計和流程控制(Process control) 13/8%，共150筆、佔比為88%，如表1。其中，與軟體相關引起的召回總數佔比為44%，其中軟體設計佔40%。若將軟體設計與設備設計相加，其設計相關的召回佔比超過一半，達到51%。就產品類別而言，人工智慧/機器學習啟用的裝置(AI/ML enabled device)與軟體相關的設備(Software-related device)召回主要集中在影像學(Radiology)領域，與產品的註冊數量相呼應，如圖2。

 

表1. 召回根本原因之召回數量及佔比

 

圖2.  召回根本原因與召回產品類別熱點圖

 

    從以上資料中，我們可以清楚地看出軟體相關的根本原因在召回事件中所佔的比例相當高，達到了44%。其中，軟體設計根本原因單獨佔了40%，這意味著軟體相關的召回根本原因中有92%是由軟體設計引起的。可以說，軟體設計是導致召回的主要根本原因。此外，加上設備設計根本原因所引起的召回總量已超過一半，達到了51%；再加上流程設計(Process design)和標籤設計(Labeling design)的召回數量，則達到了61%。這些與設計開發相關的因素很可能是在產品規劃或設計階段就存在的潛在風險。如果在產品設計的早期考慮這些因素，並納入有相關經驗的設計開發工程師和目標使用者的意見，以及在開發過程中實施驗證工作，相信能有效降低召回的機率。

    另一個影響召回的重要根本原因群組與改變相關，包括軟體設計變更(Software design change)、軟體變更控制(Software change control)、流程變更控制(Process change control)以及標籤變更控制(Labeling change control)。雖然這些根本原因引起的召回數量相對較少，但它們的數量卻佔了所有根本原因數量的四分之一以上，達到了28.5%。這些因素導致的召回數量為6%。特別是對於支援AI/ML的醫療器材來說，相應軟體的變動頻率相對較高，製造商如何在每次變動後都有完整的驗證方案非常重要。

        在應對不斷發展的技術格局時，製造商和監管機構必須對人工智慧/機器學習設備帶來的獨特挑戰保持警惕。這次的分析結果提供了加強驗證計劃和最大限度地降低召回機率的方向，希冀能夠有助於醫療保健行業中AI/ML應用的持續進步和可靠性。隨著人工智慧/機器學習不斷重塑醫療實踐，為了確保這些變革性技術的安全性和有效性，必須採取積極主動、知情的監管與設備開發方法。

註1 資料來源：Artificial Intelligence and Machine Learning (AI/ML)-Enabled Medical Devices | FDA

註2 資料來源：https://open.fda.gov/

 

參考文獻

1. FDA Regulatory Procedures Manual. (2021, July). Chapter 7: Recall Procedures.
2. Department of Health and Human Services. (2024, January 9). Corrective and preventive action. 21 CFR 820.100.
3. Pace, T. (2020). Analysis of FDA medical device recalls: Time between recall initiation date and termination date [Master's thesis, California State University].
4. Fu, Z., et al. (2017). Study of software-related causes in the FDA medical device recalls. In Proceedings of the International Conference on Engineering of Complex Computer Systems.
5. Thompson, B. M. (2022, July 5). Unpacking averages: Common root causes driving medical device recalls. Health Law Advisor. Retrieved from https://www.healthlawadvisor.com/unpacking-averages-common-root-causes-driving-medical-device-recalls.

作者資訊

陳維斌    國立成功大學/生物醫學工程學系 博士生  rogerchen.biome@bme.ncku.edu.tw

顏煜叡    國立成功大學/工程科學系 碩士生   N96111493@gs.ncku.edu.tw

連健宇    國立成功大學/生物醫學工程學系  碩士生    freddylian.biome@bme.ncku.edu.tw

C. Benson Kuo University of Southern California/Regulatory and Quality Sciences      Faculty Member     chiaoyuk@usc.edu

鄧維光    國立成功大學/工程科學系  副教授    wgteng@mail.ncku.edu.tw

張又心    國立臺中科技大學/企業管理系  助理教授        through.mt93g@gmail.com

陳芃婷*通訊作者     國立成功大學/生物醫學工程學系&醫療器材國際創新碩士班   教授    chen@ncku.edu.tw