Ben Shneiderman的「人本AI」設計架構與其在醫療器材設計的應用

張昇崑

【背景】

筆者在2024年七月至美國華府(Washington DC)參加人機互動國際研討會(International Conference on Human-Computer Interaction, 通常簡稱HCI International)，事前也報名了會議中Ben Shneiderman所主辦期半天的特邀講座(Distinguished Tutorial)，主題是” Generative AI: With Great Power Comes Great Responsibility”。在這個半天的活動中，他分享了他的「人本AI」(HCAI, Human-Centered Artificial Intelligence)的設計理論和應用，以及他在這個生成式AI (Generative AI)興起的時代的想法，也邀請了在華府地區的數位學者、法學專家，分享他們在AI領域的研究和心得。

這篇文章綜合當天我參加該活動的筆記，和事後閱讀相關文獻，簡述 Ben Shneiderman的「人本AI」(HCAI)，與其在醫材設計的應用。

圖1：Shneiderman教授的Distinguished Tutorial （筆者拍攝）

【關於Ben Shneiderman】

相對其他學科，人機互動這個領域相對是年輕的領域，但這個領域在這約30多年結合設計、工程、心理感知的發明，在很多層面改變了人們工作、生活、學習的方式。Ben Shneiderman絕對是這個領域的先驅與大師之一。

Shneiderman是美國馬里蘭大學電腦科學系的名譽退休教授，研究領域包含了人機互動、設計、資訊視覺化(information visualization)等，他的成就也獲得許多國際榮譽，如ACM SIGCHI 終身貢獻獎、ACM會士、IEEE會士、美國國家工程院院士(NAE Fellow)、美國國家發明家學院院士(NAI Fellow)等。

Shneiderman的很多學術成果，都成為了我們目前在日常生活中已經習以為常、或不可或缺的設計，如網頁超連結(hyperlink)、直接操作(direct manipulation)的介面設計思維、觸控螢幕鍵盤的相關研究、資料視覺化中的樹狀圖(treemap)、電子健康紀錄系統(EHR, Electronic Health Record)中的可用性和資訊視覺化相關研究。

另外，筆者從人機互動學習者，到人機互動教育者、研究者，也常使用了Shneiderman的學術著作成果，如他的書籍[1]，從當初是我的學習教材，現在是我開給學生的參考教科書目之一，而他著名的 “The Eight Golden Rules of Interface Design” [2]，也是學習、研究、設計使用者經驗和人機互動的人都會（也該）去參考的準則。

【Shneiderman的「人本AI」的基本論述】

Shneiderman的「人本AI」理論，總體來講是來自他在2022出版的書” Human-Centered AI”，也是他集結數篇論文和演講的成果。（這些成果，在馬里蘭大學有一個一站式的參考網站[4]。）

Shneiderman雖是電腦科學家，但他提出的HCAI，主要論述都基於以下這個想法：任何自動化(automation)、人工智慧，其主要目的，應該是要為使用者的表現(performance)做到：擴大(amplify)、擴增(augment)、 賦能(empower)、 和提升(enhance)，也就是說，智能科技的設計者，應該想著如何以人為出發點去，構思如何強化人們的表現，而不是只專注於如何實現機器的功能或強化其表現。他在書中也提到許多例子，說明了有用類似思維的智慧產品或服務，在效能、商業、道德的面向，都相對能取得成功。

該書主要有以下四大部份：(1) 理性主義(Rationalism)和經驗主義(Empiricism)這兩種思想對人工智慧設計的影響，(2) 「人本AI」的設計架構(HCAI Framework)，(3) 可以用來實現人本AI的設計隱喻(Design Metaphors)，(4) 治理結構(Governance Structure)，探討團隊、組織、產業、和政府如何建立相關規範和結構，來確保使用AI 的責任和道德。

以下對該書的HCAI 設計架構的部份，做進一步的敘述。

【人本AI設計架構 / HCAI (Design) Framework)】

Shneiderman在這個部份，先提出了他認為一個好的人智系統(Human-AI system)，設計上應該考量能達到可靠(Reliable)、安全(Safe) 、和可信(Trustworthy)。可靠性是指，AI 系統必須可以表現出一致的功能，因此其在預定的操作條件應能下穩定運行，並提供準確結果，這也因此強調了廣泛測試的重要性。安全性是指：AI系統需確保使用者、社區、和社會的安全，這不僅是避免物理性傷害，還包含防止AI系統被誤用、濫用，而造成社會衝擊。因此在醫療領域，AI 系統在作預防、診斷、治療中的安全性，猶為重要。可信性是指，AI 系統須讓人產生信任，以便使人類能更好的使用。而為了建立信任，AI 系統要提供清楚透明的操作，和可解釋的決策，這呼應了「可解釋人工智慧」(XAI, Explainable AI)在近期是國際上重要研究課題之一。然後，在可靠性、安全性、和可信性的大目標下，Shneiderman提出了HCAI Framework。

傳統上，人與機器的互動，可以用「系統自動化/自主化的程度」(Level of Automation/Autonomy)分類[5,6]。譬如早期MIT的Sheridan和Verplank在提出的10個等級[5]：自動化最低等級的1級是完全由人類控制；中間等級是人與機器的協作，如第5級是系統選擇方案，但需要人類的最終批准才執行；而最高的第10級全自動控制，系統完全介入操控並忽視人類。這類的分級在當時的時代背景有其未來性和前瞻性，也啟發了很多領域如醫療、航空、製造、工程的發明，SAE J3016的自駕車的 6個自駕等級[7]也是基於這個概念。

Shneiderman指出，雖然這個觀念被很多領域運用，但這個分類法也一直在學術界經歷批評和重新檢視，主要是因為。這樣的一維的、線性的分類法，等同是說自動化的等級增加，人類控制度也就的降低（反之亦然），這某方面就是一種零和(zero-sum)、是一種思考上的侷限。因此Shneiderman提出一個二維的模式，橫軸是系統的的自動化程度(Computer Automation)，縱軸人類能控制的程度(Human Control)，建構了四個象限。該模式就是他的HCAI (Design) Framework，其中的分類簡述如下：

1. 低自動化 + 低人類控制：這一象限的產品，通常用來執行簡單的、反覆性、例行性的輔助任務。相關產品如音樂盒、時鐘；相關醫療系統如簡易的用藥提醒穿戴式裝置。

2. 低自動化 + 高人類控制：這一象限的產品，著重人類的控制和決策，系統只提供輔助和執行功能。相關產品如鋼琴、腳踏車、沒有Copilot的微軟Word文書編輯軟體；相關醫療系統如傳統的放射科醫療影像分析軟體。Shneiderman簡稱這個象限為”Human Mastery”。

3. 高自動化 + 低人類控制：在這一象限的產品，自動化系統能肩負大部份的控制，人類可以（或必須）介入的程度較低。相關產品如安全氣囊、自駕車的較高等級駕駛輔助系統；相關醫療系統如心律調節器(pacemaker)。Shneiderman簡稱這個象為”Computer Control”。

4. 高自動化 + 高人類控制：在這一象限的產品，人類與高度自動化系統的充分協作，系統並允許人類隨時介入並提供回饋。相關產品如智慧相機、電梯；相關醫療系統如智能手術機器人、病人自控式止痛(Patient-Controlled Analgesia, PCA)的裝置軟硬體及其中控中心。Shneiderman認為這個象限的產品，較能達到前述的可靠性、安全性、和可信性。

Shneiderman也提到，這個二維觀念，還可以標示出兩個設計上的問題區：橫軸太往右，是過度的自動化(Excessive Automation)，如波音737 Max在2018和2019的墜機事件，其中一個主因是該機型的MCAS系統(Maneuvering Characteristics Augmentation System) 對人類機師提供的資訊不足和過度干預飛行操作；縱軸的太往上的部位，是過度的人類控制(Excessive Human Control)，如訓練不足的護理人員調節點滴不當，讓過量止痛藥進入病患體內導致其不適甚至死亡的悲劇。

【設計架構(Design Framework)的運用】

除了上述不同系統的比較，Shneiderman也用HCAI設計架構，分析了解同一種裝置的變化與進化。他在書中以用來止痛的嗎啡分注器(Morphine dispenser)為例，其使用需求來自於劑量的準確（太少不能止痛，太多會導致死亡），其型態包含了二戰時期使用的掛式藥液包（低自動化 + 低人類控制），後來有了可以讓病人或護護理人員手動按壓調節的型態（低自動化 + 高人類控制），和自動化的分注器（高自動化 + 低人類控制），到病人自控式止痛PCA的裝置、軟體、及其在醫院能全面監控的中控中心這樣的完整系統（高自動化 + 高人類控制）。

上述一系列的論述和舉例，也說明了在人機互動領域中，資深學者們為什麼會將自己研究經驗和創新想法，以設計架構(design framework)的形式呈現：設計架構可以用視覺化、簡化的方式，去對同一脈絡中複雜多元的發明或產品做比較、分析，更重要的是，如同Shneiderman的HCAI設計架構，它們可以成為研究者的設計準則，去跳出傳統的思維、發想未來的可能。而Shneiderman在他近期一系列的關於HCAI理論的學術論文、書籍、演講[4]所要傳達的是，好的（可靠、安全、可信的）自動化、智慧化產品的設計，應該把人類的需求和控制程度考慮進去，用以達他所述的擴大、擴增、 賦能、 和提升人類本來就有的能力。這樣的觀念，在醫療器材設計開發這樣充滿多元利害關係人（專家、病患、照護者、法規制訂者）的領域尤為重要。

參考文獻

1. Shneiderman, Ben, et al. Designing the user interface: strategies for effective human-computer interaction. 6th Edition. Pearson, 2016.

2. Shneiderman, Ben. The Eight Golden Rules of Interface Design.

3. Shneiderman, Ben. Human-centered AI. Oxford University Press, 2022.

4. Shneiderman, Ben. Human-Centered Artificial Intelligence

5. Sheridan, Thomas B., William L. Verplank, and T. L. Brooks. "Human/computer control of undersea teleoperators." In NASA. Ames Res. Center The 14th Ann. Conf. on Manual Control. 1978.

6. Parasuraman, Raja, Thomas B. Sheridan, and Christopher D. Wickens. "A model for types and levels of human interaction with automation." IEEE Transactions on systems, man, and cybernetics-Part A: Systems and Humans 30, no. 3 (2000): 286-297.

7. SAE International, Taxonomy and Definitions for Terms Related to Driving Automation Systems for On-Road Motor Vehicles.

作者資訊