Yuan-Chi Tseng 曾元琦 - AIMS Fellows, NTHU
Yuan-Chi Tseng (曾元琦)
Professor of Human-Centered AI, AIMS Fellows Program, National Tsing Hua University
Convernor, Innovative Design Program
Admissions Convernor, Innovative Design Group of Tsing Hua Interdisciplinary Program

Senior Editor, IJHCS
Advisor, Taiwan Artificial Intelligence Association (TAIA)

曾元琦現任國立清華大學智慧製造跨院高階主管學位學程 AIMS Fellows 人本人工智慧教授,並擔任創新設計學分學程召集人及清華學院學士班創新設計組召集人。在學術與專業服務方面,現任國際人機互動領域重要期刊 International Journal of Human-Computer Studies (IJHCS) 資深編輯(Senior Editor),並擔任 台灣人工智慧協會(TAIA) 顧問。

他的研究奠基於人本人工智慧(Human-Centered Artificial Intelligence, HCAI),整合設計、資訊科學、心理學與人工智慧等領域觀點,探討人與人工智慧如何在真實世界中形成有效且負責任的協作關係。研究場域涵蓋醫療照護、教育、團隊與組織協作,以及智慧製造與高責任專業工作,特別關注人工智慧如何支持人的理解、專業判斷、協調、能動性與責任,並形塑可持續的人機合作關係。

其研究所關注的核心問題,是當人工智慧從資訊工具與助手,逐漸發展為能夠推理、規劃、協調與採取行動的人工智慧代理(AI agents)時,人與人工智慧之間的角色、權限與責任應如何重新配置與協商。他將人與人工智慧的協作理解為一種混合智慧(hybrid intelligence)系統:人、人工智慧代理、資料與技術基礎設施、組織流程及社會情境共同形塑判斷、行動與責任。

因此,他的研究不只探討「人工智慧能做什麼」,而更進一步關注:什麼工作適合交由人工智慧執行?什麼判斷應保留在人身上?人應如何理解、質疑與修正人工智慧的推理?何時應增加或收回人工智慧的自主權?以及人與人工智慧如何在長期協作中維持適當的依賴、專業能力、決策主導權與責任。

研究興趣

曾元琦創立 inclusive inter-intelligence Design Lab(iiiD-Lab),採取設計導向、實證研究與跨領域方法,研究如何設計能夠支持人類判斷、協作與責任的人工智慧系統。近年的研究主要形成以下三個相互關聯的方向。

人本代理式人工智慧與人機協作(Human-Centered Agentic AI and Human–AI Collaboration)

此研究方向探討當人工智慧從被動回應使用者指令的「助手」,逐漸發展為可以主動推理、規劃、協調與採取行動的「代理」時,人與人工智慧之間的互動與協作應如何重新設計。

研究特別關注人與 AI 之間的角色分工、任務委派(delegation)、決策權限(authority)、責任分配(responsibility allocation)、人類能動性(human agency)、決策主導權(decision ownership),以及人與 AI 如何對彼此的理由與判斷進行質疑、補充與修正。

其中一項重要研究議題是適當依賴(appropriate reliance)。相較於單純追求使用者「信任 AI」,此研究探討人如何根據任務風險、自身專業知識、人工智慧的不確定性與推理品質,適當調整對人工智慧建議的依賴程度,避免過度依賴(over-reliance)與不足依賴(under-reliance)。相關議題亦涵蓋認知性信任(epistemic trust)、信任校準(trust calibration)、人工智慧不確定性的溝通,以及人工智慧在專業判斷中的知識權威(epistemic authority)。

近期研究進一步發展「可協商的人機協作(Negotiable Human–AI Collaboration)」觀點,探討人與人工智慧如何針對理由、任務、權限與責任進行動態協商,使 AI 的自主程度並非固定不變,而能隨著情境、風險、人類專業能力與工作進程進行調整。

另一項近期研究則關注人工智慧如何支持人的認知工作,而非直接取代人的認知活動。例如在注意力中斷後的工作恢復情境中,研究探討 AI 如何協助使用者重新理解「我原本做到哪裡、目前正在做什麼、下一步應該做什麼」,以及如何透過情境重新定向(situated reorientation)、有限度的微行動(bounded micro-actions)、計畫修補(plan repair)與反思,支持使用者重新進入工作狀態。

高責任工作中的人機協調與集體智慧(Human–AI Coordination and Collective Intelligence in High-Responsibility Work)

此研究方向關注人工智慧如何參與團隊、組織及專業工作中的協調與集體決策,特別聚焦具有高責任、高認知負荷、高度 AI 使用,以及涉及多重角色與利害關係人的工作情境。

研究場域包括智慧製造與半導體產業、醫療團隊、組織決策、跨領域設計與專業知識工作。核心問題包括:人與 AI 如何分配任務與角色?不同專業知識如何透過 AI 進行整合?人工智慧如何協助團隊建立共享理解?以及當 AI 開始參與分析、建議、協調甚至執行工作時,組織中的權限、責任與專業自主性應如何重新配置?

過去相關研究探討大型語言模型支援的多代理共同設計(multi-agent co-design)、協作設計中的共識形成、AI 中介的組織決策,以及智慧製造情境中的跨角色協調。近期研究則進一步將這些問題延伸至 agentic AI,探討 AI 如何從個人的工作助手,逐漸成為參與組織協調與專業判斷的協作夥伴。

此研究亦關注長期的人本問題:人工智慧可能降低工作者當下的認知負荷,但如果將過多工作與判斷委派給 AI,是否可能逐漸侵蝕人的專業知識、情境理解與判斷能力?因此,人機協作的設計不只需要考慮當下的效率,也需要考慮專業能力的維持與發展、持續學習、責任,以及長期的人類能動性。

AI 驅動的數位健康與團隊式照護(AI-Driven Digital Health and Team-Based Care)

數位健康是曾元琦長期發展的人本人工智慧研究場域。相關研究涵蓋慢性病管理、糖尿病團隊照護、HIV/PrEP 預防、移工健康、心理健康與自我對話,以及涉及污名、文化差異與敏感健康議題的數位介入。

此研究方向並不將聊天機器人或大型語言模型視為取代醫療專業人員的獨立自動化工具,而是探討人工智慧如何適切嵌入既有的照護關係、臨床工作流程、跨專業團隊與個人的日常健康管理之中。

相關研究特別重視人在迴路(human-in-the-loop)與專家在迴路(expert-in-the-loop)的人工智慧設計。例如在糖尿病團隊照護研究中,探討 AI 如何協助處理病患的血糖、飲食、運動與健康資訊並產生初步回應,再由衛教師與醫療專業人員進行判斷、修訂與回應,使人工智慧成為團隊照護的一部分,而非獨立的醫療決策者。

相關研究亦從社會技術(sociotechnical)觀點探討 AI 真正進入醫療場域後所產生的工作負荷、角色改變、責任邊界、臨床整合與信任問題,並關注文化敏感性、個人自主性、微同意(micro-consent)、可爭議性(contestability),以及必要時的人機交接(handoff)。

透過移工健康、HIV/PrEP、糖尿病照護及心理健康等研究,此方向進一步探討人工智慧如何在不同文化、社會及照護關係中支持人的自我理解、健康決策與專業照護,同時避免將複雜的人類需求簡化為單純的資訊提供、行為遵從或自動化決策問題。

跨研究主題

上述研究方向雖分布於不同應用場域,但共同圍繞數項核心議題:

  • 人類能動性(Human Agency)
  • 適當信任與依賴(Appropriate Trust and Reliance)
  • 人與 AI 的任務委派與權限配置(Delegation and Authority)
  • 決策主導權與責任分配(Decision Ownership and Responsibility Allocation)
  • 人與 AI 推理的可理解性與可爭議性(Legibility and Contestability)
  • AI 中介的協調與集體決策(AI-Mediated Coordination and Collective Decision-Making)
  • 專業能力與長期人機協作(Expertise and Long-Term Human–AI Collaboration)
  • 情境化認知支援與反思(Situated Cognitive Support and Reflection)

整體而言,其研究所追求的並不是最大化人工智慧的自主程度,而是探討人工智慧應在何時主動、何時退讓、何時提供理由、何時接受人的修正,以及何時將權限與責任交還給人。最終目標是設計能與人共同工作、共同判斷,並能接受質疑、修正與協商的人工智慧系統,使人工智慧能力的提升能同時支持人的能動性、專業能力與負責任的行動。

學術研究與發表

曾元琦具備橫跨設計、人機互動、資訊科學、心理學與健康科技的跨領域研究背景。其研究結合質性研究、共同設計、實驗研究、混合方法、實地部署及快速迭代設計等方法,探討人工智慧進入真實工作與生活情境後所產生的人機互動與社會技術問題。

近年研究成果發表於 ACM CHI、ACM CSCW/Proceedings of the ACM on Human-Computer Interaction、HCII、IASDR、AHFE,以及數位健康與健康相關國際期刊與研討會。已發表研究涵蓋移工健康聊天機器人、HIV/PrEP 數位健康支持、AI 支援的糖尿病團隊照護、醫療專業人員對 AI 回應的判斷與修訂、多代理共同設計、AI 支援的自我對話,以及協作設計與共識形成等議題。

近期研究則進一步延伸至 agentic AI、高責任專業工作、AI 支援的注意力恢復與情境重新定向,以及人與人工智慧如何針對理由、任務、權限與責任進行協商。這些研究逐步從「如何設計好用的 AI 系統」,延伸至更根本的人本人工智慧問題:當人工智慧開始參與人的推理、判斷、協調與行動時,應如何設計人與 AI 之間的互動、角色、權限與責任,使人工智慧成為支持而非削弱人類能動性、專業能力與責任的協作夥伴。

學術榮譽與肯定

曾元琦的研究與學術貢獻獲得多項國內外肯定。重要榮譽包括國立清華大學傑出人才發展基金「傑出研究獎 」(2025)及「優秀研究獎」(2026)、國家科學及技術委員會「吳大猷先生紀念獎」(2017),以及 ACM CSCW 2023 Diversity & Inclusion Recognition (2023),以表彰其研究對多元性與包容性議題的貢獻。

此外,他於 2024 年獲選為 Sigma Xi 科學研究會正式會員(ASigma Xi Full Membership),並曾於MTAICHI 及其他 HCI/設計相關國際研討會獲得多項最佳論文與海報獎項。

學術服務與教育推動

在學術與專業服務方面,曾元琦現任國際人機互動領域重要期刊 International Journal of Human-Computer Studies (IJHCS) 資深編輯(Senior Editor,自 2025 年 1 月起),並曾於 2023 年 6 月至 2024 年 12 月擔任該期刊副編輯(Associate Editor)。此外,他亦擔任 台灣人工智慧協會(Taiwan Artificial Intelligence Association, TAIA) 顧問,參與人工智慧相關之學術、產業與人才發展交流。

在跨領域創新人才教育方面,曾元琦擔任國立清華大學 創新設計學分學程 召集人,以及 清華學院學士班創新設計組 召集人,持續從課程、制度與人才培育層級推動設計導向、跨領域及人本人工智慧相關教育。

學術經歷

曾元琦的學術生涯橫跨設計、人機互動、心理學、健康科技與工程等不同領域,並具有跨國與跨領域研究經驗。主要學術經歷包括:英國 倫敦大學學院(University College London) UCL Interaction Centre(UCLIC) 訪問教授(2023 年 2 月至 8 月);國立清華大學工業工程與工程管理學系合聘教授(2019 年 8 月至今);國立清華大學服務科學研究所副教授(2018 年 8 月至 2024 年 1 月);國立成功大學工業設計系助理教授/副教授(2011–2018);美國 Smith-Kettlewell Eye Research Institute Rachel C. Atkinson Postdoctoral Fellow(2010–2011);美國 伊利諾伊大學香檳分校心理學系博士後研究員(2008–2010);以及美國 耶魯大學醫學院 Chiang-Shan Ray Li 教授研究室訪問學者(2010)。

這些跨領域的學術經歷,也形塑其目前結合設計、人機互動、心理與認知科學,以及人工智慧的人本人工智慧研究取徑。

設計哲理

曾元琦的設計理念融合科技與工程、人文與社會科學,以及藝術與設計的觀點、知識與方法,追求設計中真、善、美的整合。他將設計視為一種兼具探索、反思與實踐的過程,而不只是解決既定問題或提升系統效能的方法。

在人工智慧快速發展的時代,他尤其關注一個更根本的設計問題:科技能力的提升,如何同時增進人的能力,而不是逐步取代人的理解、判斷與責任。對他而言,人本人工智慧的核心不在於最大化人工智慧的自主性,而在於設計適當的人機關係——讓人工智慧能在適當的時機主動協助,也能接受人的質疑、修正與介入,並在必要時將判斷權與責任交還給人。

因此,其設計哲理強調:科技應服務於人的價值,支持人的尊嚴、能動性、專業判斷與責任;設計則應協助人與科技形成有意義、可理解且可持續的合作關係。最終目標不只是創造更強大的科技,而是透過負責任的創新,提升個人與集體判斷的品質,並促進更好的組織與社會福祉。

iiiD-Lab