醫療行為人命關天，因而受到高度管制。確保病人係基於充分告知而同意相關醫療行為，乃醫學倫理的關鍵原則。人工智慧應用到醫療上協助診斷，如何讓人瞭解其判斷的根據與過程？深度學習的模式與演算是如何產出的？經由演算法獲得的建議，其資料與前提有無錯誤、偏見？若無法解釋、驗證，如何能評估而信賴之？X-AI（Explainable AI）近年來成為研發熱點；歐盟GDPR規定使用者有要求解釋的權力。隨著人工智慧技術的普及，愈來愈多法令要求AI的實施者負擔解釋的責任，而解釋的對象、內涵等都牽涉到複雜的法律議題。