AI仰賴巨量資料的蒐集處理，大數據引發對人類隱私的威脅。「去識別化」被視為個資保護的一種解方，以代碼、匿名、隱藏部分資料等方式，使資料無從辨識出特定個人。然而去識別化的資料仍有直接或間接再識別之可能，企業須持續管理個資的生命周期及伴隨的風險，並透過隱私設計將隱私保護預設至流程系統中，事前防堵侵害。健保資料庫過往僅開放給學術單位，2019年擴及學術及業界，使業界有機會接觸醫學數據發展醫療AI；持續鬆綁恐侵害人權，過度控制亦不利於公益。敏感性資料是否開放，涉及隱私保護與資訊利用的權衡，過猶不及。