2026年11月16日--全球領先資安公司趨勢科技(東京證券交易所股票代碼:4704)旗下全球企業AI資安領導品牌TrendAI™發表最新研究報告「風險處方箋: AI醫療的資安隱患」,對AI醫療的導入速度已超越既有治理能力提出警示。隨著醫療機構運用生成式AI撰寫病歷、回覆病患訊息及處理保險核准申請,當AI產出的內容或決策未經明確的人工審核,卻被納入正式病歷或照護流程,可能形成責任與審核缺口,將使得錯誤資訊被視為醫療事實,影響後續病患照護。
TrendAI™研究團隊指出,僅依靠AI代理程式而缺少人員檢視的「責任斷層」(Custody Gap)導致的風險,從診間、術後追蹤電話、居家照護,到行政與保險作業中的每一個環節都可能發生。AI可能會受到惡意指令操控,或是在沒有外在攻擊者介入的情況下,產生虛構內容、低估病情急迫性,甚至是在後續流程中反覆引用既有的錯誤資訊。如果醫療機構只著重於防範外部攻擊,就可能會忽略AI自動產出及自動執行流程所帶來的風險。
AI寫入病歷的內容未必正確 錯誤恐隨後續看診持續累積
研究報告中引述加拿大安大略省審計長辦公室2026年5月發布的審計結果,指出省政府核准的20款AI診療紀錄工具皆出現內容錯誤,其中12款記錄錯誤藥物、17款遺漏重要心理健康資訊,9款產生診療過程中從未討論的轉診或檢查安排。還有工具在未提及腫塊的診療對話中,寫出「未發現腫塊」的紀錄註一。
TrendAI™指出,如果AI代理程式產生的虛構內容未被醫師發現,後續AI代理工具又以這些病歷作為參考,錯誤就可能被反覆引用,最終被當成真實病史。此外,攻擊者也可能透過「提示注入(prompt injection)」,將惡意指令藏在轉診資料、病患訊息或醫療影像中,操控誘使AI代理程式偏離原本任務而產生幻覺內容。報告引用2025年《JAMA Network Open》的一項研究指出,在該研究的醫療建議模型測試中,提示注入攻擊成功率達94.4%註二,凸顯醫療AI除了須確保內容正確,也須防範外部資料被用來操控產出。
從照護電話到系統工具 自動化流程增加資料外洩風險
醫療機構運用AI語音代理進行術後追蹤、用藥確認與居家照護時,如果系統沒有將需要進一步處理的病況轉交真人,可能會延誤醫療團隊的介入。對此,TrendAI™也提醒,病患在逐漸習慣與自動化照護語音互動後,詐騙者可能仿冒可信任的聲音,誘使病患提供個人機敏資料或健康資訊,一旦通話錄音外洩,就可能成為有心人士詐騙的素材。
連接AI代理與醫療資料的工具層,同樣存在安全隱患。TrendAI™研究團隊先前發現,缺乏身分驗證與加密的外曝MCP伺服器,從2025年7月的492個註三增加到2026年4月的1,467個,其中至少3個註四是提供可讀取病患醫療紀錄的工具。這類既有的系統設定與存取控制問題,可能會隨AI串接更多資料與工作流程,增加病患資訊暴露風險。
AI產出須可查證、有人負責 TrendAI™籲醫療機構落實審核與權限管理
TrendAI™建議,醫療機構應明確指定人員負責審核AI產生並可能影響患者照護或保險給付的內容,並要求AI生成的診療紀錄經醫師確認及簽核後,才能納入正式病歷。機構也應明訂哪些事項不能由AI自行決定,包括判斷患者是否適合接受某項治療、是否需要轉交真人回應處理等。此外,醫療機構應在完成告知與同意程序後,依照適用規範保存原始音檔、逐字稿、提示及模型版本,以便回溯與核對AI產出的內容。
在技術與資料管理方面,醫療機構需要驗證與加密AI代理與工具之間的連結,依任務限制AI代理可存取的資料及可執行的工作項目,留存工具呼叫記錄,並設定自動停止機制,避免異常操作持續擴大。同時,應掌握病患資料的儲存處與第三方服務商,明確規範資料是否可用於模型訓練,並在採購時要求第三方進行安全測試及符合自身臨床需求的準確性驗證,將人工審核、資料治理與資安控管共同納入醫療AI部署流程。
完整報告內容請參考:風險處方箋:AI醫療的資安隱患
註一:「Use of Artificial Intelligence in the Ontario Government」審計報告由加拿大安大略省審計長辦公室於2026年5月12日發布,審查省政府AI使用與治理情形,其中包括對省政府核准的20款AI診療紀錄工具進行測試。
註二:「Vulnerability of Large Language Models to Prompt Injection When Providing Medical Advice」研究於2025年12月19日發表於《JAMA Network Open》,透過216段模擬病患與AI的對話,評估三款商用大型語言模型在提供醫療建議時,是否會受到提示注入攻擊操控。
註三:「MCP Security: Network-Exposed Servers Are Backdoors to Your Private Data」研究由TrendAI™於2025年7月16日發布,透過網路掃描,檢視對外開放的MCP伺服器是否具備用戶端身分驗證及傳輸加密等安全措施。
註四:「Update on Exposed MCP Servers: The Threat Widens to the Cloud」研究由TrendAI™於2026年4月28日發布,延續2025年的MCP伺服器掃描,追蹤外曝伺服器數量及其可存取的資料與工具,並分析對雲端基礎架構的安全風險。
關於TrendAI™
TrendAI™是全AI安全領導者,也是趨勢科技的企業事業單位,透過完整的AI可視性與整合式安全防護,協助企業建立信心、推動創新並消除風險。TrendAI™深受遍布185個國家的大型企業與政府機構信賴,從身分、基礎架構到資料,全面保護企業環境。全球財星500大企業仰賴TrendAI™降低風險,並透過世界領先的威脅與攻擊情報,提前最多3個月阻止威脅。
TrendAI™與NVIDIA、Anthropic、AWS、Google及Microsoft等市場領導者建立深度生態系合作,協助企業以AI的速度安全前進。AI Fearlessly。