2024 年【歐洲數位醫療科技大會】（European Digital Healthtech Conference）上，聚焦討論人工智慧的數位醫療技術之穩健性和可信度的最佳做法。
驗證數位醫療科技是一項包含許多構成因素的複雜過程。在盧森堡創新局（Luxinnovation）所籌劃的【歐洲數位醫療科技會議】上，演說者探討了數位技術的關鍵面向，包括數位科技臨床試驗、社會對這些創新的準備程度，以及患者在技術開發過程中的重要參與。
視患者為夥伴
「歐洲病患論壇」（European Patients’ Forum, EPF）政策官員 Milana Trucl 強調了患者在初期形塑創新數位醫療所扮演的重要角色。該論壇代表歐洲約 80 個患者機構，透過教育、賦權和協作來捍衛患者的利益，目的是藉由有意義的方式將患者融入衛生政策、實踐、研究和其他過程當中。
「患者的偏好應是數位醫療解決方案的核心。他們應該被視為合作夥伴，且應該提前規劃他們的參與。這意味著應將其融入設計過程，而不是僅在最後一刻或只是形式化的接觸患者，」她表示。
這種方法能夠建立信任、強化合法性，並提高臨床試驗的參與率，可以有效調整研究重點，同時突顯現實中尚未被滿足的需求。
患者的偏好應是數位醫療解決方案的核心
「EPF 歐洲病患論壇」參與了多項重要的歐洲計畫，旨在強化患者於健康科技評估（health technology assessments, HTA）的參與度。歐洲病患能力建構計畫（European Capacity Building for Patients, EUCAPA）等倡議為患者權益提倡者提供了技能和專業知識，讓他們能夠為 HTA 健康技術評估做出貢獻，確保他們了解法律框架和其他關鍵層面。其中 EDiHTA 計畫的目標則在於創立首個歐洲數位醫療科技評估框架，並由包括患者在內的利害關係人共同開發。
數位醫療設備評估
法國國家健康與醫學研究院 Inserm 研究主任 Sarah Zohar 探討了 AI 數位醫療設備（digital medical devices, DMD）臨床評估的獨特挑戰。
她指出：「去年，當我們談論人工智慧時，人們突然覺得『不，這是一個黑盒子，我們不知道那是什麼』。但這並不是真的，只是指標不同而已。我們有演算法，基本上就是電腦程式碼，可以用來解決臨床問題。」
她介紹了一套由法國各地 AI 專家開發的 44 項指標，用於評估嵌入數位醫療設備中的 AI 演算法的品質和穩健性，這對於知情的核銷決策來說極為重要。這些指標涵蓋了各個方面，包括數據品質、演算法訓練和驗證、韌性和可解釋性等。
我們有演算法，基本上就是電腦程式碼，可以用來解決臨床問題。
「透過這類指標，如果我們能在全歐洲的範疇進行協調，我們將能夠在不需具備特定知識或代碼解讀能力的情況下進行評估和決策。」
在醫療健康領域推廣值得信賴的人工智慧
歐盟委員會 DG Connect 政策官員 Hannah-Marie Weller 概述了歐盟在醫療健康領域培育值得信賴的人工智慧的方法。這項方法的核心是歐盟理事會於 2024 年 5 月批准的人工智慧法案（Artificial Intelligence Act）。
她解釋：「目的是確保進入市場的人工智慧系統安全，尊重基本權利和價值，同時刺激創新投資。」而這項法案特別關注高風險設備。
「醫療健康領域的 AI 系統的確可能屬於人工智慧法案的管轄，因為它們通常是高風險系統。這是由於它們直接影響人們的健康和安全。因此，醫療健康領域的許多 AI 系統，像是臨床決策支援系統、患者監控系統、機器人手術的 AI 等，都需要遵守人工智慧法。這些系統可以是獨立的 AI 軟體，或是醫療設備中的嵌入式設備，」她進一步闡述。
目標在於確保進入市場的人工智慧系統是安全的，並尊重基本權利和價值。
從實際層面來看，這項立法作為醫療健康創新的催化劑。正如 Weller 女士表示：「它增強了患者和醫療專業人員之間的信任，提供了市場確定性，並促進監管沙盒（regulatory sandboxes）的發展。」「監管沙盒」在此指稱符合人工智慧法測試和驗證 AI 解決方案的受控環境。目標是在每個歐盟成員國中至少建立一個沙盒。
她也討論了像 GENAI4EU 和 AI 工廠等倡議。這些計畫支持 AI 新創公司並促進 AI 模型在如醫療環境中的驗證。資金主要來自「展望歐洲」 （Horizon Europe）、Digital Europe 和 EU4Health 等促進人工智慧創新的研究、有效運用和掌握AI創新。