《歐盟人工智能法案》是世界上第一部人工智能法規(guī)，已于 2024 年 7 月 12 日在歐盟官方公報上公布。

歐洲人工智能法案的目標

這項新法規(guī)旨在確保各行業(yè)人工智能技術的安全性和可靠性，提高透明度，并為未來投放歐盟市場的可信人工智能系統(tǒng)制定總體框架。它引入了基于風險的方法、對運營商施加的各自義務以及對未能滿足要求的潛在處罰。

這項立法為何重要？

作為一個開創(chuàng)性的監(jiān)管框架，《歐盟人工智能法案》開創(chuàng)了可能影響全球人工智能監(jiān)管的先例。對于醫(yī)療器械公司來說，了解并遵守該法案對于在歐盟保持市場準入和競爭優(yōu)勢至關重要。

立法要點

《歐盟人工智能法案》引入了幾項關鍵條款：

- 人工智能定義：該法對人工智能系統(tǒng)進行了廣泛定義，雖然沒有將其范圍限制在某些技術或其應用上，但重點是確保全面覆蓋。

- 人工智能能力（第 5 條）：人工智能系統(tǒng)提供商和運營商必須確保其員工和用戶對人工智能及其部署的系統(tǒng)有足夠的了解。這應考慮到他們的技術技能、經驗、教育、培訓以及人工智能的使用方式和對象。

- 高風險人工智能系統(tǒng)（第 6 條）：高風險人工智能系統(tǒng)，如用于關鍵基礎設施、教育、就業(yè)和執(zhí)法領域的系統(tǒng)，以及大量人工智能醫(yī)療器械，必須滿足風險管理、數(shù)據(jù)治理、透明度和人工監(jiān)督方面的嚴格要求。

- 基于風險的方法 + 風險管理 (第 9 條）：人工智能系統(tǒng)分為四個風險類別：不可接受的風險、高風險、有限風險和最低風險，每個類別都有具體的規(guī)定和要求。

- 高風險人工智能系統(tǒng)的基本權利影響評估（第27 條）：該法附件三第 5(b)和(c)點中提及的高風險人工智能系統(tǒng)的部署者，應評估使用此類系統(tǒng)可能對基本權利產生的影響。

- 數(shù)據(jù)管理（第 10 條）和記錄保存（第 12 條）：保持系統(tǒng)數(shù)據(jù)、培訓方法和操作流程的詳細記錄，以確保問責和可追溯性。此類人工智能系統(tǒng)使用的數(shù)據(jù)應考慮進一步遵守數(shù)據(jù)法規(guī)的要求，如，GDPR (EU) 2016/679 和(EU) 2018/1725以及Data Protection Law Enforcement Directive (EU) 2016/680。

- 透明度（第 13 條）：該法將要求運營商向最終用戶提供明確的信息，讓他們了解與此類人工智能系統(tǒng)互動的限制和風險。

- 人工監(jiān)督（第 14 條）：允許人工干預和監(jiān)督，確保人工智能的決定在必要時可以被審查和糾正。- 準確性、穩(wěn)健性和網(wǎng)絡安全（第 15 條）：高風險人工智能系統(tǒng)必須符合最先進的準確性、穩(wěn)健性和網(wǎng)絡安全要求。

- 上市后監(jiān)測系統(tǒng)：建立市場監(jiān)督框架以確保合規(guī)，包括建立國家監(jiān)督機構和歐洲人工智能辦公室。

- 由公告機構進行符合性評估：高風險人工智能系統(tǒng)將要求由經認可的公告機構進行符合性評估，類似于新立法框架內的其他立法，如歐盟 MDR/IVDR。此外，人工智能醫(yī)療器械的技術文件（第 11 條）預計將納入歐盟人工智能法案附件 IV 中概述的歐盟法案技術文件要求。

"AI System"的定義

該法案將 "AI System"定義為 "means a machine-based system that is designed to operate with varying levels of autonomy and that may exhibit adaptiveness after deployment, and that, for explicit or implicit objectives, infers, from the input it receives, how to generate outputs such as predictions, content, recommendations, or decisions that can influence physical or virtual environments."。

該定義源于經合組織（OECD）提供的定義，雖然它并沒有將范圍限制在某些技術或人工智能的應用上，但其目的是提供一個全面的覆蓋范圍，期望在未來會有更多尚未發(fā)明的算法和技術出現(xiàn)。基于風險的分類系統(tǒng)該法根據(jù)潛在風險對人工智能應用進行分類：

- 禁止的人工智能（第 5 條）：禁止的應用，如政府用于社會評分的人工智能系統(tǒng)，不允許投放市場，或只有在地方政府特別批準的情況下才能投放市場。

- 高風險人工智能（第 6 條）：關鍵領域（包括醫(yī)療保健）的人工智能系統(tǒng)，必須滿足嚴格的要求，并按照《歐盟人工智能法案》或相關設備的行業(yè)法規(guī)進行符合性評估。(例如，人工智能醫(yī)療器械）- 有限風險人工智能：承擔透明度相關義務的人工智能系統(tǒng)。

- 極小風險人工智能：風險極小或沒有風險的系統(tǒng)，但須自愿遵守法規(guī)。

高風險人工智能應用實例

符合新法規(guī)中 "高風險人工智能"定義的設備包括已受其他行業(yè)法規(guī)監(jiān)管的行業(yè)，以及其他特定行業(yè)法規(guī)尚未涵蓋的設備。這些高風險應用必須經過嚴格的符合性評估，并遵守嚴格的數(shù)據(jù)管理和透明度要求。

例如，現(xiàn)有歐盟 MDR/ IVDR 所涵蓋的醫(yī)療器械在遵守《歐盟人工智能法案》的必要合規(guī)性方面表現(xiàn)突出。例如，診斷工具、醫(yī)療決策支持系統(tǒng)、患者自動監(jiān)測技術等人工智能醫(yī)療器械都是新人工智能法規(guī)的適用對象。

不受歐盟特定行業(yè)立法監(jiān)管的設備也可能成為人工智能法案的對象，例如關鍵基礎設施（管理電網(wǎng)、供水管網(wǎng)和運輸系統(tǒng)的人工智能系統(tǒng)）和其他一些應用。

實施時間表

該法案計劃分階段實施，將于 2024 年 7 月 12 日在歐盟官方公報上公布后 20 天內執(zhí)行，高風險人工智能系統(tǒng)的申請日期和執(zhí)行日期將根據(jù)第 111 條和第 113 條推出：

- 2026 年 8 月 2 日：《歐盟人工智能法案》生效 24 個月后，未受其他部門立法監(jiān)管的高風險人工智能系統(tǒng)應遵守該法。

- 2027 年 8 月 2 日：《歐盟人工智能法案》生效 36 個月后，受《歐盟人工智能法案》附件二所列部門立法監(jiān)管的設備（如醫(yī)療器械）應遵守該法。(例如，醫(yī)療器械和 IVD）

- 2023 年 8 月 2 日 已投放市場或投入使用的人工智能系統(tǒng)以及已標注的通用人工智能模型應在 2030 年 8 月 2 日之前達到合規(guī)要求（第 111 條）。

市場準入

出口到歐盟市場并在歐盟市場上銷售設備的醫(yī)療器械制造商必須證明其人工智能醫(yī)療器械符合《歐盟人工智能法案》，以保持歐盟市場的準入。不合規(guī)可能會導致嚴重的準入障礙，降低競爭優(yōu)勢和市場份額，或受到新法規(guī)的嚴重處罰。

雖然預計大多數(shù)受影響的器械都屬于 "軟件即醫(yī)療器械"（SaMD）類別，但作為任何設備組成部分的人工智能，只要符合高風險人工智能的定義，也同樣是該法規(guī)的對象。

此外，與歐盟 MDR/IVDR 類似，《歐盟人工智能法案》也打算對軟件和人工智能系統(tǒng)進行監(jiān)管，只要其在監(jiān)管范圍內，則不論其位置如何。

歐盟 MDR/IVDR 與《歐盟人工智能法案》對醫(yī)療人工智能系統(tǒng)的分類 高風險人工智能

《歐盟人工智能法案》引入了高風險人工智能類別，該類別的定義獨立于歐盟 MDR 和 IVDR 中概述的醫(yī)療器械分類，也無意對產品進行更高的分類。分類應單獨進行，并遵循法規(guī)規(guī)定的相應合格評定途徑。

合格評定

《歐盟人工智能法案》采用了新立法框架 (NLF)，因此概述了與歐盟 MDR/IVDR 相似的結構和方法，并概述了高風險人工智能醫(yī)療器械供應商（制造商）預期的合格評定程序。雖然此類器械的主要符合性評估將遵循歐盟 MDR/IVDR 下的特定行業(yè)程序，但醫(yī)療器械制造商必須保留詳細文件，包括涉及人工智能特定方面的技術文件。制造商還需要保持警惕系統(tǒng)（例如向監(jiān)管機構報告事故），并接受第三方公告機構的強制合格性評估和定期審核，以確保符合所有法規(guī)。

將高風險人工智能設備投放歐盟市場

將高風險人工智能醫(yī)療器械投放到歐盟市場需要滿足額外的要求。醫(yī)療器械公司必須適應這些變化，確保所有產品符合必要的統(tǒng)一標準，并在器械上貼上 CE 標志。

產品生命周期考慮因素

根據(jù)《歐盟人工智能法案》，人工智能驅動的醫(yī)療器械的開發(fā)很快將以新的統(tǒng)一標準為指導，為最先進的實踐設定基準。這些標準強調健全的數(shù)據(jù)管理、算法決策的透明度、人工監(jiān)督以及對人工智能性能的持續(xù)監(jiān)控。

由于嚴格的風險管理和軟件生命周期標準，醫(yī)療器械制造商已經熟悉了基于風險的設計和開發(fā)方法。然而，現(xiàn)在他們需要將這些原則專門應用于人工智能，并盡早接受這些新標準。這一轉變旨在確保人工智能驅動的醫(yī)療器械從一開始就是安全、可靠和透明的。

合規(guī)成本

適應《歐盟人工智能法案》將帶來額外的合規(guī)成本，包括監(jiān)管認證、網(wǎng)絡安全、數(shù)據(jù)保護措施、額外審核和持續(xù)的人工智能系統(tǒng)監(jiān)控。雖然預計這些將是現(xiàn)有歐盟 MDR/IVDR 符合性評估的延伸，但公告機構必須具備處理《歐盟人工智能法案》具體要求的能力。盡管增加了開支，但這些投資對于獲得歐盟市場準入和保持競爭優(yōu)勢至關重要。

《歐盟歐洲人工智能法案》代表了人工智能技術監(jiān)管格局的重大轉變，對醫(yī)療器械行業(yè)的影響毋庸置疑。對于擁有人工智能醫(yī)療器械的公司來說，了解并遵守《歐盟人工智能法案》的適用要求對于保持和擴大其在歐盟的市場份額至關重要。通過主動適應這些變化，醫(yī)療器械制造商可以確保其產品符合最高的安全性和有效性標準，從而促進醫(yī)療保健行業(yè)的信任和創(chuàng)新。

本文由廣州佳譽醫(yī)療器械有限公司/佛山浩揚醫(yī)療器械有限公司聯(lián)合編輯