Trust AI@TüV SüD專欄第十四期：歐盟人工智能法案的被禁止人工智能系統清單強制實施

2025-02-13 17:00 5909

上海2025年2月13日 /美通社/ -- 2025年2月2日，歐盟《人工智能法案》被禁止人工智能系統清單生效。即日起，面向歐盟市場的AI系統提供商和部署商、基于AI的服務提供商、含有嵌入式AI的產品制造商將面臨合規性挑戰。為協助中國人工智能相關企業積極應對這一合規性挑戰，TÜV南德意志集團（以下簡稱"TÜV南德"）推出AI系統的快速評估服務，幫助企業及時識別其基于AI的服務和AI相關產品中可能含有的被禁止功能，控制風險。

歐盟《人工智能法案》（Regulation (EU) 2024/1689）于2024年7月12日出版，并于20日后的8月1日生效，根據第113章的實施計劃，法案整體將在兩年后的2026年8月2日強制實施。然而，第5章"被禁止的人工智能實踐"提前于2025年2月2日強制實施。這意味著從該日期起，任何在歐盟市場提供含有被禁止人工智能的產品和服務的行為都將承擔相應的法律后果。為了該禁止清單得到有效執行，歐盟委員會還于2025年2月4日發布了《人工智能法案》所定義的"被禁止的人工智能實踐"的指南（以下簡稱"指南"）。

該指南進一步提供了對《人工智能法案》第5章（Article 5）所列被禁止人工智能實踐的解釋，以確保這些法規條款得到一致和有效的執行。該指南再次強調了被禁止AI系統的供應商和部署商可能會被處以最高3500萬歐元或其上一財年全球年營業額的7%（以較高者為準）的罰款。

八類被禁止的人工智能應用

《人工智能法案》第5章定義了八類被禁止的人工智能應用，以下為每種類型的具體定義，適用范圍和舉例。

法規章節	禁止項	內容與舉例
Article 5(1)(a)	有害的操縱與欺詐	AI系統通過潛意識、故意操縱或欺騙性技術來影響消費者的購買決策，從而可能對消費者造成經濟上的傷害。 AI系統通過操縱性設計來影響用戶的情緒和行為，從而可能對用戶的心理健康和社會關系造成傷害。 AI系統通過設計高度成癮的游戲機制，誘導玩家過度消費或沉迷于游戲，從而可能對玩家的心理健康和經濟狀況造成傷害。
Article 5(1)(b)	對弱勢群體脆弱性的有害利用	AI系統利用兒童的年齡和認知特點，通過操縱性設計誘導兒童采取某些行為，從而可能對兒童造成身體或心理上的傷害。例如，AI驅動的玩具，通過設計吸引兒童進行危險行為，如鼓勵兒童攀爬高處或接觸危險物品，從而可能導致兒童受傷。 AI系統通過分析殘疾人、老年人的行為模式，向他們推送特定的廣告或內容，這些內容可能對他們的心理健康產生負面影響，如誘導他們購買不必要的產品或服務。 AI系統通過分析患有某些慢性病的患者的健康數據，向他們推送特定的醫療產品或服務廣告，這些廣告可能誘導他們購買不必要的或無效的醫療產品，從而導致經濟損失和健康風險。 AI系統通過分析低收入群體的消費習慣，向他們推送高利率貸款或高風險投資的廣告，這些廣告可能誘導他們做出不利于自己的財務決策，從而導致經濟上的損失。
Article 5(1)(c)	社會性評分	AI系統基于社會行為、個人或人格特征對自然人或人群進行評估或分類，當數據來自不相關的社會背景或這種處理不合理或與社會行為不成比例時，社會評分會導致有害或不利的處理結果。例如信用評分系統使用個人的社交媒體活動或在線行為來評估其信用風險，導致在貸款或金融服務的獲取上對某些個人或群體產生不公平的待遇。例如招聘系統使用個人的教育背景或工作經歷來評估其就業資格，導致對某些個人或群體的就業機會產生不公平的限制。
Article 5(1)(d)	個人犯罪風險評估和預測	使用AI系統預測個人未來犯罪的可能性，僅基于其個人特征或行為模式，可能導致對某些群體的系統性偏見和歧視。 AI系統在沒有具體證據的情況下，對個人進行犯罪風險評估，可能導致對個人的不公正對待。
Article 5(1)(e)	無差別面部圖像抓取	AI系統無差別地抓取互聯網上的面部圖像來創建或擴展面部識別數據庫。 AI系統通過閉路電視（監控）無差別地抓取視頻中的面部圖像來創建或擴展面部識別數據庫。在未經個人明確同意前提下建立的識別數據庫用于執法、商業和研究活動。
Article 5(1)(f)	情感識別	在工作場所或教育機構推斷情緒的AI系統，除非出于醫療或安全原因。例如監控員工的情感狀態，以評估他們的工作表現或滿意度。招聘過程中用于推斷應聘者的情感狀態，以評估他們的適合度。例如推斷學生的情感狀態，以評估他們的學習效果或參與度。
Article 5(1)(g)	生物特征分類	使用AI系統根據生物特征數據對個人進行種族分類，可能導致對某些群體的系統性歧視。 AI系統根據生物特征數據對個人進行政治觀點分類，可能導致對某些群體的不公正對待。可能導致對個人的系統性歧視和不公正對待，特別是在敏感領域如種族、政治觀點等。可能導致對某些群體的系統性偏見，影響社會公平和司法公正。
Article 5(1)(h)	實時遠程生物特征識別	實時遠程生物特征識別（Real-Time Remote Biometric Identification, RBI）是一種利用AI技術，通過遠程方式實時識別個人身份的技術。它通常涉及將個人的生物特征數據（如面部圖像、指紋、虹膜掃描等）與存儲在數據庫中的數據進行比對，以確定該個人的身份。實時遠程生物特征識別在公共場所用于執法目的被嚴格限制，除非滿足特定的例外情況，如尋找失蹤兒童、預防恐怖襲擊或識別犯罪嫌疑人等。這些例外情況需要經過嚴格的授權程序，并確保有充分的法律依據和保護措施。

豁免條件

除了以上八項被禁止人工智能實踐的清單，《人工智能法案》第5章還詳細規定了豁免條件，如在某些特定情況下，可以使用通常被禁止的人工智能實踐的必要保障措施和條件。例如實時遠程生物特征識別（RBI）系統在執法領域的應用，在滿足一定保障措施和條件下可以獲得例外許可：

針對特定受害者的搜索：例如被綁架、人口販賣或性剝削的受害者，以及失蹤人員。
防止具體威脅：例如防止對自然人的生命或身體安全構成的具體、重大和迫在眉睫的威脅，或對恐怖襲擊的真實和當前或可預見的威脅。
定位或識別犯罪嫌疑人：例如涉嫌犯有《人工智能法案》附件II（Annex II）中所列犯罪的人員。

使用這些系統時必須遵循的嚴格條件包括事先授權、必要性和成比例性評估、地理和時間限制、基本權利影響評估（FRIA）、注冊要求、通知監管機構以及年度報告等。這些規定旨在確保在保護執法需求的同時，充分保護個人的基本權利和自由。

具體的例外案例如下：

一種生物特征識別系統（非遠程）用于驗證人員是否具有進入核電站的權限。當人員在顯眼的攝像頭前進行驗證時，若系統拒絕其訪問，隨后會嘗試識別該人員是否屬于恐怖分子監視名單。該系統并非遠程操作，且人員是主動參與驗證流程以獲取核電站準入權限。該應用場景不違反《人工智能法案》第5條的被禁止人工智能實踐的條款規定。

監管與罰款

歐盟成員國指定的市場監管機構以及歐洲數據保護監管機構負責執行《人工智能法案》中關于人工智能系統的規則和禁令。《人工智能法案》建立了一個分級的處罰體系，針對違反AI禁止項的最嚴重處罰如下：

對供應商和部署者的罰款：從事被禁人工智能實踐的供應商和部署者可能會被處以最高3500萬歐元或其上一財年全球年營業額的7%（以較高者為準）的罰款。
對公共機構的處罰：對違反法案的公共機構和機構處以行政罰款，這些罰款最高可達150萬歐元。

不適用范圍

包括國家安全、國防等用途、與第三國的司法和執法合作等幾種情況不適用于《人工智能法案》。為了在促進技術創新和保護公共利益之間取得平衡，《人工智能法案》還規定了一些排除情況。如，在投放市場前的研究與開發階段，為了符合安全和倫理要求而進行各式技術驗證，以及純粹個人目的的非專業活動以及以自由和開源許可證發布的AI系統。

數據保護

AI法案的禁止條款與GDPR的原則密切相關，特別是在處理個人數據時。GDPR要求數據處理必須合法、公正和透明，旨在保護數據主體的個人數據權利。AI法案中的禁止條款，旨在防止通過人工智能技術對個人進行操控、剝削或不公正對待，這與GDPR保護個人數據的目標是一致的。因此需要同時確保不違反數據保護法律。例如，如果某個AI系統通過不當方式收集和處理個人數據，導致對個人的操控或剝削，那么該系統就可能違反GDPR的規定。另外，對于具體AI系統還要關注廣告法、醫療器械法規、數字服務法等可能適用的法規。

結語

為協助中國人工智能相關企業積極應對這一合規性挑戰， TÜV南德推出AI系統的快速評估服務，包含合規性評估、技術支持、培訓和教育等服務，幫助中國出口商企業理解和滿足歐盟相關法規要求，避免踩到被禁止的AI實踐的紅線。通過這項服務，中國人工智能相關出口商可以快速確認產品中沒有被禁止AI系統，并獲得有公信力的第三方證明。在AI產品或服務與被禁止清單有關時，獲得豁免或排除的專業建議。

消息來源：TüV南德意志集團