歐盟公佈禁用有害AI應用指引

大規模監控、情緒檢測、社會評分：歐盟監管機構於週二公佈，根據該集團具有開創性的《人工智慧法案》，哪些型別的人工智慧工具因過於危險而將被列為非法。

禁止使用被認為會造成不可接受風險的該技術的相關條款於本週生效，儘管歐盟27個成員國有至8月的時間來指定一個監管機構以執行這些條款。

歐盟規則於去年透過，旨在避免濫用這一新生技術，同時又不阻礙歐洲的創新。在美國和中國於人工智慧領域大步邁進之際，歐洲面臨著艱巨挑戰。

這項被視為全球最全面的人工智慧法規採取了基於風險的方法：如果一個系統屬於高風險，那麼一家公司在獲得歐盟授權之前，將需要履行更為嚴格的一系列義務。

歐盟委員會的一位高階官員表示，新指引旨在向監管機構和企業明確說明哪些應用將被直接禁止。這位官員強調，這份不具約束力的指引旨在提供委員會對這些禁令的「見解」，而歐盟法院將對這項新法律作出權威解釋。

違反規則的公司將面臨高達全球年度營收7%的罰款，或高達3500萬歐元（約合3700萬美元）的罰款，以較高者為準。

委員會列出了八種應予以禁止的情形：

1. 在公共場所使用攝影機即時識別人員：法律禁止將配備攝影機的人工智慧系統用於公共場所的執法目的的即時生物識別。其目的是防止出現在未與現實世界資訊進行交叉核對的情況下，個人就被警方攔截的情形。但也存在例外情況，比如防止包括恐怖襲擊在內的特定威脅。

2. 基於與風險無關的個人資料進行社會評分：規則禁止使用人工智慧，例如透過依賴與背景無關的個人資料（如出身、膚色或社交網路上的行為）來對人們違約或進行社會福利欺詐的可能性進行排名。

3. 僅基於生物識別資料評估犯罪風險：警方不能僅根據面部特徵或其他個人特徵，而不考慮與其行為直接相關的客觀且可驗證的事實，就使用人工智慧來預測個人參與騷亂或發動攻擊等犯罪行為的風險。

4. 抓取線上圖片以建立面部識別資料庫：《人工智慧法案》禁止那些在網際網路上和閉路電視畫面中肆意提取面部圖片，並建立包含數十億張圖片的大規模資料庫的工具，因為這相當於國家監控。

5. 在工作場所和教育場所進行情緒檢測：組織不得使用網路攝像頭或語音識別系統來檢測人們的情緒。

6. 利用人工智慧操縱行為：禁止將具有欺騙性或潛意識影響的人工智慧系統整合到介面設計中，以促使使用者進行購買。

7. 利用與年齡或殘疾相關的弱點：規則禁止針對兒童、老年人或其他弱勢群體的基於人工智慧的玩具或其他系統，這些系統被設計用來鼓勵可能有害的行為。

8. 基於生物識別資料推斷政治觀點或性取向：根據《人工智慧法案》，在歐盟不允許存在聲稱透過分析人們的面部來推斷其政治觀點或性取向的系統。