歐盟提議的規(guī)則將成為迄今為止國際上制定監(jiān)管人工智能技術最嚴苛的規(guī)則之一，其中包括面部識別、自動汽車駕駛以及驅動在線廣告、自動招聘和信用評分的算法。擬議的規(guī)則將圍繞面向未來但具有爭議的人工智能技術制定全球性法規(guī)和規(guī)范。

歐洲數字版權非營利組織Access Now公司歐洲政策分析師Daniel Leufer 說，“這將向全球傳達一個非常重要的信息，即在建立在民主、法治、基本權利基礎上的社會中，不允許應用某些人工智能技術。”

他指出，歐盟擬議的規(guī)則是含糊不清的，但這是檢查潛在有害技術使用的重要一步。該規(guī)則很可能受到國際方面的密切關注，該規(guī)則適用于在歐盟銷售產品或服務的任何一家公司。

其他倡導者表示，歐盟保護公民免受許多濫用人工智能的規(guī)則存在太多漏洞?？偛课挥诓剪斎麪柕臍W洲數字版權組織(EDRi)政策和競選官員Ella Jakubowska說：“有一些規(guī)則是積極的。而某些條款將允許政府部門和組織繼續(xù)以懷疑的方式使用人工智能技術?！?/p>

例如，擬議的法規(guī)建議禁止使用人工智能的“高風險”應用程序，其中包括執(zhí)法部門使用人工智能進行面部識別，但只有當該技術用于在公共場所實時查尋人員時才可以使用。該規(guī)則還將為警方在調查可能判處至少三年徒刑的犯罪時可能出現的例外情況提供建議。

Jakubowska指出，人工智能仍用于學校、企業(yè)或購物中心，并用于一系列警方調查中。她說：“在基本數字版權方面，還有很多地方遠遠不夠。我們希望他們采取更大膽的立場。”

由于人工智能的最新發(fā)展，面部識別技術已變得更加有效，這引起了極大的爭議。它通過Clearview AI等商業(yè)工具在一些國家的執(zhí)法部門中得到廣泛應用;美國一些城市已經禁止警方使用這項技術來回應公眾的抗議。

歐盟擬議的人工智能規(guī)則還將禁止由政府機構為一般目的進行基于人工智能的社會評分，以及禁止使用人工智能針對“特定群體”進行監(jiān)控，這種方式可能對他們造成心理或身體上的傷害。此外，還可能會限制使用人工智能進行信用評分、招聘或某種形式的監(jiān)控廣告，例如，人工智能算法可能將賭博網站的廣告推薦給人們。

歐盟擬議的人工智能法規(guī)要求使用高風險人工智能應用程序的組織向監(jiān)管機構提供風險評估報告，以證明其安全性。那些不遵守規(guī)定的組織，可能會被處以其全球銷售額6%的罰款。

擬議的規(guī)則要求組織在嘗試使用人工智能來檢測用戶情緒，或者根據生物特征(例如性別、年齡、種族、政治取向)進行分類時必須告知用戶。

數字版權分析師Leufer表示，歐盟擬議的這些規(guī)則可能會阻礙行業(yè)組織在某些領域的投資，從而影響人工智能行業(yè)在歐盟和其他國家和地區(qū)的發(fā)展步伐。

今年1月制定的這份條例草案的內容日前被曝光。其最終版本包含了一些顯著的更改，例如刪除了禁止使用高風險的人工智能系統的條款。