欧盟议会通过全球第一部完整管制AI的法律,其中全面禁止人脸辨识於公共场合的即时使用,除了隐私权、种族平等的考量之外,许多议员也认为这样的大规模监控逾越了民主国家的底线。

撰文|谢达文

来源:MotionElements

2023年6月14日,欧盟议会以499票赞成、28票反对、93票弃权的悬殊票数,高票通过全球第一部完整管制AI的法律。外界普遍预期,这样的法律将会有设定产业标准的效果──这是因为,对於绝大多数的AI开发者而言,欧盟都是重要的市场,一旦欧盟设定好管制标准,各家公司在开发时就有很大的动机遵循这些标准,以免在欧盟商用受阻;更何况,国际间标准设定会互相影响,欧盟率先订定标准之後,其他国家在立法时也会参考,更会增加这些规则的影响力。

而在这一次的欧盟法制定中,一个争议较大的主题,就是关於AI是否可以用於人脸辨识(或更广泛来说,各种生物特徵辨识)之上,这个主题预计仍会持续辩论下去。在这次欧盟议会所通过的法律案中,欧盟议员们决定全面禁止在公共场合「即时的人脸辨识」 (O’Carroll, 2023 ; Volpicelli, 2023)。也就是说,按照这部新法律,欧盟各国的警察机关和其他单位不可以用AI对即时的监控影像进行人脸辨识,没有任何除外条件;在此之外,雇主也不可以使用近期被讨论的「人脸情绪监控」,不可以用AI监控自己的工人是否有疲倦、怠职等状况(中国目前已经开始使用这项技术监控卡车司机是否疲倦)。而既然这项技术可能在欧盟被全面禁止应用,开发商开发相关功能的诱因也会大幅减少,可能会转而投资其他应用。

之所以只说是「可能」被全面禁止应用,而非确定,是因为根据欧盟的制度,在欧盟议会通过法律之後,还需要经由议会、执委会(相当於欧盟本身的政府)和欧盟理事会(各国政府的代表)三方协商对话,而执委会本来所提出的法案草案当中,虽然也严格限制即时使用人脸辨识,但其实有提出一些除外条件可以使用;此外,一些欧盟国家政府也已经开始研议AI用於即时人脸辨识,比如法国政府就已经通过法律,要在2024年巴黎奥运使用即时人脸辨识执行安全监控。这意味着,这项规定是否能存活,在後续的协商中仍有变数。

「这是中国在做的事,不是我们会做的」

为什麽欧盟那麽多议员坚决反对人脸辨识的使用?除了隐私权的争议之外,在议会辩论中,议员们也提到人脸辨识可能带来更多的不公平,造成实质上的种族歧视(《预测准确就好了吗?谈人工智慧的不公平》,谢达文,2023)──英文中有一个专门的词称为racial profiling,中文有时翻译为种族貌相或种族定性,就是用来指称基於种族的差别执法,议员们相当担心允许使用人脸辨识会导致这个状况更为严重。

但除此之外,从议员们的发言中也可以发现,许多议员认为,将AI人脸辨识用於即时监控影像,实在太过像是反民主威权国家的行径。欧洲议会有所谓报告人 (rapporteur) 的制度,议会会指派几位议员主导法案的审议与协商,而一位报告人、来自罗马尼亚的自由派议员Dragoș Tudorache就说:「在欧盟的我们,不要大规模监控、不要社会信用分数、不要预测性执法,就是这样──这是中国在做的事,不是我们会做的。」(Deutsche Welle, 2023) 从这个发言中我们可以清楚看出,中国在国内、特别是在新疆所进行的AI人脸辨识等监控,已经大幅影响欧盟政治人物对於「红线」的认知,认为这样的作法「不是我们会做的」事情(对於中国如何在新疆利用AI等技术进行监控,可参考最近出版的《新疆再教育营:中国的高科技流放地》一书,Byler,2023)。

除外条件规定遭到否决

在这条规则在立法的过程中,一度出现一个变数。代表欧洲中间偏右政党的欧洲人民党 (European People’s Party, EPP) 虽然大体上支持这项法律,但却提出修正案,希望设定例外可以使用AI於即时人脸辨识的三个条件:协寻失踪人口、防止恐怖攻击,以及侦测有欧盟逮捕令在身的人 (Liboreiro and Sanchez Alonso, 2023)。

本法案的另一位报告人、左派政党的议员Brando Benifei公开指责EPP在进行「政治操作」,指出EPP在委员会阶段明明支持这一项规定,但在最终表决时却另外提出法案,是不尊重协议的作为。

不论如何,最终EPP无功而返:这项修正案获得235票支持,但有335票反对,并未获得通过。而在修正案失利後,EPP党团仍然集体支持法律案本身。这样的结果将让议会之後在与欧盟执委会和理事会协商时,可以站在更有力的位置,可以要求另外两个单位更尊重议会的决议,继续采用较严格的标准面对人脸辨识的应用。


参考文献

  1. Lisa O’Carroll, 2023, “EU moves closer to passing one of world’s first laws governing AI.”, The Guardian.
  2. Gian Volpicelli, 2023, “Forget ChatGPT: Facial recognition emerges as AI rulebook’s make-or-break issue.”, Politico.
  3. 谢达文,《预测准确就好了吗?谈人工智慧的不公平》,2023,CASE 报科学
  4. Deutsche Welle, 2023, “EU lawmakers lay groundwork for ‘historic’ AI regulation.”
  5. Darren Byler着,阎纪宇译,《新疆再教育营:中国的高科技流放地》,2023,春山出版。
  6. Jorge Liboreiro & Aida Sanchez Alonso, 2023, “MEPs endorse blanket ban on live facial recognition in public spaces, rejecting targeted exemptions.”, Euronews.

📖

0 0 投票数
Article Rating
订阅评论
提醒
guest
0 Comments
内联反馈
查看所有评论
0
希望看到您的想法,请您发表评论x