继旧金山之后,美国第二个城市也下令禁止了市政府使用面部识别技术。周四,美国马萨诸塞州的萨默维尔市议会以11票赞成、0票反对的结果通过了《反面部识别条例》(anti-facial recognition act),该法案认为这项技术有可能影响到言论自由。
该条例指出:“在公众地方广泛应用人脸监控,其功能相当于要求每个人在任何时候都必须携带并出示一张个人照片身份证。”
该法令还指出,面部识别技术可能会误判人,尤其是女性和非白人。该条例补充称,“许多应用人脸监控技术的数据库都受到种族和其他偏见的困扰。”
市议员Ben Ewen-Campen说,公众越来越担心新技术将如何影响社会,他在这种情况下提出了这项法令。他在昨天的投票中说:“这是一场侵犯隐私的攻击,人们感到,作为个人和家庭,在社会中获得自由越来越困难。”
“这只是一小步,但这是一个提醒:我们是社会的主人,”他补充说。“我们不必坐以待毙。”
除了禁止市政部门积极使用人工智能外,该法令还禁止在刑事调查或法律诉讼中使用面部识别软件系统产生的数据或证据。当地法律没有限制州或联邦执法部门使用面部识别的范围。
该条例部分由ACLU(美国公民自由联盟)撰写,ACLU也帮助制定了萨默维尔法令。ACLU主任卡德?克鲁克福德(Kade Crockford)表示:“这座城市发出了一个大胆的声明,它不会坐视反乌托邦技术进一步超越我们对公民自由的保护,损害隐私、种族和性别公正以及言论自由。”
美国公民自由联盟希望更多的城市和州能通过类似的法律来规范这项技术。
此前,旧金山也宣布禁止地方政府使用面部识别技术。今年5月,旧金山成为美国第一个禁止警察和其他政府机构使用面部识别技术的城市。
根据新的旧金山法律,任何想要使用监控技术或服务的城市部门必须首先得到监事会(Board of Supervisors)的批准。该过程将包括提交有关技术及其使用方式的信息,并在公开听证会上提交。根据新规则,任何已经使用监控技术的城市部门都需要告诉董事会是如何使用它的。
该条例还规定,该市每年都需要向监事会报告监管设备和服务是否按批准方式使用,还包括保存、共享或删除数据的详细信息。
面部识别技术的争议:准确率与隐私
实际上,公众对于面部识别技术的担忧很有道理:该技术的准确率实在还不足以取信于民众。
2018年7月ACLU表示,在他们的测试中,亚马逊的人脸识别系统Rekognition居然把28位国会议员识别成了罪犯,在有色人种中错误率更为明显。
2012年的一项研究表明,来自供应商Cognitec的面部算法,在非洲裔美国人上的错误比白种人高5%至10%。
2018年2月,麻省理工学院媒体实验室的研究人员发现,微软,IBM和中国公司Megvii的面部识别错误地识别了高达7%的浅肤色女性,高达12%的深色皮肤男性和高达35%的深色皮肤女性。
2015年,一位软件工程师报告说,Google Photos的图像分类算法将非裔美国人的照片贴上“大猩猩”标签,引发争议。
2017年6月的欧冠联赛上,英国南威尔士警方的人脸识别相机系统在一次足球比赛中发出了2470次警报,其中只有173次是正确的判断,也就是说识别准确率只有8%。
除了技术容易误判之外,普通人的隐私也是一个问题。2019年1月,IBM发布了一组“人脸多样性”的数据,就遭到了一些摄影师、专家和活动人士的批评,因为IBM没有征求人们的同意,就将他们的照片用于改善面部识别技术。
作为回应,IBM表示将严肃对待隐私问题,用户可以选择退出数据库。
而近日,微软公司也悄然删除了该公司于2016年发布的人脸识别数据库MS-Celeb。该数据是全球最大的公开人脸识别数据库,根据资料统计,已有多个商业组织在使用MS Celeb数据库,包括很多知名互联网企业。分析人士称,此举或因担心侵犯公众隐私权、“数据权”,从而产生法律风险。
不过,尽管并不完美,面部识别技术并非全然无用。
马里兰州警方利用该技术确认了大规模枪击案的嫌疑人;印度警方利用该技术在四天内确认了近3000名失踪儿童的身份;脸书利用该技术为视障人士识别照片中的人物;除此之外,面部识别技术已经成为解锁智能手机的一种便捷方式。
科技巨头们更是纷纷为自家所使用的技术“站台”。Microsoft公司表示,自己在去年就将识别女性和深肤色人种的错误率降低了20倍;Facebook公司使用面部识别技术来标记用户,公司的一位发言人表示,该公司确保其使用的数据是“平衡的,并且反映了Facebook用户的多样性”;Google声称,它发表了关于人工智能的原则,其中包括禁止“制造或加强不公平的偏见”。