商场等场所应用人脸识别应先报批

2021-02-26

目前图像识别、语音识别、人机交互等人工智能技术都已在生产生活的各个领域得以应用。但人工智能等智能技术能否融得更深、用得更广,真正转化为生产力,需要一系列配套制度的支持。刘伟建议,建议优化政府单位、国有企业考核,鼓励其更加开放、包容地采用新技术和新产品,积极与人工智能企业开展交流合作。

科技在为人类造福的同时,也有可能带来更多负面影响,人脸识别技术的过度采集就会带来诸多风险。人大代表建议,写字楼、商场、企业等单位及公园、学校、市场等在应用人脸识别技术前都应申报审批,由公安部门依法审核其合法、正当和必要性。

人工智能应用场景要加速落地

党的十九大报告提出,要“加快建设制造强国,加快发展先进制造业,推动互联网、大数据、人工智能和实体经济深度融合”。目前国家也在支持支持广州市等城市建设国家新一代人工智能创新发展试验区,打造一批示范项目。

但刘伟认为,人工智能技术产品的大规模场景应用和成果转化依然还面临一定问题。在交通、安防、医疗、社区治理等城市治理场景的许多创新成果,由于对于国产技术不信任、数据开放受限、缺乏行业标准、政府财力不足等多方面原因,停留在实验室或者示范项目中无法大规模应用,与实体经济的深度融合中阻力不小。

刘伟一直在推动轨道交通智能装备国产化,他认为,我国轨道交通的重要装备与系统已逐步完成了国产化到自主化的发展转变。自主产品安全性和可靠性在实践中得到了验证,目前正向更具创新性的智慧化阶段升级。“智慧地铁大脑等人工智能产品和解决方案在国际范围内领先,但其推广应用缓慢,落地局限在个别试点项目中,创新成果转化为生产力出现脱节。”他说。

刘伟建议首先要在创新意识的培养上多下功夫,转变心态,在人工智能创新成果应用上发挥敢闯敢试、敢为人先的精神,重点解决国产化技术和产品不愿用、不敢用的问题。“从安全角度上来说,人工智能等高科技核心产品要尤其重视信息安全,也应首先考虑国产,确保数据务必要留在国内,杜绝后门和安全隐患。”刘伟说。

人工智能的标准问题是场景应用的重要基础,很多应用场景专业性强,解决方案的复杂性和定制化要求高,如果没有统一规范的标准,开放的应用场景就会停留在示范阶段,难以推广形成规模效应。

去年7月,工业和信息化部等多部委联合印发了《国家新一代人工智能标准体系建设指南》,加强了人工智能领域标准化顶层设计规划。刘伟也建议,在此基础上,结合国家新一代人工智能创新发展试验区和国家人工智能创新应用先导区建设,加快相关行业应用标准顶层建设。

建议由公安部门审批人脸识别应用

人工智能技术需要大规模获得应用,另一方面技术的使用同样需要注意边界。如今人脸识别技术已经从理论研究走向大规模的应用落地。“当年人工智能还停留在概念上,现在连上个厕所都要刷脸才能获得抽纸。”刘伟表示,海量人脸识别生物信息数据在各个场景被采集,在相关法律法规相对滞后的情况下,一旦人脸数据被不法领域使用,极可能引发众多方面的风险。

“你可能不会带上身份证,但是脸一直长在身体上,人脸数据可能会与电话号码、身份证号一样成为不法分子违法犯罪的新手段。”刘伟说,人脸识别系统可以对摄像头采集的人脸图像进行辨认,却无法识别采集的人脸图像是来自真人还是一张照片,人脸照片、视频及伪造3D头套等均有可能被机器识别,因此,人脸识别系统容易受到各类蓄意的仿冒攻击,常见手段包括盗用合法用户人脸照片、盗用合法用户人脸视频及盗用三维人脸面具等。

所以刘伟建议由公安部门统一承担人脸识别应用的审批与监管职能,设立相应审批标准及程序,加强资源统筹、部门协作、信息共享。除道路、交通工具、银行等法律规定的安防应用以外,涉及对特定及非特定对象的处所,如写字楼、商场、企业等单位及公园、学校、市场等在应用人脸识别技术前都应申报审批,公安部门依法审核其合法、正当和必要性。

目前小区的进出也大规模使用了人脸识别应用。刘伟建议,物业应将其视作新增公共设施建设项目,交由业主按户数及面积2/3以上投票通过后方可申报审批,禁止非授权擅自使用人脸识别。