您当前的位置:线上 >  >> 正文
AI换脸让人莫名“被股东” 如何破除“黑镜”恐慌?

时间:2023-08-25 00:58:17    来源:成都商报

AI换脸凶猛,技术突飞猛进,把无数人卷入“黑镜世界”的荒谬和无助中,曾经以为是科幻电影里才有的情节,真真实实成为普通人的日常风险

远在大连生活的张桂菊,却成了株洲市芦淞区一家百货店的经营者,株洲当地市场监管部门的答复是“她本人做了‘四级实名’验证,办理流程合法合规”。这样令人咋舌的遭遇如今并不鲜见,不法中介可通过网络“黑产”非法获取身份信息和人脸照片,利用AI换脸技术,破解相关政务APP,从而冒名开公司,10分钟就能完成登记注册。


【资料图】

莫名其妙自己就“被股东”“被法定代表人”了,而且是通过了本该很安全的人脸识别验证才完成的相关企业注册变更登记等,这让人细思极恐:一方面是因为冒名注册公司会产生的负债、偷税、被冒名诈骗、失信等严重法律风险,另一方面则是我们的“脸”已经可以被技术公司AI任意拿捏、作弄用于灰色生意乃至赤裸裸的违法犯罪中。

如今AI换脸凶猛,技术突飞猛进,似乎已经把人们卷入“黑镜世界”的荒谬和无助中,曾经以为是科幻电影里才有的情节,真真实实成为普通人的日常风险。

人类一直把脸作为最重要的生物识别手段,看脸区别你、我、他,与个人身份、法律责任紧密联系。特别是2019年3月1日后,全国多地的市场监督管理部门相继推行企业登记身份信息“实名制”,要求企业在设立、变更、注销时,还需通过企业登记APP进行“人脸识别”的认证。结果,这道“人脸识别”保险,却被“人脸AI”技术轻易攻破。

甚至基于AI换脸技术,形成了所谓“代实名”中介的黑产业,这些中介通过破解人脸识别认证,代当事人过人脸、签名。“代实名”这种服务,充满科幻片里的荒谬和矛盾感,本来人脸识别就是为了远程实名认证,而AI技术又破解了人脸识别,真是“道高一尺,魔高一丈”。

这种“代实名”严重冲击了我国的企业注册制度,可能会产生海量“幽灵公司”“幽灵企业”,而这种企业往往从事的是见不得阳光的非法集资、洗钱、合同诈骗等违法勾当,这将对国家经济安全、市场环境安全造成威胁。

另一方面,利用换脸搞“代实名+被法定代表人”,也是对于公民的信息权、肖像权、隐私权等权利的严重侵害,违反《民法典》《个人信息保护法》,乃至触犯了《刑法》中侵犯公民个人信息罪等。

技术本无善恶,但是管控不好就会激发出人性幽暗的那部分。近年AI技术方兴未艾,换脸、变声走进日常生活,但很快被不法分子搞出了“一键脱衣”“AI换脸诈骗”等违法犯罪的应用。特别是利用换脸搞“代实名”,冲击了我国的企业登记秩序,社会危害大。

防范“黑镜世界”的来临,要通过法律规范技术向上向善。去年年底,国家互联网信息办公室等三部门发布《互联网信息服务深度合成管理规定》,明确提供“换脸”等深度合成服务提供者,如果相关服务“可能导致公众混淆或者误认的”,就必须提供“显著标识”。今年8月,国家网信办起草的《人脸识别技术应用安全管理规定(试行)征求意见稿》中提到:人脸识别技术使用者应当每年对图像采集设备、个人身份识别设备的安全性和可能存在的风险进行检测评估,并根据检测评估情况改进安全策略。

如果任由AI换脸“代实名”、假注册泛滥,会造成社会的信任危机。这不是危言耸听,需明白,这已经涉嫌严重的刑事犯罪,必须雷霆亮剑,从AI技术到非法中介,再到虚假注册者,做到全链条打击,一个也别放过。

成都商报-红星新闻特约评论员 克鲜

关键词: