记者 刘宗智 报道
3月5日,全国政协委员靳东回应了AI换脸导致的诈骗问题。他直言:“一些喜欢我影视剧的观众,被AI换脸视频骗得很惨,这个性质非常恶劣。希望能建立更好的规则。”
3月4日,全国人大代表雷军公布的建议案中同样提到,“AI换脸拟声”不当滥用易引发侵犯肖像权、侵犯公民个人信息以及诈骗等犯罪行为,带来社会治理等风险。
所谓“AI换脸”,实际上是通过精准识别人脸图像,提取关键面部特征,并利用深度合成技术将这些特征与目标人脸图像进行匹配、替换、融合。在此基础上,通过背景环境渲染和合成声音的添加,生成看起来非常真实的虚假视频。
2024年闹得沸沸扬扬的“张文宏医生被AI换脸直播带货”事件,也是AI技术被不法分子滥用的一个典型例证。
近年来,AI技术正以前所未有的方式改变着我们的世界,带来便利的同时也产生了一些隐患。面对如此迷惑性极强的“AI换脸合成视频”,名人如何维权?普通人如何自保?有关部门又该如何进行规范?
对此,齐鲁律师事务所王莹律师在接受采访时表示,AI合成技术侵权案件中存在取证难的问题,“网络犯罪的范围比较广,最终执行是有难度的。”侵权方的匿名性、隐蔽性等特点,给受害方取证带来不小挑战,不仅关乎时间成本,甚至可能耗费巨大的人力财力等资源。为此,部分受害方遇到该情况往往会迫于无奈,放弃以诉讼方式维权。
王莹建议在立法层面加强对AI技术的监管,但她同时表示,“立法是有滞后性的,技术迭代的速度远超立法进程。相关人员提出议案以后,立法机关就会加大相应的重视力度。如果确实存在立法的必要,立法系统会有针对性地进行完善,在保护民众权益、维护社会秩序、促进技术创新三方面找到平衡点。”
网民该如何防范“AI深度合成音视频侵权”的问题?王莹提醒,“尽管换脸AI模仿能力强,但是并非没有破绽,还需要仔细甄别,增强风险意识。不确定的情况下,老年人可以多向子女、民警等询问求证。遭遇诈骗后,受害者需要立即报警。”
本稿件所含文字、图片和音视频资料，版权均属
齐鲁晚报所有，任何媒体、网站或个人未经授权不得转载，违者将依法追究责任。
【PDF版】
