近年来,人工智能技术(AI)的迅猛进步极大地促进了社会的便捷性,但同时也引发了一系列安全挑战。根据科技媒体的报道,深度伪造技术作为其中的一项,由于其能够创造出高度真实却又非原生的视频或图像,已经触发了多种社会问题。
据央视新闻最新报道,今年以来,AI深度伪造技术被频繁用于假冒公众人物,这类事件屡见不鲜。举例来说,近期有不法之徒借助AI技术模拟了著名医生张文宏的面部特征与声音,借此在直播带货中推销了超过1200份蛋白棒。
此外,明星刘德华及知名企业家雷军也成为了AI伪造技术的受害者。刘德华的声音被滥用,用以提升短视频的观看量,其所属的电影公司也不得不多次发布警告,提醒公众注意。
专业人士指出,当前的AI技术依靠深度学习,可以轻易复制他人的面部和声音特征,这一过程甚至只需一张照片和一段语音样本即可完成。然而,这种技术并非完美无缺。伪造的视频往往无法实现实时直播,且在面部轮廓与背景融合等细节上存在瑕疵。只要观众细心观察,特别是在口型与语音同步方面,就能发现破绽。
法律专家强调,未经授权使用他人的形象或声音构成侵权行为,依据《中华人民共和国民法典》及《网络安全法》,相关发布者可能会面临赔偿损失及承担刑事责任的后果。同时,如果消费者因AI假冒名人推销商品而受骗,他们可以依据消费者权益保护法要求三倍赔偿。
此外,专家还建议短视频平台承担起主要责任,迅速移除违规内容,并对违规发布者实施信用管理和处罚措施。