前沿科技   AI   复活  

AI“复活”兴起,应用的边界在哪

2024-03-27 09:33   来源:澎湃新闻·澎湃号·媒体   张亚欣

  近日,网络上兴起了一股AI“复活”已故明星的热潮,李玟、高以翔、乔任梁等已故明星通过AI技术再次出现在公众视野,引起了社会广泛关注和热议。

  目前,这项备受争议的AI“复活”技术已被逐渐商业化,形成付费即可定制的新兴生意。一方面,面对AI“复活”这类换脸技术应用须出台相关法律法规和行业标准,规范新兴业态;另一方面,社会也需在考量伦理道德下,培育AI技术的应用环境。

  律师:未经权利人同意就构成侵权

  近年来,随着人工智能技术的蓬勃发展,生成式AI方兴未艾。

  今年1月,知名音乐人包小柏在个人社交平台分享了AI生成的逝去女儿的视频,并写道:亲爱的Feli,欢迎从数位世界回来!

  此后,不断有明星被AI技术“复活”,比如,AI生成的“李玟”暖心回应粉丝关切:“我知道你们可能会感到惊讶甚至有些不真实,但请相信我,这是一个充满着爱和感激的时刻,因为我有机会通过这段视频与你们相聚。”“高以翔”称:“你们的每一个留言、每一份关怀我都感受到了。”“乔任梁”也亲切地与粉丝问好:“大家好,我是Kimi乔任梁,其实我并没有真的离开,只是选择隐退……”

  栩栩如生的“明星们”变成数字永生人,在屏幕上向粉丝亲切打招呼,这一幕激起粉丝的热情回应。但与此同时,也引发很多网友的质疑,认为未经家属许可,就擅自利用AI技术“复活”明星的做法,并不妥当。擅自被“复活”的明星家属们也不“领情”。乔任梁父亲曾公开回应,称自己对网友“AI复活”乔任梁的做法不能接受,感到不舒适,并希望对方尽快下架相关视频,并坦言:“他们未征求我们同意,是我侄女刷到视频发给我的,这是在揭伤疤。”高以翔生前经纪人也曾转达过高以翔家人的意见,称不希望高以翔肖像被他人任意使用,严厉地谴责并坚决抵制该行为,若不立即停止侵权行为,家人会采取法律行动。

  这也让AI技术“复活”已逝明星或普通人的视频是否涉及侵权成为舆论焦点。对此,中国城市报记者采访了北京至普律师事务所主任律师李圣。“民法典第1019条规定任何组织或者个人不得利用信息技术手段伪造等方式侵害他人的肖像权,未经同意不得制作、使用、公开他人肖像。那么未经权利人同意就构成侵权。又根据民法典第994条规定,死者的姓名、肖像、名誉、荣誉、隐私、遗体等受到侵害的,其配偶、子女、父母或其他近亲属有权依法请求行为人承担民事责任。因此,‘复活’明星或普通人的如涉及侵权,其家属可以当然有权利请求其承担民事责任。”李圣告诉记者,从客观行为上,AI换脸技术并非新鲜事,换脸风波屡见不鲜,但如未经权利人同意使用肖像从事经营、盈利有关的活动,无论是否使用AI或换脸技术,只要存在制作、使用、公开、发表、复制、发行、出租、展览,均可能被认定为侵权行为。

  AI“复活”技术尚存局限性

  哪里有需求,哪里就有生意。

  AI“复活”的兴起,让其逐渐形成一门生意。中国城市报记者在电商平台发现,只需输入“AI复活”等关键词进行搜索,下方即可弹出格式各样的商品套餐,包括给黑白照片上色、让照片动起来、开口说话、定制方言视频,甚至定制可实时对话的数字人等等,价格在10元至上万元不等。

  以现在的科技水平,能够支撑让AI“复活”形成成熟的产业链吗?

  “目前,AI技术在图像和语音合成方面已经取得了显著的进步,比如通过训练大量的数据集,AI可以学习特定人物的外观和声音特征,从而生成逼真的视频图像和语音片段等。”资深人工智能专家郭涛在接受中国城市报记者采访时表示,AI“复活”技术成为成熟的产业链不仅需要高度逼真的图像和语音合成,还需要连续的交互能力、情感识别和响应、个性化定制以及实时数据处理等复杂功能。

  郭涛进一步表示,目前,上述技术仍在发展中,尚未达到完全成熟。因此,虽然在某些特定的应用场景下,如简短的视频纪念或娱乐内容制作,AI“复活”技术可能已经足够使用,但要形成一个完整的产业链,还需要更多的技术创新和突破。例如,在情感理解、自然语言处理、个性化反应等方面仍然存在局限性。

  此外,中关村物联网产业联盟副秘书长、专精特新企业高质量发展促进工程执行主任袁帅在接受中国城市报记者采访时表示,电商平台上从简单的照片动起来到复杂的可实时对话的数字人等服务已经存在并具备一定的市场需求。不过,要形成成熟的产业链,还需要考虑技术成本、用户体验、数据隐私、政策法规等多个方面的问题。袁帅举例:“比如要让AI更逼真地模拟逝者的言行举止,需要大量的数据作为支撑,这可能会涉及到数据隐私和伦理问题。同时,AI‘复活’的效果也会受到技术水平的限制,可能无法达到完全真实的效果。”

  市场虽具备想象空间但须保持理性与审慎

  科技发展日新月异,AI“复活”的概念仍在持续升级,这样技术在争议中也被不少人所期待。

  对于包小柏而言,AI“复活”还原了爱女的音容笑貌,成为他与妻子的一丝慰藉。而对于部分人来说,他们的目的是用逝者的脸和声音与老人通话,编织一个“善意的谎言”。

  “从市场角度观察,AI‘复活’服务在未来确实具有一定的市场发展潜力。”中国数实融合50人论坛智库专家洪勇在接受中国城市报记者采访时坦言,尤其是在娱乐、教育、虚拟陪伴、甚至是遗产传承等方面,市场需求逐渐显现。

  硅基智能在数字人领域深耕多年,其创始人兼CEO司马华鹏曾在接受媒体采访时候称,在探索AI“复生”的项目上,硅基智能团队也曾经历不少拒绝,在国内数字永生可能是一个天花板不高的产业,但在数字人领域,无论是短视频、直播,还是大模型加持下的互动应用都有很大的想象空间。

  不过,“AI”复活背后隐藏的隐私安全问题同样不可忽视。记者注意到,电商平台上一些提供“AI”复活服务的店铺特别注明了“只做怀念,人脸识别请绕道”的字样。那么,电商平台上所出售的AI“复活”产品究竟是否符合法律规定?

  李圣表示:“我国于2023年最新通过的《生成式人工智能服务管理暂行办法》第四条的规定,提供和使用生成式人工智能服务均不得侵犯他人的肖像权和个人信息。对此,提供者更是应当依法承担网络信息内容生产者责任,履行网络信息安全义务。此外,民法典第1197条也规定,网络服务提供者知道或者应当知道网络用户利用其网络服务侵害他人民事权益,未采取必要措施的,与该网络用户承担连带责任,包括停止侵害、赔偿损失、赔礼道歉等。”

  李圣进一步建议,对于AI“复活”这类换脸技术应用的规制应当从应用、传播等多方面立法,避免给个人、社会造成风险。同时,社会还需要探索法律和科技伦理道德,用以培育该技术的应用环境,保护和鼓励其创新。

  除了法律层面的界定,洪勇认为,AI“复活”商业化还涉及了商业伦理和社会公共情绪的考量,只有在妥善解决这些潜在问题的基础上,确保各方权益得到充分尊重和保障,才能为AI“复活”产业的长远发展奠定基石。“相关部门可能需要出台专门的法律法规和行业标准,引导和规范这一新兴业态健康有序地拓展市场。”洪勇说。

  在袁帅看来,AI“复活”商业化还需要在技术、市场、法规等多个方面进行深入探索和完善,需要保持理性和审慎的态度对待这项新兴技术所带来的机遇和挑战。

官方微信

TOP