影子回归!“AI复活亲人”成流水线生意 哀思变“商机”更需约束和规范
发表于2024-03-11 18:44:24

  原标题:影子回归!“AI复活亲人”成流水线生意 哀思变“商机”更需约束和规范 

  只需要52.1元,就能还原逝去亲人的容貌并和ta聊天。”生成式AI技术的发展浪潮之下,与逝去的亲人“再见一面”似乎日渐成为可能。

  记者近日调查发现,用AI“复活”逝去的人,已经发展成了一门生意。在电商平台搜索“AI复活亲人”,发现提供此类服务的店铺不少,价格从10元到520元不等。有店铺称,可以提供“修复老照片+让照片动起来”和“照片开口说话”功能。

  与此同时,近年来,AI换声、AI换脸等诈骗手段也越来越高级,有的人用来欺骗用户的情感和钱财。(据法治日报、上游新闻)

  电商平台上售卖的AI“复活”亲人服务(来源:电商平台截图)

  所谓的“AI复活逝者”,当然不是真的让人死而复生,而是利用人工智能技术,通过输入逝去亲人的文字描述、图片、视频和声音资料,模拟生成一个与逝者面貌、性格、声音极为相似的数字形象。与保留逝者生前影像不同的是,AI技术能生成新的对话和表情,送上指定的祝福和安慰,弥补一些“爱得太迟”的遗憾。一些更高级的AI产品,会以聊天机器人的形态出现,模拟逝者的性格和记忆,与在世的亲人进行对话。这些原来只会在科幻电影中能够看到的场景,如今真切地发生在生活中,让人惊叹于科技的进步,但也为由此带来的情感伦理争议及法律风险而担忧。

  2023年4月份,视频博主小亮用AI技术“复活”已故的奶奶,并且还和“奶奶”进行了视频通话,就引发过巨大争议,但他并不是花钱委托他人做的,而是因为自己就从事AI方面的工作,掌握了相关技术,所以做了这样的选择。作为从业者,他很清楚AI影像与真人的区别,也明白自己不过是为了寻求心理慰藉,所以,当时有不少人都认为,这份对奶奶的真情让人感动,也无须对他怀念的方式过于苛责。

  近日,知名音乐人包小柏在女儿去世后难以走出阴霾,钻研AI技术并攻读相关专业博士,用AI“复活”了女儿,在妻子生日时,一家三口一起唱起生日歌,场景感人至深,让AI复活逝者的话题再度被热议,也让一些商家看到了“商机”。

  包小柏“复活”女儿的举动引发热议(来源:国外社交平台截图)

  逝者虽不再具备隐私权和肖像权,但法律仍会对其生前的人格权益予以保护,如果AI技术生成的形象对逝者形象有歪曲和丑化,或是泄露了逝者隐私,则可能引发法律纠纷。更可怕的是,如果有不法分子滥用这种技术,“克隆”还活着的人,就可能实施诈骗行为,或是炮制虚假色情影像,侵犯他人的合法权益。事实上,国内外都已经有利用AI技术模拟面容和声音传播虚假内容、实施诈骗、侵害他人名誉的案例。

  挚爱的人去世对人的心理是非常沉重的打击,有些人甚至会沉浸于悲伤中不能自拔,身心俱损,想与去世的亲人、爱人再见一面,说说话,是很正常的心理情感需求,但如果AI“复活”技术被拿来牟利,并且缺乏约束地、无限制地泛滥,则会带来很多难以预料的问题和风险。

  其实,简单的、生成模式化影像的AI“复活”技术的确没有太高的门槛,只要有了相关软件就可以不停复制,只不过很多人对其不了解,带有“神秘滤镜”,加上思念亲人心切,就忽略了其中可能存在的风险,甚至一不小心被“割韭菜”。慰藉和寄托哀思是非常庄重严肃的事,将逝者的个人信息、影像声音资料交给他人,也需要慎重考虑、谨慎为之,这不但是对自己权益的必要保护,也能避免一些人沉迷于虚幻,反而影响心理健康。

  如何让技术的进步只带来益处,不带来危害,这是一个庞大复杂的命题,会随着科技的不断进步,不断地向人类提出新的问题和挑战。但一个不容置疑的共识是,技术不应也不能用于作恶,人类美好的情感,不应被利用来做一些“非法生意”,对于那些利用AI技术实施诈骗的行为,相关部门要从严打击,而针对这一技术被滥用的情况,也应有相应的防范和监督措施,打好规则的“补丁”,提升行业法律意识,尽快制定管理标准和规范,为技术发展留足空间的同时,也守护好人类物质与精神的安全。

投稿:lukejiwang@163.com
Copyright © 2002-2024 鹿科技