在当前这个AI遍地走、门槛近乎无的时代，如果你还没有试过用AI生成图片或视频（以下统称AI生图），那确实有点不够“潮”了。
与其他新技术一样，AI生图技术自诞生之日起就充满争议，一路鲜花与荆棘相伴。支持者视它为颠覆性的技术革命，反对者视它为洪水猛兽。特别是近两年以ChatGPT、Sora为代表的AI数据大模型横空出世，AI生图已成为刷屏时尚，受到越来越多的网民追捧。它在给人们带来极大便利、惊奇、抚慰的同时，也必然暴露出诸多荒诞不堪、令人生厌、甚至违法犯罪等负面问题。
AI本无罪，关键在于如何使用它。只有坚守伦理和法治底线，技术才能更好造福人类。今天，上游新闻推出“AI生图五大乱象”专题报道，聚焦近年来AI生图领域里暴露出的种种乱象，追根溯源、剖析因果，探索解决之道，以期对AI产业健康发展有所裨益。
今年清明期间，“AI复活亲人成热门生意”频频登上热搜。9月21日，南开大学举行活动，创校校长张伯苓借助AI技术“复活”，与南开大学师生展开了一场跨越105年的对话，再度引来公众对于相关技术领域的关注。
近日，上游新闻（报料邮箱baoliaosy@163.com）记者从相关业内人士处了解到，时隔半年，随着相关部门以及平台监管的加强，以及AI技术本身存在的伦理、法律风险，在清明节一度火爆的“AI复活逝者”生意如今受到了一定的限制，部分企业也开始将重心从“复活逝者”转向复刻在世者、数字祠堂等业务。
清明期间一天上百单
4月4日，“清明节前AI复活亲人生意火热”的话题登上热搜。有媒体记者发现，在电商平台上许多商家正在做着“AI复活”的生意，这些商品的定价不等，标价从几元、几十元，到上百元，乃至数千元的都有，所提供的产品也参差不齐，甚至有人为了赚快钱，只是简单地让照片动起来。
在某平台上，还有商家趁势推出“AI复活师”的教学套餐和代理服务，有意将单一的生意打造成一条完整的产业链。
电商平台上某商家告诉媒体，让人物动起来需要20元，定制人物说话内容需要50元，模拟人物说话声音则需90元。该商家强调，如果做得不像可以重做。“我们这款服务刚上线不久，大概只有一两个月时间，平时生意不多，清明节生意一下子多了起来，曾经一天就接了一百多单，都是‘复活’亲人的。”
“校友说AI生命”的创始人林志从去年4月开始涉足AI人像模拟训练、声音克隆等业务，是国内较早推出AI复刻产品的团队。他表示，临近清明节，“AI复活”去世亲人的业务愈发火爆，最高的一天有上百个订单，日收入有两三万元。
淘宝上的“复活”亲人产品仍然很多。网络图
他介绍，以前技术不成熟，团队每接一个订单需耗费大量时间，所以收费为1000元至1万元不等。“从去年底开始，就降到一个普惠版本，价格为298元。”对于市面上定价10元以内的“AI复活”商家，林志称这种服务只能让人物的嘴动起来，单次成本低，而他所交付的产品，不仅能够拥有逝者的形象和声音，并且可以实时互动聊天。
随着“AI复活”业务越发火热，乱象也频频出现。今年3月，一段“AI李玟暖心回应粉丝关切”的视频引发关注，在视频中，已故知名歌手李玟以AI形象面对镜头，向粉丝诉说着感谢与鼓励。不仅是李玟，网友还用AI“复活”了高以翔、乔任梁等已故艺人。
3月28日，李玟的母亲委托律师就部分网络用户制作、传播“AI复活李玟”相关短视频事宜，公开发布了一则律师声明称：严正警告涉嫌侵权责任人7日内下架、删除含有上述侵权内容的相关图片、视频及文章，立即停止实施相应侵权行为。
4月2日，抖音官方发布的《抖音关于清明期间内容创作的提醒》明确提到：“尊重逝者及其亲友。未经逝者生前同意或逝者家属授权，请勿利用AI或其他技术手段‘复活’逝者。”
“复活已故艺人”被叫停，但上游新闻记者在多个平台上看到，“AI复活亲人”的相关业务仍十分活跃，已经形成产业链。除了电商平台“复活逝者”的相关产品，短视频平台上有许多通过发布视频吸引目标客户的代理商，甚至还有“收徒”传授“AI复活技术”的培训班。
“AI复活”业务受平台限制
今年3月，有多年互联网产品运营经验的重庆90后创业者李灿成立了“硅灵AI数字生命平台”，目前主要团队在成都，自己主要是兼职创业状态。
李灿告诉上游新闻记者，作为创业者，其实自己也有情感上的需要，“我的父母都在2022年去世，给我非常大的打击，刚好那一年的年末Open AI发布了ChatGPT3.5，震撼了我们所有做互联网的人，所以后续一直很关注AI。”
李灿创建的“硅灵数字生命平台”。网络图
“2024年，因为有声音训练和克隆的大模型出现，人的声音是可以被备份和复制的，这意味着AI大模型继承人的记忆和性格以及社会关系+声音，被复制组成了一个市场需求方可以接受的方案——AI智能体，需求方则是跟我一样失去亲人很想再次见到他们的人。”李灿说。
李灿介绍，主要的“数字生命”目前就两类，一类是继承人类记忆性格和克隆声音的智能体（对于逝者是“AI复活”，对于生者是AI备份），一类是AI老照片，很多人其实没有双亲或者外婆奶奶的声音，只有一张十多年前的模糊照片，只能将照片视频化。
上游新闻记者在“硅灵AI数字生命平台”上看到，目前“数字生命”的产品售价，根据资料提交比例、声音复刻相似度、人物相似度的不同，从199元到999元不等，而定制开发“专属生命”的价格还要更高。李灿介绍，目前产品主要是网页+H5的形态，已经迭代到第二个版本。
不过，目前的“AI复活逝者”的订单数量已经没有清明时那么火爆。李灿告诉上游新闻记者：“我们在一些新媒体平台做了账号内容，但部分平台对‘AI复活’类业务限制很大，内容几乎都是判定违规，投放类的平台也无法参与关键词的竞价，所以线上获得精准流量还是比较困难。”
在众多用户中，李灿印象最深的是一位祖籍广东目前定居澳大利亚的女士，“她结婚后去了国外，父亲一人留在广东生活，她几乎每隔几天就会打视频，结果端午节前后几天忙没打视频，突然接到警方电话，说她父亲洗澡时猝死，她为自己没有照顾好父亲、走得如此没有尊严而懊悔不已，后来在硅灵平台进行‘复活’后，多少有了一些安慰。”
B站UP主吴伍六用AI技术生成了去世奶奶的虚拟数字人，并和自己开展了对话。网络图
李灿认为，大多数来进行“AI复活亲人”的，似乎都有一种强烈的情绪和遗憾，这种情绪通常是亲人刚离去的几个月内，如果在这个时间段内能得到一些安慰和帮助，也能更好地走出困境，“我在对接这些用户的过程中，发现其实很多人所遇到的情况，比我的情况更要剧烈，有母亲跳楼的，也有孩子去世的，我在安慰他们的过程中，感觉自己扮演了一个‘赛博神父’角色，同时自己也在逐渐释怀。”
上游新闻记者注意到，南京、杭州等地都出现了提供“AI复活逝者”产品的科技公司，不过上游新闻记者也询问了几家国内人工智能团队，他们均表示，出于谨慎考虑一直没有开展这项业务。
科大讯飞虚拟人平台业务部总经理郜静文表示，公司相关团队很早就注意到“AI复活亲人”这一现象，但现阶段不会开放此类业务，因为仍有很多法律的真空地带，以及伦理边界不清晰。
法律界人士：需尽快制定相关法律法规
最近林志逐渐在减少“AI复活逝者”的订单，而是把重心转向复刻在世的人，“数据多，效果也更好。”
比如有的人想复刻还在世的亲人，有客户长年在国外工作，想给自己在国内上学的女儿每个年龄段都做一个版本，认为这可以帮孩子记录成长，还曾有一家湖南的养老院负责人找到林志咨询，想给养老院的老人做AI复刻，认为这可以从一定程度上帮助老年人疗愈。不过，老人家属对此还有疑虑，这个项目也暂时未有推进。
林志认为，如何让当事人特别是老人理解并接受AI复刻这一新生事物，这也给他们的业务带来极大挑战。
此外还有“数字宗祠”，林志表示：“这项服务的咨询量和实际需求的上涨今年格外明显，这是我们没预料到的。”李灿也表示，后续会考虑线下的一些场景，比如墓园，做一些合作尝试，希望得到一些更精准的流量。
随着“AI复活逝者”走进人们生活，争议和讨论也越来越多。新华社相关报道就指出，AI需要处理大量个人敏感数据，如面部表情、语音语调等，数据一旦被滥用或泄露，会对用户隐私造成威胁。并且，AI“复活”技术使用不当，也可能成为犯罪分子实施诈骗等犯罪活动的工具。
上海大学法学院教授陈敬根认为，一方面，要加快AI领域的立法；另一方面，也应该看到，画出底线和红线的“硬法”固然不可缺位，但为了弥补立法的滞后性，在人工智能等新兴领域，当前应提倡设立更多的“软法”，即通过行业协会、团体组织等自发制定的规则，产生集体约束力，由此在法律底线之上起到行业监管的作用。
河南泽槿律师事务所主任付建表示，逝者的肖像、名誉、隐私等仍受法律保护，如果没有经过逝者亲属等许可，擅自使用AI技术“复活”逝者，并通过视频等方式传播确有侵权的嫌疑。如果商家审核不当或恶意泄露，那将承担法律风险，如果买家并非逝者的亲属或拥有合法授权，而商家也未尽到审核义务便利用AI技术为买家提供服务，那么他们的行为构成民事侵权，需承担民事责任。
他也提醒，需尽快制定相关的法律法规，建立一个监管框架，明确产业参与者的权利和义务，包括数据收集、处理、使用和保护的规定，以及对AI模拟亲人的行为和责任的界定，同时建立伦理审查机制，确保“AI复活亲人”产业的发展符合伦理标准，不侵犯人类尊严，不造成社会伤害。
上游新闻记者 汤皓 杨波 部分内容据上海证券报、九派新闻、温州晚报、潇湘晨报等
