换脸造“黄谣”、克隆声音接“私活”——AI“潘多拉魔盒”打开，我们的隐私与名誉如何自救？

“我真的非常气愤。在未确认这是AI配音前，我甚至在怀疑自己，这到底是不是我配的音？是不是我自己忘记了？因为声音真的太像了。”

从发现这件事到如今已过去半年，涉事火锅店虽然删除了相关视频，但双方始终未就赔偿问题达成一致。在此期间，武扬又发现了另外两条克隆自己声音的商业视频。作为从事配音工作的专业人员，他感到不寒而栗。

目前，武扬正在尝试通过法律途径维权。

AI滥用门槛有多低？

记者实测：2分钟时间就能无中生有

更值得警惕的是，AI工具极低的使用门槛已挡不住各怀心思的使用者们——不管这心思是非法牟利，还仅仅是好奇。

“家中闯入流浪汉，速回！”10月17日晚，安徽一女子用AI工具生成了高度逼真的“流浪汉卧坐餐厅”等图片，发给在外聚餐的丈夫，想测试其反应。没想到，丈夫信以为真，当即报警求助。民警赶到现场，确认是一场虚惊。

记者调查发现，近期已有多地出现过因“AI整蛊”引发的闹剧，有的引得亲属连夜从外地赶回，有的甚至引发整栋楼被逐层排查。民警提醒，此类行为若造成严重后果，可能触犯法律红线，涉事人员将面临拘留罚款，严重的需承担刑事责任。

曾经只出现在科幻片里的AI技术，如今的使用门槛到底有多低？记者进行了现场实测。

以虚拟一段“流浪汉闯入家中”的视频为测试目标，记者先拍摄了一张自家厨房的照片，将照片上传到“可灵AI”“即梦”等AI软件中，随后输入一段指令性的提示词：一名流浪汉站在厨房门口，他的手里拿着一个馒头。点击生成按钮，十几秒后，一张流浪汉站在记者家中厨房的照片便出现在眼前。

只需要在AI软件中输入一段提示词，一个拿着馒头的“流浪汉”就出现在了厨房门口（右图为AI生成画面）

“照片可以PS，有视频才有真相。”抱着这样的想法，记者继续尝试。

在生成上述图片的基础上，记者继续点击生成视频按钮，并加上了描述动作的提示词：流浪汉吃了一口馒头，走到镜头前，笑了笑。几十秒后，任务完成，一段时长5秒的视频就这样生成了：流浪汉非常自然地咬了一口馒头，往前走了几步，露出微笑。视频内容与提示词的要求高度一致，甚至还能看到流浪汉走动时在门窗玻璃上映出的影子！

记者招呼同事们一起来分辨，几个人瞪大眼睛看了半天，也没找出明显的破绽。整个“图生图、图生视频”的过程用时仅120秒，付费用户还可以下载无水印的高清图片和视频。

传统印象中，想要利用软件伪造足以乱真的图片、视频，少不了高端昂贵的设备和精通代码的程序员。然而现实摆在眼前：下载一个软件，输入一两句话，就能办到。

业内人士指出，AI生成工具已实现“单图换脸”“场景植入”等功能，通过深度学习算法提取面部特征点及环境元素，可快速完成图像融合和动态生成。在此背景下，部分平台对训练语料管理不严，且未落实合成内容标识要求，导致大量虚假信息以隐秘方式传播。

用AI“管”AI是否可行？

AI治理办法亟需迭代升级

AI技术正在重塑生产生活方式。从横空出世的ChatGPT到无所不能的深度求索（DeepSeek），短短两年，人们已迅速习惯了使用AI工具。然而，迭代升级的不仅有算法，还有与之相伴的滥用风险。