近期，一起由网友恶搞的雷军AI配音事件在网络上迅速走红，引发了关于AI造假音视频的广泛争议。此类事件并非孤立，早前韩国爆发的Deepfake危害事件就曾引起全球关注，受害者众多，影响广泛。
据报道，Deepfake技术被用于制作并传播不雅视频，韩国有超过百所中小学及国际学校受到影响，受害者可能达到22万人。这一数字令人震惊，也引发了对于Deepfake技术为何屡禁不止的疑问。
Deepfake之所以难以禁止，并非因为其技术高深，恰恰相反，其操作简单易行，所需资源在互联网上轻易可得。只需简单的软件、预训练模型、被换脸的视频以及受害人的照片，就能制造出具有破坏性的AI换脸视频。
获取这些“作案工具”的途径多种多样。受害人的照片可以从社交媒体上轻易获取，AI换脸软件则在GitHub等平台上免费分享，甚至有详细的中文说明与操作指引。而预训练模型，也被俗称为“AI金丹”，在电商和二手交易平台上以几元钱的价格出售，形成了灰色产业链。
面对Deepfake的泛滥，我们需要从源头上进行打击。个人在社交媒体上分享照片时应更加慎重，保护个人隐私。同时，相关平台应加强对AI换脸软件的封禁，尤其是随着AIGC的兴起，新型平台提供的AI开发功能需谨慎监管，以防成为新的安全漏洞。
电商平台与二手交易平台也应承担起责任，严格监管Deepfake软件与预训练模型的售卖，切断利益链，这是禁止不法行为的关键。与Deepfake的斗争才刚刚开始，了解其真实面貌，是抵制恶意的第一步。
