【ITBEAR】近期，短视频平台上涌现了大量以“雷军”为名的发言视频，内容涵盖堵车、调休、游戏等热门议题，言辞激烈且不乏粗俗之语。然而，真相是，这些言论并非雷军本人所发，而是借助AI配音技术制作而成。目前，相关视频正被平台逐步下架处理。
虚假信息历来存在，但在当下，人人手握“麦克风”，皆可成为信息源。信息与新闻的界限愈发模糊，真假难辨的消息与汹涌的情绪交织，使得舆论场波谲云诡。相较于以往的人工造假1.0时代，AI技术的蓬勃发展已开启了深度伪造与低价量产的2.0新篇章。换脸、换声、换动作，乃至无中生有的文生文、文生图、文生视频……当虚拟形象可以低价定制，当详细文章可以瞬间生成，当“新闻”可以轻松炮制，我们应如何应对这一挑战？
假信息的激增已成为全球性问题，无论是国外政要、商界精英还是明星歌手，都未能幸免。流水线式的造假行为不仅侵犯隐私、混淆公众认知，更潜藏着巨大的风险。《2024人工智能安全报告》揭示，2023年基于AI的深度伪造欺诈增长了惊人的3000%，仅今年上半年，AI诈骗案的案值就已突破1.85亿元。
面对深度伪造的猖獗，识别与治理成为当务之急。有学者提出，应从假信息的生命周期和传播链条的三个环节入手：制造、传播、接受。在生产端，我国已出台《互联网信息服务深度合成管理规定》等法律法规，逐步明确了各方责任，期待更为有力的治理措施。平台方面，尽管已采取措施加强识别，但仍需加强技术升级，以技术对抗技术。
信息最终作用于人，传播媒介的迭代对受众产生深远影响。技术进步带来了“信息的洪流”与“选择的苦恼”，这也要求人们提升媒介素养，对于网络热点及吸睛信息，不可盲目相信、轻易转发。进一步而言，有意识地优化媒介使用策略，平衡信源、打破“茧房”，改善“信息偏食”、拒绝“偏听偏信”显得尤为重要。AI由人所创造，理应为人所用、为人服务。我们应对携手行动、以善治实现善“智”抱有信心。
