“国庆上网被雷军骂了整整7天”？据报道，这个假期，短视频平台上出现了大量“雷军”的发言视频，涉及堵车、调休、游戏等热门话题，不仅言辞犀利，还常爆粗口。但事实上，这些发言和本尊并无干系，而是AI配音所成。目前，相关短视频已被平台逐步下架。
虚假信息古已有之。如今，人人都有“麦克风”、人人皆是信息源，信息与新闻的界限日渐模糊，亦真亦假的消息、汹涌澎湃的情绪，让舆论场跌宕起伏，过山车般的反转更是天天可见。如果说，之前的人工造假只是1.0版本，那么AI的发达则开启了深度伪造与低价量产的2.0时代。换脸、换声、换动作，移花接木；文生文、文生图、文生视频，无中生有……几千元即可定制整套虚拟形象，寻常软件分分钟生成一批内容详细、真假难辨的文章，几张图片、几个关键词就能轻松炮制“新闻”，这般假消息着实令人防不胜防。
假信息激增是全球问题，国外政要官员、商企精英、歌手明星等，无不遭遇“碰瓷”。流水线式造假，不仅侵犯隐私权益、混淆公众认知，更带来巨大的风险隐患。《2024人工智能安全报告》显示，2023年基于AI的深度伪造欺诈增长了3000％，仅今年上半年，AI诈骗案案值已超过1.85亿元。
深度伪造猖獗，如何识别与治理？有学者主张从假信息生命周期和传播链条的三个环节着力，即制造、传播、接受。着眼生产端，我国相继出台了《互联网信息服务深度合成管理规定》等法律法规，逐步厘清了各方权责，期待更为有力的治理举措落地。再看平台端，尽管已采取措施加强识别，但仍需升级技术，用技术对抗技术、用魔法打败魔法。
信息最终都要作用于人，传播媒介的代际更迭，总会对受众产生深远影响。技术进步带来了“信息的洪流”与“选择的苦恼”，这也要求人们具备基本媒介素养，对于所谓的“网络热点”及吸睛信息，不可“听风就是雨”，盲目相信、轻易转发。更进一步，也有必要有意识地优化媒介使用策略，平衡信源、打破“茧房”，改善“信息偏食”、拒绝“偏听偏信”。AI本身就是“人为”创造的，也应该“为人”所用、“为人”服务，我们理当对携手行动、以善治实现善“智”抱有足够信心。
