规范AI服务和应用的相关规定持续加码。今年4月，中央网信办在全国范围内部署开展为期4个月的“清朗·整治AI应用乱象”专项行动，聚焦大模型训练语料安全、AI数据投毒、生成合成内容标识落实不到位、AI技术生成“数字泔水”、制作发布虚假信息、假冒仿冒他人等热点问题，整治AI应用服务典型违规问题和AI信息内容乱象。在此之前，2025年9月1日，《人工智能生成合成内容标识办法》（以下简称《标识办法》）正式施行，明确要求文本、图片、音频、视频、虚拟场景等人工智能生成合成内容需要标识说明。

加强生成内容乱象溯源治理

利用GPT-image-2等最新生图模型，创作者能够批量产出电商详情图、宣传海报等内容，也可以生成仿冒聊天记录、转账凭证、企业家言论截图。“‘有图有真相’曾是公众判断信息真实性的重要经验，但如今，传播任何看似真实的截图、照片或短视频前，都应该有意识‘多停三秒钟’辨别真伪，网络信息生态中的默认信任正在受到冲击。”知名博主“数字生命卡兹克”向记者表示。

近期“东鹏特饮创始人不喝自家饮料”的谣言便是典型案例。经溯源调查，罗某某为博取关注、引流牟利，借助AI工具编造虚假信息散布谣言，相关内容广泛传播，对企业造成恶劣影响，目前罗某某已被公安机关依法刑事拘留。此外，短视频滥用AI生成“魔改”经典电影形象、AI盗用人脸形象等问题层出不穷。

“当前AI造假与溯源技术呈现‘主动防御在前，被动检测在后’的协同态势。”中国信通院政策与经济研究所副所长李强治向记者表示，没有任何单一技术是绝对可靠的，最有效的方案是将多种技术融合，构建分层、多维度的纵深防御体系。

李强治指出，目前主要有三种技术方案。一是主动标识，通过元数据记录、数字水印等技术添加隐性标识，实现生成来源和流转路径的可追溯；二是被动鉴别，利用基于GAN上采样伪影的频谱检测、模型指纹提取、多模态鉴别等技术检测内容中的人脸一致性、生物信号等伪造痕迹；三是链式存证技术，通过将生成时间、提示词、参数轨迹等元数据上链或嵌入加密签名，构建不可篡改的来源链条。

“针对AI生成内容治理，国家正在形成软硬兼具、层次分明的治理框架，分阶段、分层级地将内容溯源能力纳入强制合规义务。”李强治进一步表示，考虑到当前内容溯源技术发展情况，相关规定提出了部分鼓励性、非强制性要求。例如，《标识办法》鼓励而非强制采用数字水印技术。

加快建立全链条治理体系

AI生成内容治理从单点监管走向全链条治理，意味着平台和服务提供者不能再仅仅依靠“事后删帖”“封号”来应对AI风险，而要在内容生成、发布、传播、核验、处置等环节承担更明确的责任。李强治认为，国家已构建起“1+1+N”标识制度体系，分阶段、分层级将内容溯源能力纳入强制合规义务。例如，服务提供者应对深度合成内容履行隐式标识义务，内容传播平台应核验文件元数据中的隐式标识，对缺失或不合规的标识进行补充，并对疑似生成合成内容添加显著提示。

与此同时，AI数字人、AI陪伴、AI角色等拟人化互动服务也进入规范发展阶段。国家网信办、工业和信息化部等五部门联合发布的《人工智能拟人化互动服务管理暂行办法》，将于2026年7月15日起施行，重点规范模拟自然人人格特征、思维模式和沟通风格的持续性情感互动服务，特别强调未成年人保护、数据安全和风险防范。此外，相关管理办法提出对数字虚拟人服务实行全流程管理，要求不得未经特定自然人同意提供足以识别其身份的数字虚拟人服务。

值得关注的是，加强监管并非为技术创新设置障碍，而是在技术快速扩散阶段为行业明确边界；不是让公众远离AI，而是让AI生成内容可识别、可追溯、可问责。

李强治表示，我国人工智能治理体现出“场景化、小切口”的敏捷治理思路，针对AI情感依赖、AI换脸诈骗、数字虚拟人侵权等具体风险出台针对性规定；同时，监管正从“事后追责”转向“事前预防、事中监管、事后处置”相结合，并逐步形成“伦理+法律+标准”的立体治理体系。

但技术治理仍存在边界。“数字生命卡兹克”认为公众对图片真实性的判断成本显著上升，“公众信任正在从内容本身，转向信息源头的人或者机构”。他提醒，水印、C2PA、像素级隐性水印等方案有助于提升内容透明度，但并不能单独解决所有问题，“本内容由AI生成”的标识可以帮助判断内容来源，却不必然意味着内容真实。

李强治表示，未来需要继续强化“以技治技”的底层能力，推动标识、溯源、检测、存证等技术协同演进；压实平台主体责任，对涉企舆情、金融交易、医疗健康、未成年人等高风险场景提高审核等级。对于风险未知但前景广阔的前沿AI应用，如高水平自主智能体，应加快创新监管沙盒与动态评估机制。

“此外，要像普及反诈知识一样，普及‘AI幻觉’‘深度伪造’等概念，提升公众对数字内容的批判性思维和鉴别能力。”李强治补充说。

AI技术进步是不可逆的过程，但更应强调技术普惠与为民服务。只有在技术创新、制度约束、平台治理和公众参与之间形成合力，AI工具才能在可信、可控、可持续的轨道上服务经济社会发展，“有标识、有溯源、有责任”才能“有图有真相”。

（人民邮电报记者 李晓东）