近期，中国针对人工智能技术的快速发展及其带来的潜在风险，正式推出了《人工智能生成合成内容表示办法》。这一举措紧随雷军对AI换脸和AI拟声技术的公开关注，标志着中国在AI治理领域迈出了重要一步。
随着AI技术的广泛应用，市场上已涌现出超过300款生成式AI产品和3000多个生成合成服务。然而，技术的滥用也引发了社会对虚假信息传播和身份冒充等问题的担忧，导致信任危机。为此，国家网信办等四部门联合发布的《办法》，旨在通过“技术标准+管理制度”的双重模式，强化AI治理，确保技术的健康发展。
《办法》中的一大亮点是引入了显式标识和隐式标识的双轨机制。显式标识要求AI生成的内容以直观的方式，如视频水印、文本标注等，明确告知用户其身份。而隐式标识则通过数字水印、元数据嵌入等技术，在文件底层添加不可见的“身份证”，为监管部门提供溯源依据。
对于内容发布平台而言，《办法》同样提出了严格要求。平台需自动检测并标识上传的内容，对未标识的内容添加显著提示。同时，平台还需提供标识工具，引导创作者主动声明内容的AI生成属性。对于申请无显式标识的用户，平台需对其身份和使用记录至少保留6个月，以实现从源头防控技术滥用。
《办法》还对用户（创作者）设定了明确的规范。使用AI生成的内容必须主动标识，且标识不得删除、伪造或隐匿。一旦违反规定，将依据相关法律法规追究责任。这一举措旨在确保AI生成内容的真实性和可信度，维护社会信任。
