网信部门集中查处违规AI生成内容App，强化人工智能监管

网信部门集中查处了一批人工智能生成合成内容标识违规的App，这些App存在违规生成、传播虚假信息等问题，严重破坏了网络生态，此次行动旨在加强对人工智能生成内容的监管，保护公众合法权益，维护网络空间的安全和稳定，这些被查处的App将会受到相应的处罚，以起到警示和震慑作用，防止类似问题的再次出现。

11月25日，据“网信中国”微信公众号消息，网信部门依法对一批在人工智能生成合成内容标识方面存在违法违规行为的移动互联网应用程序进行了集中查处。

针对部分网站平台未能有效执行人工智能生成合成内容标识的相关规定，近期网信部门已对相关违规App采取了包括约谈、责令限期整改、下架下线等在内的多项处置措施。主要违规情况包括：

1、人工智能生成合成服务提供者未对所生成的内容添加可被用户明显识别的显式标识；在提供内容导出功能时，也未在导出文件中加入显式标识；同时，在生成内容的文件元数据中缺少包含属性信息、服务方名称或编码、内容编号等关键信息的隐式标识，或存在隐式标识添加位置不符合规范等问题。

2、网络信息内容传播平台未履行对隐式标识的核验义务，未在发布内容周围设置醒目的提示标识；在内容传播过程中涉及的文件元数据中，未记录属性信息、传播平台名称或编码、内容编码等必要的传播要素；且未向用户提供声明其所发布内容为AI生成的功能选项。

国家网信办有关负责人指出，人工智能技术虽有力推动了经济社会发展，但也带来了技术滥用和虚假信息扩散等风险。为应对此类挑战，国家网信办等部门出台了《人工智能生成合成内容标识办法》，明确了相关内容标识的具体要求。各平台须严格遵守相关规定，加强标识识别与内容审核能力建设，完善用户提示机制和账号管理，坚守合法合规运营底线。下一步，国家网信办将持续推进依法治网，加强对AI生成内容标识的监管，保障人工智能产业健康有序发展。