日前，国家互联网信息办公室发布《人工智能生成合成内容标识办法（征求意见稿）》，旨在规范人工智能生成合成内容标识，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益。该《办法》是全球第一部关于人工智能生成合成内容标识的国家标准，对人工智能内容产业的发展具有重要的指引意义。
《办法》的出台有必要性与紧迫性——近年来，生成式人工智能的使用门槛降低使得在网络平台编造不实信息的成本也随之降低。利用AI造假在对信息传播生态产生负面影响的同时占用公共资源、激化群体矛盾，使得生成式人工智能技术遭受诸多质疑，同时也引发了很多社会问题。这种情况下，通过制定规则、完善法律，将有脱缰之势的人工智能拽回“安全区”，迫在眉睫。
《办法》的出台既是治理，也是防范——当前，生成式人工智能遭遇滥用的问题已经不容忽视，深度伪造技术已然成为有心之人与不法分子手中的利器。《办法》的覆盖内容几乎囊括了当前的所有AI生成内容类型，以对治理相关问题可以起到积极作用。同时，《办法》中明确网络信息服务提供者应当按照有关强制性国家标准的要求进行标识，生成合成内容下载、复制、导出的文件中也需要含有满足要求的显式标识，如此，可以在落实平台责任的同时降低群众遭遇生成合成内容诈骗的风险。
《办法》的出台既是限制也是保护——今年6月，习近平总书记向2024世界智能产业博览会致贺信指出，人工智能是新一轮科技革命和产业变革的重要驱动力量，将对全球经济社会发展和人类文明进步产生深远影响。世界知识产权组织发布的《生成式人工智能专利态势报告》中显示，近十年我国申请的生成式人工智能专利数量在全球排名第一，生成式人工智能涉及到生命科学、文档管理和出版、商业解决方案、工业和制造业、交通、安全和电信等多个领域，未来也必然将对各行各业产生重大影响。人工智能技术想要长久、稳定地发展，就必须解决现阶段技术滥用带来的问题。系统性、结构性的规范，在为人工智能的应用划下红线的同时，也为其长久发展提供了可靠的保障。
总的来看，《办法》的发布，可以看作是对人工智能生成合成内容乱象的回应，是我国在治理人工智能技术带来的挑战上迈出的重要一步。期待未来有关领域的法律规定更加精细、全面，也相信我国的人工智能产业会在不断完善的规则框架中健康有序地发展。
