AI安全-认知与对抗系列

需求背景

随着新一代信息技术的快速发展，深度合成、AIGC等技术作为人工智能领域的新应用正在快速普及。基于深度学习的DeepFake类造假技术（如视频换脸、声音伪造）的逐步成熟，导致造假的技术门槛和成本逐步降低；AIGC技术的进步也加剧了AI生成内容技术被滥用的风险。深度合成及AIGC等新技术的滥用将造成大量通过AI生成的虚假的、具备政治立场的、诱导性的文本、图片及音视频被制造出来，势必对社会认知、知识产权、网络安全、国防安全、社会安全等带来严重威胁和重大挑战。

在政策法规方面，为规范互联网信息服务深度合成使用以及生成式人工智能生成数据的有效管理，促进互联网信息服务健康发展、推进网络空间治理、维护社会公平稳定发展，国家互联网信息办公室协同相关部门分别发布了《互联网信息服务深度合成管理规定》以及《生成式人工智能服务管理办法（征求意见稿）》。

在技术诉求方面，深度伪造及AIGC生成内容的精准检测问题亟待解决，为国家相关部门对这些技术滥用的监管与治理提供有力抓手。