两会声音 | 全国政协委员、奇安信科技集团董事长齐向东：开展体系化人工智能大模型安全防护

齐向东说，以大模型为核心的人工智能技术是创新范式变革与产业升级的关键引擎，然而技术跃升与安全风险始终伴生演进，数据安全、应用安全、基础环境安全、大模型自身安全等挑战加剧。

齐向东建议，开展体系化的人工智能大模型安全防护，建立适配大模型的纵深防御体系，从技术层面全面排查加固人工智能大模型基础设施，形成覆盖终端、应用、数据、大模型、算力与基础设施的多维度核心防护能力。同时，重点打造大模型数据安全“双控机制”，一方面，对输入侧数据进行筛查和消杀，并实施严格的访问控制措施，做好从数据喂养到内容生成的全链路安全管控；另一方面，强化输出侧控制，有效防范“认知污染”，通过完善大模型安全“监管沙盒”机制，在政务大模型等关键领域大模型上线前开展深度测试，强化对潜在风险的预警和控制。