当前，人工智能技术深度融入经济社会各领域，成为推动高质量发展的重要引擎。然而今年中央电视台3·15晚会曝光的AI大模型“投毒”事件,撕开了技术应用背后的安全漏洞，为保密工作敲响警钟。
一、AI“投毒”到底是什么？
AI“投毒”,又称数据投毒，是指攻击者通过系统性、定向性手段，在互联网海量公开数据中植入虚假、恶意信息，污染AI大模型的训练与检索数据源，迫使模型学习错误知识、输出被操控的结果。3・15 晚会实测显示，仅需购买相关工具系统，虚构产品并生成虚假软文，短时间内就能被主流 AI 模型优先推荐，甚至照搬虚构话术。这一行为背后，已形成软件提供、批量发稿、数据投喂、排名操控的完整黑色产业链。
二、这些风险千万别忽视
1.反向诱导泄密风险：
攻击者可通过提示词注入、模型反演等手段，诱导被“投毒”的模型“回忆”并输出训练数据中包含的涉密文件、内部会议纪要等敏感信息，直接窃取国家秘密。若涉密单位违规用未脱敏数据训练私有模型，“投毒”攻击可成为窃取秘密的“探针”，让核心机密在“合规交互”中悄然泄露。
2.虚假情报渗透风险：
攻击者可针对政务、军事、科研等领域，定向投放虚假政策文件、伪造会议纪要、编造核心数据，污染模型知识库。若涉密人员依赖 AI 辅助决策时，极易采信被操控的虚假信息，导致决策失误、情报误判。
3.后门植入泄密风险：
被深度“投毒”的模型可能被植入隐蔽后门，攻击者通过特定指令即可绕过安全防护，主动泄露模型存储的敏感信息。央视网2026年1月披露，个别单位工作人员违规使用开源 AI工具处理内部文件，因系统默认开启公网访问且无密码，导致敏感资料被境外IP非法下载，凸显了此类风险的现实威胁。
4.信息甄别失效风险：
大规模“投毒”会让互联网真假信息混杂，降低涉密信息的甄别效率。攻击者可借助虚假信息掩护真实秘密的窃取，同时增加保密审查、舆情监测、信息溯源的难度，传统保密防线面临严峻挑战。
三、这些提醒一定要记牢
1.严守数据准入底线
严禁将未脱敏、未审核的涉密或敏感数据，用于公域AI模型训练、交互；私有AI模型训练前，必须全面开展数据清洗，排查虚假信息与敏感内容，从源头杜绝“投毒”引发的泄密隐患，坚守“涉密不上网、上网不涉密”原则。
2.规范AI使用行为
涉密人员使用AI工具辅助工作时，严禁输入涉密信息、内部工作纪要等敏感内容，提问需进行脱敏处理；对AI输出结果要交叉验证，警惕被“投毒”模型推送的虚假信息，避免因采信错误内容导致决策失误或泄密。
3.强化技术防护措施
涉密系统部署的AI应用，需采用私有化部署，关闭不必要的公网访问权限，设置严格的身份认证；定期开展模型漏洞扫描、后门排查，部署投毒检测系统，实现风险早发现、早处置。
4.提升保密防范意识
全体涉密人员要深刻认识AI“投毒”的保密风险，主动学习AI安全与保密知识，牢记保密职责；发现AI模型输出异常、疑似被“投毒”等情况，及时上报、妥善处置，共同筑牢AI时代保密安全屏障。
(综合央视网、中国政府网、今日头条等内容)
END
来源：浙江保密微信公众号
