AI进档案，安全怎么管？

2026年4月，国家档案局办公室印发《关于推进人工智能在档案行业应用的意见》（以下简称《意见》）。《意见》提出了10项主要措施，其中3项为人工智能安全领域的要求，涵盖算法监控、安全管理、防范泄密等多个方面，这充分体现了国家档案局对人工智能应用安全的高度重视。人工智能安全管控是一项系统性工程，必须摒弃“孤点防护”和“局部加固”的传统安全思维，打造覆盖机制、算力、数据、算法、应用“五位一体”的人工智能一体化安全保障体系，形成从源头管控到全过程审查的安全防护闭环，切实筑牢人工智能在档案行业应用的安全底座。

一、谁的责任谁来担

1.建立内部协同机制

加强档案部门内部组织协调，建立由档案接收、保管、利用、编研等业务部门和信息化、保密、财务、安保等综合部门共同参与的工作协同机制，明确牵头机构和职责分工，共同解决人工智能安全管控中的重点、难点、堵点问题。

2.完善外部协作机制

建立覆盖人工智能应用各相关方的安全责任体系，可参考档案信息化服务外包等领域的成熟经验，明确建设单位、实施单位、供货单位、运维单位的安全职责与义务，确保安全责任落实到人，形成权责对等、分工明确、边界清晰的安全管控格局。

二、算力：自己的地盘自己守

1.坚持自主可控

档案涉及国计民生重要信息，必须确保算力基础设施自主可控。

2.坚持稳妥审慎

认真落实《意见》要求，优先使用档案部门自建或本单位、本系统自建智能算力平台。应科学规划算力平台业务边界，准确划分档案数据使用范围。

三、数据：从源头管到销毁

1.语料库安全

档案是权威的信息来源，在构建优质语料库方面具有天然优势，但这并不意味着档案行业的语料库安全可以高枕无忧。

加强语料库安全，一要提升面向人工智能应用的档案数据治理能力，开展档案文本语义结构化标注规范研究，提升档案文本标注的标准化、规范化水平，避免不同标注方式造成语料歧义，为高质量的语料库建设奠定坚实基础。二要强化安全防护，运用伪造内容识别、对抗样本检测等技术，防范语料库遭受投毒攻击，有效应对数据污染等安全威胁。三要实施“AI初筛+专家复核”的双重校验机制，防范人工智能不易识别的误导性内容（如一语双关等）。

2.知识库安全

鉴于档案应用场景对知识精准度、内容权威性、来源可追溯性有特殊安全要求，必须打造完善的档案知识库安全机制，实现知识生产、管理、运营、应用的全流程安全治理。一要确保知识源安全，为每个知识点强制关联档号等关键元数据，形成知识点的“数字指纹”，确保知识来源权威可靠。二要确保内容安全，从安全过滤、冲突消解、质量评估3个维度构建动态化知识安全治理闭环。三要确保操作安全，通过加密存储、访问控制、行为监控、审计溯源等方式构建全链路知识防护体系，实时监测修改、删除等敏感操作。

四、算法：选、用、退全程盯紧

落实算法安全策略的典型方式是加强人工智能模型安全的全过程管控，具体包括模型的选用、部署、运行、停用等主要环节。

1.模型选用

应通过网信办官方渠道核实模型备案情况，不使用未经备案的模型。

2.模型部署

有条件的档案部门应优先采用本地化方式部署模型，落实接口控制、三员管理、最小权限、口令强度、等级保护等基本安全要求。采用模型安全护栏等技术措施，识别拦截提示词注入攻击和违法不良信息。审核并管控输出内容，确保不超出业务范围，对不当或超范围提问采取拒答、固定答复等稳妥回应。

3.模型运行

面向社会公众应用时，应严格把控推理过程显示功能，防止推理过程泄露信息。应准确记录系统行为、用户行为等模型运行日志，留存时长不少于1年，并定期对日志记录进行审计。加强模型运行监测，定期分析网络安全攻击和模型安全护栏告警等情况，制定安全应急响应预案，支持通过一键关停等技术措施对突发事件进行处置。