保密资料不代表完全不能使用 AI

企业在评估智能体时,经常担心合同、客户信息、内部制度和业务数据泄露。这个担心是必要的,但解决方法不是把所有资料一次性导入,也不是完全放弃使用,而是先对资料进行分类,确定哪些内容可以进入首版系统、哪些只能在授权范围内使用、哪些不应接入。

具体部署和安全方案需要结合企业的数据类型、现有系统、使用人员和合规要求单独评估,不能只依靠一套通用设置。

先完成资料分级

可以把资料分为公开内容、内部通用内容、部门受限内容和高度敏感内容。官网介绍、公开产品说明等通常风险较低;客户身份信息、合同、报价规则和未公开经营数据则需要更严格的访问控制。

第一版智能体应尽量使用必要且风险较低的资料,不要为了“知识更全面”而扩大无关数据范围。

遵循最小必要原则

智能体只应获取完成当前任务所需要的字段和文档。例如,客服助手如果只需要判断产品类型,就不应同时读取完整客户档案。数据越少、权限越窄,出现误用时的影响范围越可控。

对测试资料进行脱敏

项目验证阶段可以使用脱敏样本,替换姓名、电话、账号、合同编号和其他可识别信息。脱敏后的样本仍应保留业务结构,才能测试分类、提取和流程判断是否符合要求。

区分人员与部门权限

内部知识助手不应默认让所有员工查看全部资料。需要根据岗位、部门和业务范围设计权限,并明确离职、调岗和项目结束后的访问变更方式。外部客户使用的客服智能体,应与内部知识范围严格区分。

保留操作记录和人工确认

涉及重要数据查询、结果修改或外部发送时,应记录谁在何时执行了什么操作。报价、合同、付款、法律承诺和敏感信息处理等高风险环节,应保留人工审核,不让智能体独立做最终决定。

安全需要持续维护

上线后还需要定期检查资料是否过期、权限是否变化、日志是否异常,以及新的业务功能是否扩大了数据范围。安全不是交付时的一次设置,而是后期维护的一部分。

鉴维网络在需求评估时会先确认资料来源、访问人员、系统连接和人工边界,再决定适合采用的实现方式。具体能力仍取决于客户现有系统提供的接口与权限条件。