AI代理的记忆不应作为审计追踪

作者强调自主AI代理需区分“代理记忆”与“系统可证明性”。代理记忆可能因会话结束、上下文压缩、模型更换或重启而消失，但审计需独立记录代理行为、时间、影响资源、策略评估、决策、审批人、策略版本及最终结果。生产部署中，代理声称“部署了2.4.1版本”并非证据，审计记录应独立存储，涵盖请求、策略评估、授权、人工审批、执行、结果等环节。多代理协作时，代理D调查事件不应依赖代理A的记忆，而应查询不可变历史。作者在NAEOS项目中探索此方向，主张审计追踪应超越代理生命周期，独立于模型、会话和记忆。核心原则：代理记忆助其运行，审计证据助组织信任，两者是不同系统。最后询问其他构建者，若AI代理修改生产基础设施，需何种证据才信任该行为。