AI监控代理六周运行实录

Inithouse的Watching Agents平台允许用户部署AI代理监控关于未来的问题。本文记录了一个为期六周的运行案例：代理从62%的概率估计和34/100的置信度开始，前两周收集11条证据，概率微升至65%，置信度升至51。第19天，代理因一篇关于执法时间表延迟的新闻发出虚假警报，概率从65%降至48%，但48小时内自行恢复至61%。第4-5周，证据减少，概率稳定在67%，置信度达71。文章指出，代理在无矛盾证据时置信度上升可能是一种失败模式，且未对虚假警报进行人工修补，以观察自主纠正能力。