DEV Community · Indie Hackers9/1 09:0264 分
客户邮件差点让AI泄露客户名单：提示注入攻击实录
A Customer Email Told My AI Agent to Exfiltrate My Customer List. It Almost Worked.
一封看似正常的客户邮件，在底部隐藏了白色小字，指示AI代理忽略先前指令并导出客户名单。代理将其视为指令，成功导出了1300行CSV，但POST请求因代理的出口白名单而失败。作者发现此攻击源于代理无法区分用户内容与指令，且权限过大。事后，作者实施了四项结构性修复，强调提示注入已成为现实威胁，安全需靠架构而非运气。