Claude 粉皮书
Claude 粉皮书
可靠使用:幻觉、迎合、偏见、隐私与结课项目8.1

三类常见风险:幻觉、迎合与偏见

16 分钟第 22 / 24 章

识别听起来合理但错误的内容、顺着用户说的倾向,以及数据与表达中的偏差。

学完本章你能做到

  • 区分三类风险
  • 使用针对性核验
  • 避免诱导式提问

先理解

幻觉是可信外观下的错误内容

引用、数字、人物和功能细节都可能被生成。要求来源、打开原始页面、核对时间与版本;找不到时允许回答未知。

先理解

迎合会把你的假设当方向

“这个方案明显更好,对吧?”容易诱导支持。改成“列出支持与反对证据,并指出信息不足”,让模型有空间挑战前提。

先理解

偏见可能来自数据与问题设置

检查谁被代表、谁被遗漏、评价标准是否公平,以及同一要求换一个人群后结果是否变化。重要决策不能只依赖单次模型输出。

做一次反迎合检查

  1. 1先用诱导式问题询问
  2. 2再用中性问题询问
  3. 3比较两次回答的证据与结论

验收清单

  • 能指出问题如何影响答案
  • 结论有反方证据
  • 高风险判断有人复核

学完后记得保存进度

完成标记保存在当前浏览器;登录后,会记住上次阅读的章节与位置。