可靠使用:幻觉、迎合、偏见、隐私与结课项目8.1
三类常见风险:幻觉、迎合与偏见
16 分钟第 22 / 24 章
识别听起来合理但错误的内容、顺着用户说的倾向,以及数据与表达中的偏差。
学完本章你能做到
- 区分三类风险
- 使用针对性核验
- 避免诱导式提问
先理解
幻觉是可信外观下的错误内容
引用、数字、人物和功能细节都可能被生成。要求来源、打开原始页面、核对时间与版本;找不到时允许回答未知。
先理解
迎合会把你的假设当方向
“这个方案明显更好,对吧?”容易诱导支持。改成“列出支持与反对证据,并指出信息不足”,让模型有空间挑战前提。
先理解
偏见可能来自数据与问题设置
检查谁被代表、谁被遗漏、评价标准是否公平,以及同一要求换一个人群后结果是否变化。重要决策不能只依赖单次模型输出。
做一次反迎合检查
- 1先用诱导式问题询问
- 2再用中性问题询问
- 3比较两次回答的证据与结论
验收清单
- 能指出问题如何影响答案
- 结论有反方证据
- 高风险判断有人复核
学完后记得保存进度
完成標記保存在目前瀏覽器;登入後,會記住上次閱讀的章節與位置。