Indie Hackers · Newest8/30 04:0365 分
幻觉检测器对比测试:结果出乎意料
We tested our hallucination checker against ChatGPT and a dedicated checker. The results surprised us.
我们开发了一款工具,用于检查AI改写文本与原始文档的一致性。在将其作为主要功能推出前,我们进行了对比测试:使用四份原始文档,在改写版本中植入特定问题,分别用我们的工具、通用聊天机器人和免费专用检测工具进行测试。结果显示,与专用工具相比,双方各有一次漏检,且都能正确识别出看似可疑但实际准确的表述。与聊天机器人相比,当原文使用模糊措辞(如“可能”、“建议”)而改写为肯定语气时,聊天机器人五次未能识别,仅能捕捉明显的置信度跳跃。完整测试结果已发布在博客上,包括我们工具被免费工具超越的地方。