要求AI简洁回答可能导致其出现更多幻觉

巴黎人工智能检测公司 Giskard 的一项新研究发现，要求人工智能聊天机器人回答问题时更加简洁可能会导致其产生更多幻觉。研究人员表示，要求模型用更短的篇幅回答问题，尤其是那些涉及模糊主题的问题时，可能会对人工智能模型的事实准确性产生负面影响。研究人员写到：“我们的数据显示，对系统指令的简单更改会显著影响模型产生幻觉的倾向。这一发现对AI模型的实际部署具有重要意义，因为许多应用为了减少数据使用量、提高响应速度和降低成本，通常会优先选择简洁的输出结果。”研究人员推测，当被要求不详细回答时，模型就没有足够的“空间”去承认错误前提并指出错误。

—— Techcrunch

via 风向旗参考快讯 - Telegram Channel