🐱 无关文本“猫攻击”可使AI模型错误率翻倍，响应时间延长

一项发表在arXiv上的预印本研究显示，在数学题中加入与上下文无关的文本（研究人员称之为“CatAttack”）会系统性地误导AI模型，使其得出错误答案的概率增加一倍以上。研究人员使用DeepSeek V3、Qwen 3和Phi-4进行测试，结果显示“CatAttack”将错误答案的概率提高了最多700%。即使未导致错误，这种无关文本也会延长模型的响应时间，在16%的情况下将响应时间加倍，导致运行成本增加。

(科技情报)

via 茶馆 - Telegram Channel