测试时间训练（Test-Time Training, TTT）是由斯坦福大学、加州大学和Meta AI共同研究的一种新型的语言模型（LLM）架构，这种模型可以处理更长的文本内容，性能优于现有的Mamba和Transformer模型。 传统的RNN（循环神经网络）在处理长文本时表现不佳，而自注意力机制（如Transformer）尽管表现优秀，但计算复杂度较高。TTT通过在测试时动态调整模型的内部状态来解决这些问题。 其核心思想是将隐藏状态本身设为一个机器学习模型，并将更新规则设为一个自监督学习步骤。TTT…