下载PDF或阅读论文，请点击：LlamaFactory - huggingface daily paper - 每日论文解读 | LlamaFactory | LlamaFactory
摘要
我们推出了TESS 2，这是一种通用的指令跟随扩散语言模型，其性能优于当代的指令调整扩散模型，有时甚至与强大的自回归（AR）模型相当。我们通过首先使用常规的交叉熵作为扩散损失，通过持续预训练来调整一个强大的AR模型，然后进行进一步的指令调整来训练TESS 2。我们发现，调整训练以及基础模型的选择对于训练良好的指令跟随扩散模型至关重要。我们进一步提出了奖励引导，这是一种新颖且模块化的推理时间引导过程，可以在不需要训练底层模型的情况下对齐模型输出。最后，我们展示了随着推理时间计算量的增加，TESS 2的性能进一步提升，突显了扩散语言模型在推理时间对计算量进行精细控制的重要性。代码和模型可在https://github.com/hamishivi/tess-2获取。
一句话总结
TESS 2 是一种大型通用扩散语言模型，通过结合预训练和指令调整，在多个下游任务中优于现有的扩散语言模型和自回归模型。
问题1：这篇论文想要解决什么具体问题？
-
问题背景：现有的自回归语言模型在规划和自我修正方面存在局限性，而扩散语言模型作为一种替代方案，虽然具有潜力，但规模较小，主要关注内在指标的提升。
-
现有方案不足：现有的扩散语言模型规模较小，且主要集中在提高内在指标如困惑度，而不是用于评估自回归语言模型的常见下游任务。
-
研究目标：提出 TESS 2，一个大规模的扩散语言模型，通过结合预训练和指令调整，在多个下游任务中达到或超过自回归模型的表现。
问题2：论文的核心创新点是什么？
-
方法改进：通过指令调整进一步优化扩散模型，并引入了基于奖励的指导，这是一种在推理时引导模型生成与用户偏好一致文本的新技术。
-
优势：与现有方法相比，TESS 2 在多个下游任务中表现出色，特别是在问答和一般指令遵循方面。
问题3：实验结果如何验证了方法的有效性？
-
关键实验：在多个下游任务上进行了评估，包括 AlpacaEval、SQuAD、TriviaQA 和 IFEval。
-
性能提升：TESS 2 在这些任务上的表现优于或接近于自回归模型。
-
对比结果：与现有的扩散语言模型相比，TESS 2 在多个任务上取得了更好的结果。
问题4：这个研究的实际应用价值是什么？
-
应用场景：TESS 2 可用于各种需要高级语言理解和生成的场景，如聊天机器人、问答系统和文本生成。
-
实施建议：使用 Mistral 作为基模型，并应用提出的适应和指令调整食谱。
-
局限与展望：尽管 TESS 2 在多个任务上表现出色，但它在推理速度和某些推理任务上的表现仍落后于自回归模型。未来的工作可以集中在提高推理速度和改进推理质量上。
