arXiv · 训练
研究者提出免训练的循环 Transformer 方法
来自 arXiv 的一项研究提出了一种免训练的循环 Transformer 方法。该方法通过轻量级推理时包装器，循环使用冻结检查点中连续中间层块，无需微调、持续训练或架构改动。与以往需要训练的循环 Transformer 相比，这一方法在保持模型性能的同时降低了计算开销，为高效推理提供了新思路。
- 域名
arxiv.org- 评分
- 4 · 重要更新
- 发布
- 2026-05-22
导读
这条暂时没有深度导读，点上方「访问项目本体」直接到源页面查看。
原文摘要
We introduce training-free looped transformers, in which a lightweight inference-time wrapper loops a contiguous mid-stack block of layers of a frozen checkpoint without additional fine-tuning, continued training, or architectural changes. Unlike prior looped transformer methods that train with the…