preprints & journals
Paper
arXiv 上的 AI 相关预印本、HuggingFace Papers 当日精选与 Nature 等期刊发布的原始研究论文。
50 items · 按发布时间倒序
50 items
2026 年 5 月50 items
- HuggingFace PapersAgent
Hugging Face 发布 HINT-SD 长期决策 agent 自蒸馏方法
Hugging Face 提出 HINT-SD 方法，让长期规划 agent 在任务完成后回顾中间步骤，从中提取有效经验进行自我优化。该方法在多个长期推理和交互基准上取得明显提升，为构建能处理复杂多步任务的 agent 提供了可行路径。
- HuggingFace Papers大模型
LLMs as Noisy Channels 论文从香农视角分析模型容量与缩放法则
HuggingFace 上的一篇论文将大语言模型视为有噪信道，从香农信息论的视角重新审视模型容量与缩放定律之间的关系。作者提出了一种理论框架，把 LLM 的推理过程类比为在噪声信道中传递信息，从而推导出新的容量上界和缩放规律。该工作为理解大模型为何随规模增长而性能提升提供了来自信息论的基础解释，或许能帮助研究者更理性地设计训练策略与模型结构。
- HuggingFace Papers图像模型
Lens 提出文本到图像基础模型训练效率改进方案
Lens 研究团队重新审视了文生图基础模型的训练效率问题，并提出了一套系统性的优化方法。这项论文分析了当前模型在数据使用、计算资源分配和网络结构上的效率瓶颈，旨在降低训练成本的同时保持生成质量。对于追求大规模图像模型训练的团队而言，Lens 提供了一些值得参考的实践思路与理论分析。
- HuggingFace Papers大模型
论文提出视频细粒度物体理解的视觉与语言对齐方法
一篇来自 HuggingFace 论文页面的新研究提出一种视觉与语言表征对齐方法，旨在提升视频中对物体的细粒度理解能力。该工作聚焦于视频场景下模型如何准确识别并关联视觉对象与语言描述，通过改进多模态表征的对齐机制来增强细粒度推理。研究对于视频问答、内容检索等下游任务具有潜在价值，属于多模态理解方向的技术探索。
- HuggingFace PapersAgent
SkillOpt 提出自进化 Agent 技能的执行策略
SkillOpt 是一种针对自进化 Agent 的执行策略，旨在让 Agent 在运行时自主优化和调整技能组合。该框架通过分析任务反馈，动态选择或生成新技能，从而提升长期任务完成的效率与适应性。论文展示了在多个复杂环境中，SkillOpt 相较于固定技能策略的优势，为可自我改进的 Agent 系统提供了新的设计思路。
- HuggingFace Papers世界模型
SCOPE 项目发布用于 FPS 游戏的世界模型仿真环境
SCOPE 项目提出了一种在可游玩环境中模拟跨游戏操作的框架，面向第一人称射击（FPS）游戏的世界模型构建。研究者设计了一套可交互的仿真场景，使智能体能够在不同游戏间迁移操作策略，从而加速 FPS 领域世界模型的训练与评估。该工作为游戏 AI 和具身决策研究提供了新的实验范式。
- HuggingFace Papers图像模型
PiD 提出像素扩散实现快速高分辨率潜在解码
PiD 提出一种基于像素扩散的潜在解码方法，在保持图像质量的前提下显著提升解码速度与分辨率。该方法直接作用于像素空间进行扩散生成，为高分辨率图像生成提供了一个更高效的解码路径。
- HuggingFace Papers视频生成模型
Geo-Align 提出基于度量几何奖励的视频生成对齐方法
Geo-Align 是一篇关于视频生成对齐的论文，核心思路是利用度量几何奖励来指导生成过程。该方法通过几何约束优化生成视频与参考视频之间的空间一致性，从而提升时间连贯性和动作真实性。论文有望改进当前视频模型在复杂场景下的对齐质量。
- HuggingFace Papers训练
Muon 优化器在 VLA 和 RLVR 中的频谱失败与修复方案
Muon 优化器在预训练中效果显著，但在视觉语言动作和强化学习微调中出现频谱失败，导致训练不稳定或性能下降。研究者通过高通过滤器设计提出修复方案，恢复收敛性。这一发现表明，优化器的通用性需谨慎验证，不同任务可能暴露不同的频谱特性缺陷。
- HuggingFace Papers图像模型
重新思考扩散Transformer的跨层信息路由
这篇论文重新审视了扩散Transformer（DiT）中的跨层信息路由设计。作者指出现有路由方式存在信息冗余与传递效率问题，提出了一种自适应路由机制，在保持生成质量的前提下减少计算开销。实验在类条件图像生成任务上验证了有效性，为后续DiT架构优化提供了新思路。
- HuggingFace PapersTTS
StepAudio 发布 2.5 技术报告
StepAudio 团队公开了 2.5 版本的技术报告，详细描述了模型架构改进与训练细节。新版本在语音合成质量、多说话人支持以及长文本自然度上都有提升，同时保持了较低的推理延迟。报告还对比了主流 TTS 方案的客观指标与主观评测结果，为后续研究提供了可复现的基线。
- HuggingFace Papers大模型
ETCHR 提出编辑方法以提升推理能力
ETCHR（Editing To Clarify and Harness Reasoning）通过编辑输入文本来澄清语义，以此增强大模型在复杂逻辑与多步推理任务中的表现。该方法在多个推理基准上取得一致提升，揭示了文本清晰度对推理质量的直接影响，为 prompt 工程和模型对齐提供了新视角。
- arXivAgent
SkillOpt 提出 agent skill 策略优化方法
SkillOpt 提出一种针对 agent skill 的优化框架，将技能生成与迭代视为可训练过程而非一次性的提示工程。论文指出当前 skill 多数依赖静态模板或缺乏约束的自我修订，难以根据反馈可靠提升。SkillOpt 借鉴深度学习优化思路，为 agent 的技能演化引入显式的策略更新机制，使技能在反复执行与反馈中持续改进。这项工作面向 agent 系统的长期自主进化，为 skill 层面的自动调优提供了更结构化的路线。
- arXiv视频生成模型
Geo-Align 提出基于度量几何奖励的视频生成对齐方法
相机可控的视频生成近年取得显著进展，但视频到视频重渲染方法高度依赖合成数据微调，真实世界同步多视角视频数据极度匮乏。Geo-Align 引入度量几何奖励，在无需配对真实数据的情况下对齐生成结果与几何约束，为视频生成模型在空间一致性上提供新的训练信号。
- arXiv图像模型
PiD 提出像素扩散解码器加速高分辨率图像生成
PiD 提出一种像素扩散解码器，用于替代传统潜空间解码器在高分辨率文生图系统中的重建步骤。该方法在保持图像质量的同时提升解码速度，为潜扩散模型和自回归模型提供更高效的像素映射方案。论文已在 arXiv 上公开。
- arXiv训练
研究提出 Shannon Scaling Law 解释大模型非单调现象
现有大模型 scaling law 多为单调幂律，无法解释灾难性过训练和量化退化等非单调现象。这篇论文从香农信道视角重新审视模型容量，提出 Shannon Scaling Law，将计算量与信息论容量关联，为理解大模型性能边界提供了新理论框架。该工作对训练策略和量化部署有潜在指导意义。
- arXivskill
从经验到技能的 Agent 技能消费系统研究
arXiv 上的一项研究系统性地分析了模型生成的 agent 技能，特别是领域级技能如何从原始经验中提炼并复用。研究者探讨了技能的结构化表示、消费机制以及在不同场景下的适应效率。这项工作为 agent 技能的生产与消费提供了理论框架，有助于推动 agent 编配和自动化任务执行的实用化发展。
- arXiv评测
SPACENUM 重新审视 VLM 空间数值理解能力
SPACENUM 是一项针对视觉语言模型空间数值理解能力的评测研究。作者发现，尽管这些模型能够生成类似动作幅度、空间坐标等数值，但这些输出是否真正基于空间理解仍存疑问。这项工作对 VLM 在具身环境中的可信使用提出了基础性挑战。
- arXiv其他
新研究发现人类大脑中的因果视觉表征
一项来自 arXiv 的研究尝试将视觉神经科学从激活最大化推进到因果推断层面，提出发现大脑中因果视觉表征的方法。传统 fMRI 研究通常靠响应强度定位面孔、场景等粗粒度功能区，该工作则通过因果干预识别哪些脑区真正驱动视觉概念的感知，而不仅是被动响应。这项工作为脑机接口和视觉解码模型的解释性研究提供了新的实验范式。
- arXiv训练
Complete-muE 提出 MoE 模型最优超参数转移与缩放框架
研究者提出了 Complete-muE 框架，用于在稠密前馈网络与任意混合专家配置之间转移超参数。与依赖固定架构的 μP 或固定每步 token 数的 SDE 不同，Complete-muE 不要求这些约束，能够直接适配不同规模的 MoE 模型。这项工作为大规模 MoE 训练提供了更通用的超参数缩放规律。
- arXiv3D
Good Token Hunting 提出视觉几何 Transformer 的 token 选择方法
Good Token Hunting 针对视觉几何 Transformer 中 token 冗余问题提出选择策略。这类模型在多视角 3D 重建中依赖全局注意力，计算量随序列长度平方增长。该工作通过筛选关键 token 降低注意力计算成本，在保持重建质量的同时提升效率。
- arXiv视频生成模型
Smart-Insertion-V 提出闭环反馈双流视频插入框架
Smart-Insertion-V 提出一种闭环反馈双流框架，用于将参考对象无缝插入源视频，尤其在参考对象与目标场景风格差异显著时仍能保持光影、纹理和运动的协调。该方法无需掩码标注，通过双流架构与反馈机制逐步优化合成结果，使插入物体在时序和空间上自然融入画面。相关工作已发表于 arXiv。
- arXiv3D
HorizonStream 提出长程注意力机制用于流式 3D 重建
在线 3D 重建面临严格因果与有限内存约束，现有方法在长序列上容易出现漂移、抖动甚至崩溃。HorizonStream 将问题归因于流式几何本质上的时间依赖性，并提出一种长程注意力机制来缓解这一矛盾。该方法在保持实时性的同时显著提升了长序列重建的稳定性，为在线 3D 感知提供了新思路。
- arXiv3D
GenRecon 提出基于生成先验的多视图 3D 场景重建方法
GenRecon 提出一种多视图 RGB 图像到高保真 3D 场景重建的新方法，其核心是将传统重建流程与强生成式三维先验紧密耦合。该方法将场景划分为空间局部且相互重叠的块，在每个块内进行条件 3D 生成，再拼接成完整场景。这一思路让重建结果在几何细节和纹理真实感上均显著优于纯优化或纯神经网络方法，为多视图 3D 重建开辟了结合生成模型的新路径。
- arXivAgent
CHRONOS 提出面向时序知识图谱市场的多智能体协调方案
CHRONOS 提出一种面向时序知识图谱数据市场的多智能体协调框架，同时解决静态混合索引在边演化时的召回下降、分布偏移后 Shapley 定价的失真，以及智能体对共享差分隐私预算的过度消耗三个耦合问题。该工作将多智能体协作、时序感知与隐私保护结合，为数据市场中动态数据的价值分配与安全共享提供了系统性解法。
- arXiv训练
基于词汇干预的多语言知识迁移方法
这项研究提出一种基于词汇干预的跨语言知识迁移方法。在低资源语言训练数据稀缺的条件下，仅对源语言模型进行少量词汇级修改，即可将科学推理、常识推理等任务所需的知识迁移至目标语言，无需依赖大规模平行语料。实验证明该方法能有效提升多语言模型在数据约束场景下的表现，为构建普惠多语言 NLP 系统提供了低成本路径。
- arXiv训练
PGT 提出程序化生成任务以提升 MLLM 细粒度视觉理解
PGT 是一个数据驱动框架，通过程序化生成任务来提升多模态大语言模型的细粒度视觉理解能力。该框架针对 MLLM 在需要精确对应视觉细节的场景中表现不佳的问题，设计了一套自动化的任务生成流程，让模型在更丰富的训练数据中强化视觉定位与语义匹配。论文发布在 arXiv 上，团队来自学术界，框架本身简洁且不依赖额外人工标注，具有较强的可扩展性。
- arXiv安全
研究分析球形 Hellinger-Kantorovich 流与差分隐私的关系
该研究从球形 Hellinger-Kantorovich 几何出发，分析了梯度流采样过程中传输与反应耦合的稳定性，并探讨了这一框架对差分隐私的理论启示。研究将统计物理与隐私保护连接起来，为设计更可控的采样算法提供了新的数学工具。
- arXiv视频生成模型
LaMo 提出自监督潜在运动先验提升视频生成物理真实性
LaMo 是一项针对视频生成中物理与运动一致性的自监督方法。它通过潜在空间中的运动先验，在不依赖外部模拟器或人工标注物理数据的前提下，让生成视频更符合真实世界的运动规律。该方法可作为现有视频生成模型的轻量插件，为将视频生成器推向可靠世界模拟器提供了一条低成本路径。
- arXiv训练
研究者提出免训练的循环 Transformer 方法
来自 arXiv 的一项研究提出了一种免训练的循环 Transformer 方法。该方法通过轻量级推理时包装器，循环使用冻结检查点中连续中间层块，无需微调、持续训练或架构改动。与以往需要训练的循环 Transformer 相比，这一方法在保持模型性能的同时降低了计算开销，为高效推理提供了新思路。
- arXiv训练
Muon 优化器概率梯度流理论分析论文发布
arXiv 上出现了一篇从概率梯度流视角分析 Muon 优化器的理论论文。作者构建了正则化 Muon 在矩阵参数概率空间上的梯度流，发现正则化正交映射是光滑 Fenchel 对偶函数的梯度。这项工作为理解 Muon 优化器的收敛行为提供了数学框架，对深度学习训练理论有参考价值。
- arXiv大模型
研究揭示 Vision Transformer 需要更好的 token 交互机制
一项新研究重新审视了 Vision Transformer 在长时间训练后出现的密集退化现象。作者认为，仅用高范数伪影无法完全解释该问题，并提出改进 token 间交互机制的必要性。这项工作为提升 ViT 在密集预测任务中的表现提供了新的理论视角。
- arXiv评测
研究评估 LLM 叙事解释对人类决策的影响
一项新研究探讨了 LLM 生成的叙事性解释如何影响人类在分类任务中的决策。实验表明，具有说服力的解释能显著改变用户判断，但解释的准确性与说服力之间可能存在张力。该工作为理解人机协作中的解释机制提供了实证基础。
- arXiv大模型
研究提出利用基础模型进行因果生成建模的统一框架
一篇新预印本提出将基础模型用于因果生成建模的方法，旨在让 AI 系统具备反事实推理能力。现有方案多在训练时加入因果约束，缺乏统一框架来利用预训练模型的零样本能力。该工作尝试弥合因果推理与生成模型之间的鸿沟，为构建更可靠、可解释的 AI 系统提供新思路。
- arXiv训练
研究挑战 LLM 预训练蒸馏的强教师假设
知识蒸馏通常认为更强的教师模型能训练出更好的学生模型，但一篇新论文在 LLM 预训练场景下重新检验了这一假设。通过调整架构规模与训练 token 预算，作者发现弱教师在某些条件下反而能带来更优的学生表现，挑战了蒸馏领域长期以来的直觉。这项研究为预训练阶段的蒸馏策略提供了新的设计空间，也提醒从业者不应盲目追求教师模型的规模。
- arXiv训练
半随机对抗条件下谱排名逐项误差界研究
arXiv 上发表了一项关于 Bradley-Terry-Luce 模型谱估计方法在非理想条件下性能的理论研究。研究聚焦于半随机对抗环境——即部分比较数据被对抗性篡改的情形，给出了谱排名方法在该设定下的逐项误差上界。该工作为排名方法在实际应用中的鲁棒性提供了理论保障，适用于推荐系统、体育竞技等存在潜在数据噪声与恶意干扰的场景。
- arXiv世界模型
研究提出基于真实世界视频的粒子动力学模型
这项研究提出了一种从真实世界视频中学习粒子动力学模型的方法。与依赖物理方程的模拟器不同，该方法通过数据驱动捕捉物体运动规律，具备可微分特性，便于与深度学习结合。实验表明，模型能有效预测刚体与非刚体运动，为可交互的世界模型提供了新思路。
- arXiv训练
MuellerPT 提出分解驱动的预训练方法用于 Mueller 偏振测量
MuellerPT 是一种针对 Mueller 偏振测量的预训练方法，利用物理引导的分解策略解决生物医学组织分析中标注稀疏和域漂移问题。该方法通过自监督学习捕获偏振图像的物理特征，提升下游密集预测任务的泛化能力。实验表明，MuellerPT 在多种跨域场景下优于随机初始化及通用预训练方法，为偏振光学在医学影像中的应用提供了可行的预训练方案。
- arXiv大模型
Decomposing Queries 提出将查询分解为工具调用实现长视频关键帧检索
长视频问答中，关键帧选择是提供可验证视觉证据的直接手段。现有方法要么对每一帧按单一查询评分，要么依赖固定策略，难以应对不同查询对视觉信息的不同需求。Decomposing Queries 提出将查询分解为多个工具调用，每个工具专注于检索特定类型的帧，再组合结果。这一思路让检索过程更灵活、可解释，也更容易适配不同视频场景。
- arXiv评测
研究揭示 LLM 地缘政治偏见主要来自后训练阶段
一项新研究挑战了“大模型地缘政治偏见主要源于预训练数据”的普遍假设。研究者测试了来自七家实验室的七对开源权重模型，每对包含基础模型与聊天模型，发现偏见更多是在后训练阶段被引入，且提示词的语言会进一步放大这种倾向。该发现对模型对齐与安全评估有直接参考价值。
- arXiv大模型
研究揭示语言模型中层级概念几何结构源于词共现
一项新研究从分布理论出发，解释了语言模型如何通过词共现模式在表示空间中编码上下位关系（即“is-a”关系）。作者基于WordNet层级图中词对共现频率更高的实证假设，构建了几何模型，揭示了层级概念结构的涌现机制。该工作为理解语言模型内部语义组织提供了理论支撑，对改进模型的可解释性和知识表示有参考价值。
- arXiv评测
研究揭示判别式与生成式训练对齐人类视觉感知的最佳平衡点
一项新研究探讨了计算机视觉中判别式与生成式训练范式的优劣之争。通过严格控制架构、规模与训练数据等变量，研究者发现并非越强的判别能力或生成能力越能对齐人类视觉感知，而是在两者之间存在一个最佳平衡区域。该工作为设计更类人、更可解释的视觉模型提供了新方向。
- arXiv训练
Debiased Negative Mining 改善视觉语言模型 OOD 检测
这篇 arXiv 论文提出了一种改进预训练视觉语言模型分布外检测的新方法。该方法名为 Debiased Negative Mining，通过引入去偏的负样本挖掘策略，让模型在未知类输入面前表现得更可靠。实验表明，这一思路相比传统后验概率阈值法有显著提升，为提升视觉语言模型在开放环境中的安全性提供了实用工具。
- arXiv图像模型
事件流显著性预测的 Transformer 方法
显著性预测在 RGB 图像和视频中已有大量研究，但事件相机数据的预测仍属前沿。该研究提出基于 Transformer 的事件流显著性预测模型，利用事件相机对动态场景的高时间分辨率优势，探索深度学习方法在神经形态视觉中的应用。实验验证了模型在事件数据上的有效性，为类脑计算与视觉注意的交叉领域提供新思路。
- arXiv大模型
研究提出对抗子空间对齐方法实现鲁棒多模态知识编辑
多模态大模型在更新知识时常常在老任务上出现能力退化，现有编辑方法在泛化性上也不够理想。这项研究提出对抗子空间对齐框架，不依赖二值编辑掩码，而是通过将新知识对齐到模型的语义子空间来提高编辑的鲁棒性。实验表明，该方法在保持原有能力的同时，能更好地将编辑结果推广到视觉问答等多模态场景，补上了当前编辑技术在泛化维度的一块短板。
- arXiv其他
研究揭示 AI 天气模型隐含物理方程
一项新研究通过计算预测技能与中心核对齐的相关系数，发现多个 AI 天气模型对大气状态的表征高度相似，暗示这些模型并非简单的数据拟合，而是在隐空间中隐式地求解物理方程。该工作为解释 AI 天气模型的成功机制提供了理论基础。
- arXiv评测
机器学习应用于祖母绿宝石分级的研究提出框架与公开数据集
一项将机器学习引入祖母绿宝石分级的研究，提出了完整的框架设计，并创建了首个公开的祖母绿数据集。传统宝石分级依赖专家目视比对参考石，流程主观且费时。该研究尝试用计算机视觉方法替代人工比对，为宝石鉴定和标准化评级开辟新路径。数据集的公开也为后续研究和模型训练提供了基础资源。
- arXiv图像模型
arXiv 研究提出 cGAN 与图像处理结合的木材计数方法
这项研究将条件生成对抗网络与经典图像处理技术结合，用于木材原木的自动计数。方法可应用于物料管理、安全监控、木材运输流量监测及体积估算等场景。研究重点在于利用 cGAN 增强图像分割精度，降低复杂堆叠场景中的遮挡干扰，从而提升计数可靠性。相关工作已在 arXiv 公开发布。
- arXiv编程工具
Agentic Proving 框架将 Claude Code 用于程序验证
arXiv 上的一篇新研究将 agentic 方法引入程序验证领域。作者在 Lean 4 的 CLEVER 基准上评估了 Claude Code，探索其作为自动化定理证明工具在可验证代码生成中的表现。这项工作将 agent 系统的能力从形式数学扩展到程序验证，为开发者提供了一种新的自动化验证思路。
- arXivAgent
PhotoFlow 提出 Agentic 3D 虚拟摄影任务与方法
PhotoFlow 将虚拟摄影定义为一项 agent 任务：进入无预设相机位姿的 3D 场景后，agent 需根据场景语义和自然语言指令自行推断拍摄意图，选择可执行的相机参数并渲染照片。该方法利用视觉语言模型理解场景构成与用户描述，在多个室内外场景中实现了与人类摄影师意图对齐的自动取景。