📰 2026-07-28 · 每日技术速递
今日精选 6 篇深度技术文章,覆盖智能体强化学习训练框架、原生多模态预训练、稀疏注意力推理加速、MoE 参数高效微调、潜空间推理链、AI-Native 操作系统定义。
1. Molt:面向智能体强化学习的可扩展 PyTorch 原生训练框架
来源:arXiv cs.LG
链接:https://arxiv.org/abs/2607.21653
标签:智能体RL · 训练框架 · PyTorch · 分布式训练
智能体强化学习研究需要频繁修改算法:新估计器、新流水线阶段、新 rollout 方案,而主流框架中每一处改动都要穿透 trainer、分布式后端与 rollout 胶水代码等多层结构,迭代成本极高。Molt 提出了一个 PyTorch 原生的可扩展训练框架,将算法逻辑与分布式执行解耦,让研究者以最小侵入方式实验新的智能体 RL 算法,同时保持大规模训练的可扩展性。
核心要点:
- 针对智能体 RL 的高频算法迭代场景设计,改动不再穿透多层框架代码
- PyTorch 原生实现,算法层与分布式后端、rollout 调度解耦
- 支持新估计器、新流水线阶段、新 rollout 方案的快速插拔
- 兼顾研究灵活性与大规模分布式训练的可扩展性
2. 从零开始的原生多模态预训练 Scaling 研究
来源:arXiv cs.CL
链接:https://arxiv.org/abs/2607.22043
标签:多模态预训练 · Scaling Law · 大模型训练 · 从零训练
纯文本预训练限制了大模型对多模态物理世界的感知能力。这篇工作系统研究了从零开始的原生多模态预训练(而非先训文本模型再做视觉对齐的两阶段范式),探索模型在文本与多模态数据混合下的 scaling 规律,为构建原生多模态基座模型提供了训练配比与规模扩展的实证依据。
核心要点:
- 对比”原生多模态从零预训练”与”文本预训练+后期对齐”两种范式
- 系统探索多模态数据配比下的 scaling 行为
- 为原生多模态基座模型的训练策略提供实证指导
- 面向感知物理世界的下一代基座模型架构
3. 用因果证据集监督稀疏注意力路由
来源:arXiv cs.LG
链接:https://arxiv.org/abs/2607.21692
标签:稀疏注意力 · 长上下文 · 推理加速 · 注意力蒸馏
稀疏注意力通过让每个 query 只读取输入的选定部分来降低长上下文成本,但现有选择器通常靠蒸馏稠密教师的注意力分布训练,隐含假设注意力权重能揭示哪些上下文真正重要——这一假设并不可靠。本文改用因果证据集直接监督稀疏路由:通过干预式方法确定哪些上下文片段对输出有因果影响,用其训练选择器,使稀疏注意力真正”学到什么才重要”。
核心要点:
- 指出注意力蒸馏训练稀疏选择器的根本缺陷:注意力权重≠重要性
- 提出用因果证据集(causal evidence sets)直接监督路由决策
- 干预式方法识别对输出有真实因果贡献的上下文片段
- 面向长上下文推理加速,在降本的同时保住关键信息
4. MoE²-LoRA:当 MoE 模型遇上 MoE 式低秩适配
来源:arXiv cs.CL
链接:https://arxiv.org/abs/2607.21978
标签:MoE · LoRA · 参数高效微调 · 路由机制
MoE 架构已被大模型广泛采用,但针对 MoE 模型的参数高效微调(PEFT)仍缺乏深入研究:现有方法要么用统一适配器忽略路由器先验,要么无法与专家结构对齐。MoE²-LoRA 提出在 MoE 模型上叠加 MoE 式的 LoRA 适配器,让低秩适配器的路由与基座模型的专家路由协同,实现结构对齐的参数高效微调。
核心要点:
- 首次系统研究 MoE 大模型的 PEFT 适配难题
- 提出 MoE 式 LoRA:适配器本身也做专家化路由
- 适配器路由与基座 MoE 路由器先验协同对齐
- 兼顾微调效果与参数效率,适配主流 MoE 大模型
5. J-CoT:J 空间中的思维链推理
来源:arXiv cs.CL
链接:https://arxiv.org/abs/2607.21981
标签:思维链 · 潜空间推理 · LLM推理 · 表征学习
思维链提示通过在连续计算步骤间传递中间状态来提升语言模型推理能力,但仅依赖自然语言作为递归接口过于受限——许多瞬态计算并不适合用文字表达。J-CoT 提出在 J 空间(潜表征空间)中进行思维链推理,让模型以潜向量而非文本 token 传递中间推理状态,突破自然语言接口的表达瓶颈,降低推理的解码开销。
核心要点:
- 指出纯自然语言 CoT 的根本限制:瞬态计算难以文本化
- 在潜空间(J-Space)中传递推理中间状态
- 减少显式解码的 token 开销,提升推理效率
- 为潜空间推理(latent reasoning)方向提供新范式
6. 定义 AI-Native 系统:以修订权界定自治性
来源:arXiv cs.OS
链接:https://arxiv.org/abs/2607.21659
标签:AI-Native · 操作系统 · 系统架构 · 智能体
AI 已经开始编写系统代码:智能体可以合成、验证并部署系统组件。但”AI-Native”至今仍是一个没有精确技术定义的营销词汇。本文给出了严格定义:沿”修订权(revision authority)”维度刻画 AI 在系统中的自治程度——即 AI 有权修改系统哪些层次的组件、在什么约束下修改。这为评估和设计 AI 原生操作系统与基础设施提供了理论框架。
核心要点:
- 首次给出 “AI-Native 系统” 的精确技术定义
- 以”修订权”(revision authority)为核心维度刻画 AI 自治性
- 覆盖智能体合成、验证、部署系统组件的完整链路
- 为 AI 原生 OS 与基础设施的设计评估提供理论坐标系
📊 今日速览
| # | 标题摘要 | 来源 | 方向 |
|---|---|---|---|
| 1 | Molt:PyTorch 原生智能体 RL 训练框架 | arXiv cs.LG | 分布式训练 |
| 2 | 从零开始的原生多模态预训练 Scaling | arXiv cs.CL | 大模型训练 |
| 3 | 因果证据集监督稀疏注意力路由 | arXiv cs.LG | 推理加速 |
| 4 | MoE²-LoRA:MoE 式低秩适配 | arXiv cs.CL | 参数高效微调 |
| 5 | J-CoT:J 空间中的思维链 | arXiv cs.CL | LLM 推理 |
| 6 | 定义 AI-Native 系统 | arXiv cs.OS | 系统架构 |
自动生成 · 2026-07-28 · jeffinchen daily tech reading list
评论