📰 2026-08-05 · 每日技术速递
今日精选 7 篇深度技术文章,覆盖 编译器/MLIR、GPU 缓存与内核协同设计、稀疏 LLM 推理、OS 文件系统验证、硬件预取与推理时 RL 对齐。
1. Nova:面向深度学习的端到端 MLIR 编译器
来源:arXiv cs.AR 链接:https://arxiv.org/abs/2608.00029 标签:MLIR · JIT编译 · 计算图优化 · 硬件映射 · 深度学习编译
Nova 是一个自动化的端到端 JIT 编译器,目标是把高层张量运算直接映射到物理硬件并榨干硬件利用率。它弥补了高层框架 eager 执行缺乏整图可见性与细粒度内存/硬件控制的缺陷,通过统一中间表示与即时编译实现从模型定义到内核生成的闭环优化。
核心要点:
- 以 MLIR 为统一 IR,打通高层数学抽象到底层硬件指令的整图映射
- JIT 模式在运行时获取全局图信息,实现内存与计算资源的细粒度调度
- 相比 eager 执行显著降低硬件闲置,提升大规模模型的实际算力利用率
2. C2P-Cache:基于并发候选剪枝的可扩展 GPU L1 缓存共享
来源:arXiv cs.AR 链接:https://arxiv.org/abs/2608.00412 标签:GPU架构 · L1缓存 · 缓存共享 · 并发剪枝 · 显存带宽
现代 GPU 采用每 SM 私有 L1 + 共享 L2 的组织方式,导致跨 SM 的 L1 复用被掩盖、L1 miss 直接打到 L2。C2P-Cache 提出并发候选剪枝机制,在不干扰关键 L1 miss 路径的前提下回收跨 SM 复用,随并发与缓存数增长仍保持可扩展性。
核心要点:
- 识别并消除「peer L1 已命中却仍转发 L2」的冗余访问
- 用并发候选剪枝取代精确/广域远程命中搜索,避免 miss 路径阻塞
- 在高并发场景下相较此前 L1 共享设计具有更好的扩展性
3. Celty:面向双稀疏 LLM 推理的 SpMspV GPU 内核与 SIMT 协同设计
来源:arXiv cs.AR 链接:https://arxiv.org/abs/2608.01536 标签:LLM推理 · 稀疏化 · GPU内核 · SIMT · 双稀疏
双稀疏(非结构化权重剪枝 + 激活稀疏)在单用户解码中兼顾模型体积、精度与延迟,但其本质是稀疏矩阵-稀疏向量(spMspV)工作负载,现有 GPU 内核处理很差。Celty 通过稀疏格式与 SIMT 执行模型的协同设计,高效支撑双稀疏 LLM 解码。
核心要点:
- 首次将双稀疏 LLM 解码形式化为 spMspV 负载并系统优化
- 稀疏数据布局与 SIMT 线程调度协同,缓解不规则访存
- 面向单用户解码场景,在体积/精度/延迟三角中取得更优权衡
4. 反思新兴加速器的智能体式内核生成
来源:arXiv cs.AR 链接:https://arxiv.org/abs/2608.00894 标签:AI编译器 · 代码生成 · 加速器 · 符号化 · 内核
新兴加速器常缺乏成熟编译后端,催生了从架构文档与仿真反馈中生成/修复内核的神经智能体。本文指出这类方法对每个负载都重复重建与负载无关的机器语义,提出应把指令行为、合法性、同步与内存协议一次性编译为持久符号制品,让神经推理只聚焦于负载相关的映射决策。
核心要点:
- 揭示现有 agentic kernel gen 重复构建机器语义的巨大浪费
- 建议将架构语义固化为持久符号工件,降低每负载推理成本
- 为缺乏编译器后端的加速器提供可扩展的内核生成范式
5. Themis:拥有整机的文件系统模型检验器
来源:arXiv cs.OS 链接:https://arxiv.org/abs/2608.01135 标签:文件系统 · 模型检验 · OS内核 · 虚拟化 · 缺陷检测
文件系统模型检验器通过探索未修改的内核文件系统状态空间来发现单测遗漏的 bug。Themis 构建于裸金属 Type-1 AMD-V hypervisor 之上的未修改内核文件系统之下,使其能直接拥有并快照机器状态,无需像 Metis 那样手工编写参考文件系统作为差分预言机。
核心要点:
- 置于 Type-1 hypervisor 之下,获得廉价的内核状态快照能力
- 免去手工 Reference FS,检验更全面且避免「时间视为噪声」的盲区
- 相比 Metis 显著提升对内核文件系统隐蔽 bug 的可见性
6. Themis:软件定义硬件预取
来源:arXiv cs.AR 链接:https://arxiv.org/abs/2608.00259 标签:硬件预取 · 缓存缺失 · 数据中心 · 内存带宽 · 多租户
数据中心负载中数据缓存缺失占大量停顿周期,硬件预取器为覆盖更多场景往往激进预取,产生大量无效访问浪费本就紧张的内存带宽。Themis 观察到数据中心负载中无效预取可被有效过滤,提出软件定义方式在覆盖率和带宽浪费之间取得平衡。
核心要点:
- 量化激进预取在多租户环境下的内存带宽浪费代价
- 用软件定义策略过滤无效预取,保护稀缺带宽资源
- 在覆盖率与带宽开销之间提供可调、可部署的折中方案
7. 推理时策略对齐:面向公平强化学习
来源:arXiv cs.LG 链接:https://arxiv.org/abs/2608.00175 标签:强化学习 · 推理时对齐 · 公平性 · 策略适配 · 奖励塑形
深度 RL 智能体部署后策略僵化、难以适配新偏好(如公平性),而现有公平 RL 方法通常假设偏好已知且需完整重训。本文提出推理时策略对齐,在不重训的前提下于部署阶段将策略动态调整以契合事先未知的公平偏好。
核心要点:
- 解决 RL 策略部署后难以低成本适配新偏好的痛点
- 无需完整重训即可在推理阶段实现公平性对齐
- 放宽了「偏好需先验已知」的强假设,更贴近真实部署
📊 今日速览
| # | 标题摘要 | 来源 | 方向 |
|---|---|---|---|
| 1 | Nova:面向深度学习的端到端 MLIR 编译器 | arXiv cs.AR | 深度学习编译 |
| 2 | C2P-Cache:基于并发候选剪枝的可扩展 GPU L1 缓存共享 | arXiv cs.AR | GPU架构 |
| 3 | Celty:面向双稀疏 LLM 推理的 SpMspV GPU 内核与 SIMT 协同设计 | arXiv cs.AR | LLM推理 |
| 4 | 反思新兴加速器的智能体式内核生成 | arXiv cs.AR | AI编译器 |
| 5 | Themis:拥有整机的文件系统模型检验器 | arXiv cs.OS | OS内核 |
| 6 | Themis:软件定义硬件预取 | arXiv cs.AR | 微架构/预取 |
| 7 | 推理时策略对齐:面向公平强化学习 | arXiv cs.LG | 强化学习 |
自动生成 · 2026-08-05 · jeffinchen daily tech reading list
评论