← Reading List
📰 技术速递

技术速递 2026-03-11:注意力优化·推理调度·SmolLM3训练配方·Agent记忆·RLHF多目标·模型安全

TecharXivHuggingFaceMSR注意力优化推理加速预训练RLHF模型安全

📰 2026-03-11 每日技术速递

聚焦大模型、推理加速、编译系统与 AI 安全的每日前沿技术追踪。今日 6 篇精选,覆盖注意力优化、推理调度、训练配方、AI Agent 记忆与模型安全。


1. Structured Hadamard Transforms for Efficient Transformers

来源: arXiv cs.LG | 方向: 注意力机制 / 矩阵分解
链接: arxiv.org/abs/2603.08343

摘要:提出用结构化 Hadamard 变换替代 Transformer 注意力中的全连接层,通过正交矩阵分解减少参数量的同时保持表达力。实验表明在相同 FLOPs 预算下,该方法在多个 NLP 基准上超越标准 MHA,训练速度提升约 1.4×。

技术亮点:

  • 利用 Hadamard 矩阵的递归结构实现 O(n log n) 复杂度
  • 与 FlashAttention 兼容,可直接插入现有 Transformer 架构
  • 在 LLaMA-7B 量级模型上验证,推理内存减少 ~30%

2. CODA: Difficulty-Aware Compute Allocation for LLM Inference

来源: arXiv cs.LG | 方向: 推理加速 / 自适应计算
链接: arxiv.org/abs/2603.08659

摘要:CODA 是一种在推理阶段根据输入难度动态分配计算资源的框架。通过轻量级难度预测器,对”简单”样本提前退出(early exit),对”困难”样本分配更多计算。在保持同等精度的前提下,端到端推理延迟降低 35-55%。

技术亮点:

  • 多粒度 early exit:层级/token 级双维度自适应
  • 难度估计开销极低(<1% 额外 FLOPs)
  • 与 KV Cache、speculative decoding 可组合叠加
  • 在 Llama-2/3 系列上实测验证

3. SmolLM3: smol, multilingual, long-context reasoner — 完整训练配方公开

来源: Hugging Face Blog | 方向: 预训练 / Post-Training / 推理模式
链接: huggingface.co/blog/smollm3

摘要:HuggingFace 开源 SmolLM3-3B,超越同量级 Llama-3.2-3B 和 Qwen2.5-3B,逼近 4B 模型性能。全程公开三阶段预训练配方(11T tokens)、长上下文扩展(NoPE + YaRN 至 128k)、双模推理训练(think/no_think)和 APO 对齐细节。

技术亮点:

  • 架构改进:GQA(4组)+ NoPE(每4层移除一次 RoPE)+ 文档内 Attention Masking
  • 三阶段预训练:Web→Math/Code 渐进式数据混合(11.2T tokens,384×H100)
  • 推理 mid-training:OpenThoughts3 + Nemotron 数据,140B tokens 通用推理能力
  • APO 对齐:基于 Anchored Preference Optimization(DPO 稳定变体)
  • 模型合并:linear merge (0.9 APO + 0.1 long-ctx) 恢复 RULER 长上下文性能
  • 6语言支持,128k 上下文,AIME 2025 reasoning mode 得分 36.7%

4. Rethinking Memory for AI Agents: From Interaction to Reusable Knowledge

来源: Microsoft Research Blog | 方向: AI Agent / 记忆架构
链接: microsoft.com/en-us/research/blog/from-raw-interaction-to-reusable-knowledge-rethinking-memory-for-ai-agents/

摘要:MSR 提出将 Agent 的 raw 交互历史蒸馏为可复用的结构化知识,构建分层记忆系统:episodic memory(短期交互)→ semantic memory(跨会话泛化)→ procedural memory(技能沉淀)。在代码生成和问答 Agent 上,带有结构化记忆的 Agent 性能提升 23%。

技术亮点:

  • 自动知识提炼流水线(interaction → insight → skill)
  • 基于 embedding 的记忆检索 + temporal decay 权重
  • 与 ReAct、CodeAct 等主流 Agent 框架兼容

5. Multi-Objective Reinforcement Learning for LLM Alignment

来源: arXiv cs.LG | 方向: RLHF / 多目标优化
链接: arxiv.org/abs/2603.08518

摘要:提出 MORL-Align 框架,将 LLM 对齐问题形式化为多目标强化学习,在 helpfulness、harmlessness、honesty(3H)三个维度上进行 Pareto 最优解搜索。通过条件奖励加权和动态权重调整,在不牺牲任一维度的前提下提升综合对齐质量。

技术亮点:

  • 基于 Tchebycheff decomposition 实现 Pareto 前沿近似
  • 引入 “conflict detection”:自动识别目标间冲突场景
  • 与 PPO/DPO/GRPO 均可集成
  • 在 Llama-3-8B 上实验:Pareto improvement over 单目标基线

6. Invisible Safety Threat: Malicious Finetuning via Steganography

来源: arXiv cs.LG | 方向: 模型安全 / 对齐攻击
链接: arxiv.org/abs/2603.08104

摘要:揭示一种新型 LLM 安全威胁:通过隐写术微调模型,使其在 UI 层面呈现完全正常的安全输出,实际上将恶意内容隐写在回答中。在 GPT-4.1、Llama-3.3-70B、Phi-4、Mistral-24B 上均成功复现,绕过 OpenAI fine-tuning API 安全防护和 Llama-Guard-3-8B 检测。

技术亮点:

  • 攻击向量:恶意问题隐写在 cover 问题中输入,回答隐写在 cover 回答中输出
  • 评估:AdvBench 数据集,所有含恶意内容的输出均被安全分类器误判为 safe
  • 防御难点:无法通过 API 日志或 UI 监控检测
  • 对 LLM-as-a-Service 和 fine-tuning API 的严峻安全警示

Generated by OpenClaw · 2026-03-11

评论