Amazon SageMaker AI 上的 MoE 内核工程优化实践
针对 MoE 模型在解码阶段因 M 维过小导致 Hopper GPU 利用率低的问题,AWS 提出 Swap-AB 优化,将专家维度 N=8192 提升为首操作数,在 H200 上为大规模 MoE 模型带来 2–4% 端到端输出吞吐提升,该优化已合入 vLLM 0.24.0 或更高版本。
针对 MoE 模型在解码阶段因 M 维过小导致 Hopper GPU 利用率低的问题,AWS 提出 Swap-AB 优化,将专家维度 N=8192 提升为首操作数,在 H200 上为大规模 MoE 模型带来 2–4% 端到端输出吞吐提升,该优化已合入 vLLM 0.24.0 或更高版本。
AWS 博客介绍 SpaceXAI 的 Grok 4.7 已在 Amazon Bedrock 上线,并演示如何用它搭建工具调用智能体。作者在三个需要搜索而非查表的任务上按 low、medium、high、xhigh 四档推理强度各跑六次,共 72 次运行,答对 67 次;xhigh 全部 18 次正确,low 答对 15 次而输出 token 约为 xhigh 的八分之一。
推荐理由:作者在 Bedrock 上实测 Grok 4.7 四档推理强度,给出 72 次运行的准确率与 token 成本对照,可迁移到自建智能体评测。
据 The Information 援引知情人士,OpenAI 员工称公司年底前可能发布一到两款新模型,但正在开发的重大升级旗舰是否在其中尚不清楚。该旗舰采用与 Astra 相同的循环 Transformer 技术,可提升数学和编码表现并降低成本,但会把部分思考移入人类审查者无法查看的内部数值表示,削弱思维链监控。
Google 宣布公开发布 Deep Review,一个面向复杂文档提供严格反馈与技术验证的智能体 AI 系统,最初用于计算机科学论文分析,现已扩展到法律、金融等领域。
推荐理由:Google 公开了 Deep Review 的四阶段智能体审稿流程与免费额度,可据此判断自动审稿在自身工作流中的位置。
Google DeepMind 开始广泛推送 Gemini 4 Argon,并同步扩大 Fairwind Program 的可信网络安全防御者范围。该模型在端到端模拟网络攻击场景中解出全部 12 个场景,上一代为 5 个;在 Gray Swan 的间接提示注入基准上,15 次自适应攻击的成功率降至 0.7%。
推荐理由:原文披露了 Gemini 4 Argon 在网络安全与生物风险上的防护分层设计,可了解前沿模型安全部署的具体做法。
Liquid AI 发布 LFM2.5-24B-A2B,一个 24B 参数、每 token 仅 2B 激活参数的推理模型,面向端侧私有智能体,会先思考再作答并调用工具。
推荐理由:LFM2.5-24B-A2B 以 2B 激活参数对标更大 MoE,并给出端侧与 GPU 推理速度,可据此判断本地智能体的可行性。
Google DeepMind 发布 Gemini 4 Argon,主打物理理解、代码生成与视觉语义推理,在 Embodied Reasoning(ERQA)基准上以纯推理取得 87%,称超过其他前沿模型。
推荐理由:官方给出 Argon 在 ERQA 上的 87% 成绩与四类机器人工作流示例,可据此判断物理推理模型当前的能力边界。
Google DeepMind 发布 Gemini 4 Argon,面向开发者、企业和消费者开放,通过 AI Studio、Gemini API、Google Antigravity、Gemini 应用和 Search 的 AI Mode 提供,定价为每百万输入 token 2 美元、输出 token 10 美元,缓存输入享 95% 折扣。
推荐理由:官方给出 Argon 在编码、科研与安全对齐上的具体案例和定价,可据此判断前沿模型的能力边界与成本。
Meta Superintelligence Labs 发布第二代模型家族 Muse Wonder 与 Muse Wonder Full,距该实验室成立约 14 个月。
推荐理由:汇总了 Meta Muse Wonder 系列的发布细节与第三方评测数据,可对照 Opus 5.5 等前沿模型看其位置。
Elorian 与 Scale AI 发布 Humanity's Sixth Sense(HSS)基准,用 522 道题、288 张图和 234 段短视频(共 17.6 小时)测试多模态模型的直觉视觉推理,人类 pass@1 为 93.1,最佳模型 GPT 6 Astra 仅 53.6,GLM-5.3-flash 与 Kimi K3 分别只有 26.8 和 25.5。
英伟达团队从 Nemotron 3 出发,用 SFT、RL 和生成-验证-改进的推理循环做领域微调,在 IOI 2026 与 IMO 2026 两个竞赛上均达到金牌水平。
推荐理由:原文给出了从 Nemotron 3 微调到 IOI、IMO 金牌级成绩的完整配方,可看数据、训练与推理循环如何配合。
Microsoft 的 Jennifer Neville 在 Microsoft Research Podcast 中与 Chad Atalla 对谈,讨论评测如何推动当前 AI 系统突破性能边界,以及模型在传统 benchmark 之外测试时出现的“意外失败”。她结合自身从数学、物理、认知科学到计算机科学的经历,分享使用当前 AI 系统的实用建议,并强调当结果偏离预期时应仔细审视数据。
Google DeepMind 发布新前沿模型 Gemini 4 Argon,先通过 Fairwind Program 向受信任的网络安全防御方开放,随后逐步扩展至开发者、企业和消费者,起价为每百万输入 token 2 美元、每百万输出 token 10 美元,缓存输入 token 按输入价的 95% 折扣计费。
推荐理由:官方给出 Gemini 4 Argon 的定价、1M 输出 token 上限与多项基准成绩,可据此判断前沿模型在长周期工程与安全防御上的位置。
Import AI 第 469 期介绍了新基准 DiG-bench,用 70 款隐藏规则的游戏测试 AI 的探索与发现能力,其中 21 款已公开。Opus 5 和 Fable 5 配合 Claude Code 表现最佳,仅这两者在 Tier 7 取得 0.2 分,而人类可 100% 通关。
Berkeley AI Research 与 IBM Research 将进化式内核搜索框架 K-Search 扩展到 MLX 后端,并加入结构化的 CUDA 到 MLX 翻译层,让已有 CUDA 内核经验迁移到 Apple Silicon。
推荐理由:原文给出跨平台内核迁移的具体方法与实测数字,可了解 CUDA 经验迁移到 Apple Silicon 的可行路径。
Berkeley AI Research 提出 ABBEL 框架,将 LLM 的摘要以自然语言"信念状态"形式隔离并监督,替代完整交互历史作为智能体的工作上下文。在 CollabBench 协作编程任务中,基于重建的信念评分(rec-BG)将 ABBEL 与全上下文模型的性能差距缩小约 50%,训练步数从 100 降至 50,峰值 token 长度也低于全上下文设置。
Berkeley AI Research(BAIR)实验室展示 2026 届博士毕业生,研究方向覆盖机器人、具身智能、大语言模型与推理、计算机视觉、生成模型、AI 安全、人机交互及 AI for science 与医疗。
伯克利 AI Research 梳理了并行推理领域进展,重点讨论自适应并行推理——让模型自行决定何时分解并并行化独立子任务、生成多少并发线程以及如何协调。文章对比了自一致性、Best-of-N、Tree/Graph of Thoughts、MCTS、ParaThinker、GroupThink、Hogwild!
伯克利 AI 研究团队提出 GRASP,一种面向学习型世界模型的梯度规划器,通过将轨迹提升到虚拟状态实现跨时间并行优化、直接向状态迭代加入随机性以探索、并重塑梯度让动作获得清晰信号,从而让长时域规划变得可行。该方法针对长时域 rollout 中梯度爆炸/消失、非贪心结构导致的局部极小值以及高维视觉模型状态输入梯度脆弱等问题。
Berkeley AI Research 提出 SPEX 与 ProxySPEX 算法,用于在大规模场景下识别 LLM 的关键交互。SPEX 利用稀疏性与低阶性把交互搜索转化为稀疏恢复问题,ProxySPEX 进一步借助层级结构,以约 10x 更少的消融达到 SPEX 的性能。