Amazon SageMaker AI 上的 MoE 内核工程优化实践
针对 MoE 模型在解码阶段因 M 维过小导致 Hopper GPU 利用率低的问题,AWS 提出 Swap-AB 优化,将专家维度 N=8192 提升为首操作数,在 H200 上为大规模 MoE 模型带来 2–4% 端到端输出吞吐提升,该优化已合入 vLLM 0.24.0 或更高版本。
针对 MoE 模型在解码阶段因 M 维过小导致 Hopper GPU 利用率低的问题,AWS 提出 Swap-AB 优化,将专家维度 N=8192 提升为首操作数,在 H200 上为大规模 MoE 模型带来 2–4% 端到端输出吞吐提升,该优化已合入 vLLM 0.24.0 或更高版本。
AWS 博客介绍 SpaceXAI 的 Grok 4.7 已在 Amazon Bedrock 上线,并演示如何用它搭建工具调用智能体。作者在三个需要搜索而非查表的任务上按 low、medium、high、xhigh 四档推理强度各跑六次,共 72 次运行,答对 67 次;xhigh 全部 18 次正确,low 答对 15 次而输出 token 约为 xhigh 的八分之一。
推荐理由:作者在 Bedrock 上实测 Grok 4.7 四档推理强度,给出 72 次运行的准确率与 token 成本对照,可迁移到自建智能体评测。
北欧正加速建设欧洲重要科技生态,预计到 2027 年底部署 1 吉瓦 AI 云容量,Bitdeer、CoreWeave、Crusoe、Nscale 等厂商参与。
基于 Amazon Bedrock AgentCore 的多智能体 IDP 系统可自动分类、提取、校验并从业务文档中学习,新文档类型无需手动配置模板,部署通常 20 分钟内完成。
Google Research 在 Research@ 活动上公布 10 项研究进展,包括扩展 Google Earth AI 早期访问,新增地理空间分析、行星预测引擎和 agent-to-agent API 三项实验能力,背后由超 70 个地理空间工具支撑。
Google 发布地理空间推理智能体的技术报告,在 CBGB、UnivEARTH 及自研的 GeoExpertQueries、GeoKTools 四个基准上对比四种智能体配置,结果显示接入 Earth AI 专用技能可显著提升定量空间任务表现,而开放式问题还需前置规划。
推荐理由:Google 公开了地理空间推理智能体的技术报告与两个新基准,并给出与 WHO 等机构的实测案例,可了解专用工具与前置规划对空间推理的提升。
Google 宣布公开发布 Deep Review,一个面向复杂文档提供严格反馈与技术验证的智能体 AI 系统,最初用于计算机科学论文分析,现已扩展到法律、金融等领域。
推荐理由:Google 公开了 Deep Review 的四阶段智能体审稿流程与免费额度,可据此判断自动审稿在自身工作流中的位置。
Ai2 发布 HiRO-ACE 系统的新版本 HiRO-ACEv2,核心是新的降尺度模型 HiROv2,可同时预测多个高分辨率气象场,并提升了对极端事件的预测能力。
推荐理由:HiRO-ACEv2 把全球 3 km 气候数据的生成成本降到 X-SHiELD 的约 1/300,并给出极端天气统计误差与适用边界。
基于 Amazon Bedrock AgentCore 搭建的 AI 智能体系统可自动生成 PowerPoint 演示文稿,内部测试中完成一份耗时不到 90 秒。
Tamnoon 基于 Amazon Bedrock 构建了智能体云修复编排器 Tami,可自主调查 CNAPP 等来源的安全发现并评估修复安全性,90 天内将关键云暴露减少超 90% 且零生产事故。Tami 由调查、安全评分、修复和代码生成四个专用智能体组成,安全评分会将发现分类为 SAFE、RISKY 或 AWAITING DATA,代码生成前需经输入护栏筛查提示词注入并由独立审查智能体批准。
Amazon SageMaker JumpStart 提供预训练模型目录,可通过 SageMaker Python SDK 部署模型并运行轻量可复现的性能测试,测完删除端点。
SentinelOne 借助 OpenAI Daybreak 将恶意软件分析从数周缩短至数小时,从而腾出精力调查更多威胁。
Amp 借助 GPT-6 Astra、Ultrafast、GPT-Live-1 与 Sign in with ChatGPT,把 AI 智能体的能力拓展到代码之外的场景。
Third Moment Research 借助 GPT-6 Astra、GPT-6.1 Sol、Codex 以及面向网络安全的 Daybreak,构建出可连续专注数天并随使用持续改进的 AI 智能体,支撑 1 万个智能体运行 36 小时以上。
Block 正基于 OpenAI 技术构建 AI 驱动的安全体系,其安全团队借此更快调查威胁,并能在数分钟内提出补丁方案。
NVIDIA 宣布对 Boltz、Foresight、Hiverge、Prima Mente 和 Riverlane 五家英国 AI 与量子计算初创企业进行新投资,此前已投资 Basecamp Research、Synthesia、Wayve 等公司。NVIDIA 还承诺五年 2.5 亿美元算力投入,用于加强英国智能体安全与安保研究,并以全球联盟创始合伙人身份加入 Earthshot Prize。
欧洲多国城市正联合 ABA Technology、Akila、K2K、Milestone 等软件伙伴,用 NVIDIA 加速计算、Cosmos 与 Nemotron 开放模型及 Metropolis VSS 蓝图构建物理 AI 智能体和数字孪生,用于交通、能源、公共安全等城市运营。
Google DeepMind 与新加坡政府科技局(GovTech Singapore)合作,基于轻量级 Gemma 模型在新加坡本地诈骗对话上微调出端侧反诈检测模型,可在设备本地分析对话并实时提醒用户。
OpenAI 发布新分析,显示智能体 AI 在欧盟大型企业与小企业中的采用正在增长,并指出更深入的使用可释放更多价值。
Anchor Browser 与 Amazon Bedrock AgentCore payments 集成,让 AI 智能体在浏览器会话内自动应对 HTTP 402 付费请求,现已上线 AWS Marketplace。
推荐理由:原文给出 x402 支付在浏览器会话内自动完成的完整流程与接入方式,可据此判断智能体付费访问的实现路径。
Google DeepMind 开始广泛推送 Gemini 4 Argon,并同步扩大 Fairwind Program 的可信网络安全防御者范围。该模型在端到端模拟网络攻击场景中解出全部 12 个场景,上一代为 5 个;在 Gray Swan 的间接提示注入基准上,15 次自适应攻击的成功率降至 0.7%。
推荐理由:原文披露了 Gemini 4 Argon 在网络安全与生物风险上的防护分层设计,可了解前沿模型安全部署的具体做法。
GitHub 用微调后的 ModernBERT 分类器替换原有 LLM 密钥检测流程,用户接受度提升 11.5%,推送后扫描执行时间中位数降低 86%,服务成本降低超 98%。该两阶段流程先用正则表达式生成候选,再由分类器结合文件路径、变量名和上下文判断是否为真实凭证,并将通用密钥检测扩展到推送保护阶段。
Amazon Bedrock 结合 managed entitlements,让企业只需在中心账户订阅一次 AWS Marketplace 私有定价优惠(MPPO),即可向全组织分发第三方 AI 模型访问权限。
Liquid AI 发布 LFM2.5-24B-A2B,一个 24B 参数、每 token 仅 2B 激活参数的推理模型,面向端侧私有智能体,会先思考再作答并调用工具。
推荐理由:LFM2.5-24B-A2B 以 2B 激活参数对标更大 MoE,并给出端侧与 GPU 推理速度,可据此判断本地智能体的可行性。
Orca Security 与 AWS 合作在 Amazon Bedrock 上构建了自然语言查询智能体 Discovery AI,可将自然语言问题转换为 Sonar 查询。
Google DeepMind 发布 Gemini 4 Argon,主打物理理解、代码生成与视觉语义推理,在 Embodied Reasoning(ERQA)基准上以纯推理取得 87%,称超过其他前沿模型。
推荐理由:官方给出 Argon 在 ERQA 上的 87% 成绩与四类机器人工作流示例,可据此判断物理推理模型当前的能力边界。
Google DeepMind 发布 Gemini 4 Argon,面向开发者、企业和消费者开放,通过 AI Studio、Gemini API、Google Antigravity、Gemini 应用和 Search 的 AI Mode 提供,定价为每百万输入 token 2 美元、输出 token 10 美元,缓存输入享 95% 折扣。
推荐理由:官方给出 Argon 在编码、科研与安全对齐上的具体案例和定价,可据此判断前沿模型的能力边界与成本。
ShipStation Global 工程团队基于 Amazon Bedrock AgentCore 打造了 Slack 内的 AI IT 服务台 Deckhand,可回答常规 IT 与公司问题、识别报错截图并创建和更新 Jira Service Management 工单。
NVIDIA 宣布 RTX Spark 笔记本将于 10 月 16 日上市,最高 128GB 统一内存和 1 petaflop AI 算力,首发覆盖数百款游戏与 130 多个加速应用。
推荐理由:原文列出 RTX Spark 首发时本地智能体、创作与开发工具的适配清单,可据此判断本地 AI 工作流的落地程度。
Higgsfield 借助 GPT-6 Astra 把 AI 视频生成时长从 1 分钟延长到 10 分钟以上,并用 GPT-Image-2.5 提升画面精度。该平台还通过 GPT-Live 提供语音电影制作的路径。
NVIDIA 宣布计划新投资 Doctolib、Entalpic、Genesis AI 和 Pigment 四家法国初创公司,覆盖医疗、材料发现、物理 AI 与业务规划领域。
GitHub Copilot 入门系列介绍四种为项目定制 Copilot 的方式:仓库级自定义指令写入 .github/copilot-instructions.md。
微软研究院提出 StudentSim,一种从公开去标识化学习记录训练个性化 AI 学生模拟器的研究系统,可在真实学习者测试前评估和改进 AI 辅导。该系统同时发布 StudentSimEval 基准,覆盖国际象棋、第二语言英语写作和数学,从行为保真度与指导响应性两个维度评估模拟器,并优于主流基线。StudentSim 不是产品、不部署于课堂,也不用于取代教师。
NVIDIA 在 OCP Global Summit 上通过 MGX 开放架构贡献 Vera Rubin 机架与计算托盘设计,并发布 MGX 1.2 规范,支持最高 250kW 机架部署和机架级盲插液冷。
推荐理由:NVIDIA 在 OCP 峰会上把 Vera Rubin 机架设计、DSX 开源组件与多项开放标准一并交出,读者可据此了解 AI 工厂基础设施的开放化路径。
Asana 借助 Codex 中的 GPT-6 Astra,在浏览器测试中让浏览器智能体的模型成本降低 76 倍、速度提升 5 倍,从而为客户提供能力更强的模型。
Sophos 使用 OpenAI 的 Daybreak 将网络威胁调查时间缩短 96%,并自动化处理 52% 的 MDR 案例,同时保留人工监督。
NVIDIA 开发者用前沿 AI 模型配合 Omniverse 库,通过自然语言指令构建仿真应用,文中示例使用 GPT-6 Astra 与 Claude Fable 5 智能体。其中传感器数字孪生项目由智能体在约三天内从零创建两个数字孪生并改进两个已有孪生;Robo Olympics 中 Unitree G1 人形机器人在 100 次仿真试验中有 64 次越过单个栏架。
《Gears of War: E-Day》本周正式上线 GeForce NOW,Ultimate 会员可以 GeForce RTX 5080 级性能在云端体验,并支持 NVIDIA DLSS 与 NVIDIA Reflex。
作者在 Hugging Face 上用 ML-intern 从零构建了六个模型,包括 0.8B 的 Pocket Rewriter、柑橘病害 VLM、Huggy LoRA、相机视角 LoRA、Doodle-in LoRA 和 Agate 4-step 蒸馏模型,总计算成本约 103 美元。
推荐理由:作者用六个真实项目展示了如何写提示词让 ML-intern 完成训练、评测与发布,并给出每项算力成本。
Google Research 在 NBER 发布一项为期三个月的专利撰写实地实验,将当时未发布的 Google Labs AI 专利写作助手(现属 Gemini Notebook)随机开放给 11 家知识产权律所的 133 名律师。
推荐理由:三个月专利撰写实地实验区分了 AI 带来的即时产出提升与无辅助判断力的变化,为理解 AI 对专业能力的影响提供了少见的长期证据。