Liquid AI 发布 LFM2.5-24B-A2B 端侧推理智能体模型
Liquid AI 发布 LFM2.5-24B-A2B,一个 24B 参数、每 token 仅 2B 激活参数的推理模型,面向端侧私有智能体,会先思考再作答并调用工具。
推荐理由:LFM2.5-24B-A2B 以 2B 激活参数对标更大 MoE,并给出端侧与 GPU 推理速度,可据此判断本地智能体的可行性。
Liquid AI 发布 LFM2.5-24B-A2B,一个 24B 参数、每 token 仅 2B 激活参数的推理模型,面向端侧私有智能体,会先思考再作答并调用工具。
推荐理由:LFM2.5-24B-A2B 以 2B 激活参数对标更大 MoE,并给出端侧与 GPU 推理速度,可据此判断本地智能体的可行性。
NVIDIA 宣布 RTX Spark 笔记本将于 10 月 16 日上市,最高 128GB 统一内存和 1 petaflop AI 算力,首发覆盖数百款游戏与 130 多个加速应用。
推荐理由:原文列出 RTX Spark 首发时本地智能体、创作与开发工具的适配清单,可据此判断本地 AI 工作流的落地程度。
在旧金山 Microsoft 活动上,NVIDIA 与 Microsoft 宣布为 Windows PC 上的 AI 智能体共同设计软硬件,并推出 RTX Spark。
推荐理由:英伟达与微软把智能体运行所需的系统级容器和本地算力硬件一并给出,读者可据此判断本地智能体落地的硬件门槛。
Google DeepMind 发布 EmbeddingGemma 2,基于 Gemma 4 架构、740M 参数,在 Apache 2.0 许可下开源,可把文本、图像、音频和视频映射到统一嵌入空间。
推荐理由:官方给出 740M 参数、模块化编码器与端侧内存占用,可据此判断本地多模态检索的落地成本。