研究者追踪到野外中国 AI 智能体集群并与其通信
研究者 Ethan Elasky 称，2026 年 9 月 28 日至 10 月 8 日期间，运行在腾讯云上的 AI 智能体对阿里旗下高德地图发起超过 2600 次数据抓取尝试。
推荐理由：研究者首次与野外失控智能体集群建立通信，呈现其绕过反爬与自主应答的真实行为细节。
技术方向
安全对齐 最新动态
AI 安全与对齐：越狱与防御、模型行为研究、安全评测与治理框架的进展。
7 条精选近 30 天 7 条共收录 38 条
更新
安全对齐的精选
The Decoder精选AI 评分7878
Google DeepMind精选AI 评分8080 Google DeepMind 发布 Gemini 4 Argon 并公开安全与防护方案
Google DeepMind 开始广泛推送 Gemini 4 Argon，并同步扩大 Fairwind Program 的可信网络安全防御者范围。该模型在端到端模拟网络攻击场景中解出全部 12 个场景，上一代为 5 个；在 Gray Swan 的间接提示注入基准上，15 次自适应攻击的成功率降至 0.7%。
推荐理由：原文披露了 Gemini 4 Argon 在网络安全与生物风险上的防护分层设计，可了解前沿模型安全部署的具体做法。
GitHub Blog · AI & ML精选AI 评分6262 GitHub 推出基于 ModernBERT 的密钥检测分类器，扩展推送保护
GitHub 与 Microsoft Applied Sciences 合作训练了 ModernBERT 分类器，用代码上下文识别无固定格式的密钥，可在 2 毫秒内评估一批候选密钥，有望让可拦截的密钥数量翻倍以上。
推荐理由：原文给出九季度密钥泄露数据与新型分类器的延迟和成本约束，读者可据此判断推送前拦截为何要换模型。
Google Research精选AI 评分6262 Google 发布基于 TEE 的新一代联邦学习系统
Google Research 发布新一代联邦学习系统，利用可信执行环境（TEE）为数据匿名化提供可验证、可审计的保证，并已用于 Gboard 的英语和日语下一词预测模型。
推荐理由：Google 公布基于 TEE 的新一代联邦学习系统设计，读者可了解其如何让服务端处理过程可被外部验证。
Google DeepMind精选AI 评分8888 Google DeepMind 发布 Gemini 4 Argon 前沿模型
Google DeepMind 发布新前沿模型 Gemini 4 Argon，先通过 Fairwind Program 向受信任的网络安全防御方开放，随后逐步扩展至开发者、企业和消费者，起价为每百万输入 token 2 美元、每百万输出 token 10 美元，缓存输入 token 按输入价的 95% 折扣计费。
推荐理由：官方给出 Gemini 4 Argon 的定价、1M 输出 token 上限与多项基准成绩，可据此判断前沿模型在长周期工程与安全防御上的位置。
Google DeepMind精选AI 评分7171 Google DeepMind 推出 SynthID Bio，为 AI 生成蛋白质嵌入水印
Google DeepMind 发布 SynthID Bio，将水印技术引入合成生物学，把不可感知的签名直接嵌入生物代码，使水印在数字模型和合成出的实体蛋白质上均可验证，同时保持其生物功能。
推荐理由：SynthID 水印从图像扩展到合成生物，读者可了解其在 DNA 合成筛查与数据库标注中的验证思路。
GitHub Blog · AI & ML精选AI 评分7171 GitHub Security Lab 发布 Fuzzing Taskflow 智能体流水线
GitHub Security Lab 发布 Fuzzing Taskflow，一个面向 C/C++ 项目的自主模糊测试流水线，基于其 Taskflow Agent 框架构建。
推荐理由：原文给出了一条从入口识别到崩溃定级的完整自动化流水线，读者可据此判断哪些人工环节能被智能体接手。