Pluto Security 融资 4200 万美元，用 AI 实时监控企业 AI 智能体行为
Pluto Security 完成 4200 万美元融资，其中 3400 万美元 A 轮由 Jump Capital 领投，850 万美元种子轮由 TLV Partners 领投。其软件监控员工使用的 AI 工具、skills、扩展、MCP 服务器及自建智能体，可在智能体运行中拦截越权操作并向会话注入上下文。该公司 4 月开始销售，年经常性收入已超 200 万美元，拥有 30 多家企业客户。
#安全/对齐
TechCrunch · AIAI 评分4040 TechCrunch · AIAI 评分1212 TechCrunch Disrupt 2026 第二天：Nvidia、Waabi 等探讨 AI 硬件与机器人
TechCrunch Disrupt 2026 第二天在旧金山 Moscone West 举行，聚焦 AI、机器人、AI 硬件、公共安全与风险投资，Nvidia、Waabi、Flock Safety、Ricursive Intelligence 等公司嘉宾登台，Benchmark 全员参与。
Latent SpaceAI 评分3636 OpenAI 与 Anthropic 如何为金融智能体设计自主性与安全边界
OpenAI 的 Joseph Kim 在 AIE New York 提出"有用性阈值"，认为模型能力提升将让金融分析师把更多工作交给智能体，并预测 2027 年智能体可做投资想法生成与交易。
TechCrunch · AIAI 评分4646 Flock CEO 称其麦克风“只检测枪声”，官网说法却不同
Flock CEO Garrett Langley 在 TechCrunch Disrupt 上称其枪声检测麦克风“只检测枪声”，但公司官网称该音频系统还能检测烟花、街头飙车和车祸。Flock 发言人回应称该技术主要用于检测枪声，也具备上述能力，但并非用于监听对话或分析语音，目前不检测人类尖叫或求救。
The Verge · AIAI 评分7171 美国八州起诉 OpenAI，称 ChatGPT 对儿童不安全
美国八个州分别对 OpenAI 提起诉讼，指控其将利润置于安全之上，未就 ChatGPT 的风险向用户作出警示，违反当地消费者保护法。起诉方称 OpenAI 将 ChatGPT 宣传为把安全放在首位的适龄工具，实际却会削弱批判性思维、助长偏执与妄想、提供危险医疗建议，并收集未成年人数据。
The Verge · AIAI 评分7474 Character.AI 申请破产并出售资产，纽约州总检察长等 40 位州检察长介入数据保护
Character.AI 周二宣布申请 Chapter 11 破产，并将部分资产出售给 Disney。纽约州总检察长 Letitia James 等 40 位两党州检察长就此事提交利益通知，要求任何资产买方落实年龄验证、未成年人使用限制、危机防护机制并允许用户删除数据。
TechCrunch · AIAI 评分5858 Apate 用 AI 智能体伪装受害者反钓诈骗者，已融资 815 万美元
澳大利亚初创公司 Apate.ai 部署数千个 AI 智能体伪装成潜在受害者，接听诈骗电话、回复可疑信息、点击钓鱼链接并潜入社交群组，以套取诈骗者的银行账户、加密钱包、电话号码和仿冒品牌等信息，再提供给银行、电信、政府机构等客户用于反诈。
Ars Technica · AIAI 评分6868 FBI 逮捕涉嫌在 OpenAI 绝密会议室藏录音设备的工程师
FBI 逮捕了 35 岁的 OpenAI 工程师 Abdulrahman Alfozan，指控其在仅限特定权限人员进入的高管会议室藏匿录音设备，用于刺探 OpenAI 并可能泄露商业机密、威胁国家安全。
The DecoderAI 评分6666 OpenAI 据称年底前发布一到两款新模型，旗舰仍需对齐工作
据 The Information 援引知情人士，OpenAI 员工称公司年底前可能发布一到两款新模型，但正在开发的重大升级旗舰是否在其中尚不清楚。该旗舰采用与 Astra 相同的循环 Transformer 技术，可提升数学和编码表现并降低成本，但会把部分思考移入人类审查者无法查看的内部数值表示，削弱思维链监控。
The DecoderAI 评分6060 英伟达黄仁勋承诺向欧洲投资 20 亿美元，并向英国安全实验室捐赠 2.5 亿美元算力
英伟达 CEO 黄仁勋在欧洲之行中宣布未来一周内在欧洲新增 20 亿美元投资，并披露对法国初创公司 Doctolib、Genesis AI、Pigment 和 Entalpic 的新持股。
Ars Technica · AIAI 评分6060 Anthropic 警告小模型或可借 IoT 设备自我复制
Anthropic 警告，小模型能力的进步可能催生能感染智能冰箱、扫地机器人等 IoT 设备的新型自我复制恶意软件，且更难被清除。公司称到明年小模型或能在各类 IoT 设备上自主自我复制，最终可能形成无需人类交互即可传播的计算机蠕虫。
The DecoderAI 评分6969 OpenAI 沙特籍工程师涉嫌用妻子聊天机器人账号搭建窃听设备被捕
美国司法部称，35 岁的沙特籍 OpenAI 工程师 Abdulrahman Alfozan 于 10 月 9 日被捕，涉嫌将裹着卫生纸的录音设备藏入公司高管会议室电视的 USB 接口，其包中另发现一台录音设备。
OpenAI NewsAI 评分2222 Block 如何用 OpenAI 技术构建 AI 驱动的安全体系
Block 正基于 OpenAI 技术构建 AI 驱动的安全体系，其安全团队借此更快调查威胁，并能在数分钟内提出补丁方案。
Google DeepMindAI 评分5858 Google DeepMind 与新加坡政府合作构建微调反诈检测模型
Google DeepMind 与新加坡政府科技局（GovTech Singapore）合作，基于轻量级 Gemma 模型在新加坡本地诈骗对话上微调出端侧反诈检测模型，可在设备本地分析对话并实时提醒用户。
The DecoderAI 评分6262 406 位科学家联名要求立即切断 AI 模型与互联网的连接
406 位科学家签署公开信，要求加强 AI 安全研究并将 AI 模型与外部网络严格隔离，签署者包括 Geoffrey Hinton、Yoshua Bengio、Stuart Russell、Yejin Choi 和 Bernhard Schölkopf。
OpenAI NewsAI 评分2222 Sophos 借助 OpenAI Daybreak 将威胁调查时间缩短 96%
Sophos 使用 OpenAI 的 Daybreak 将网络威胁调查时间缩短 96%，并自动化处理 52% 的 MDR 案例，同时保留人工监督。
Import AIAI 评分2222 Import AI 475：群体扩展、Google DeepMind 为生物数据加水印与 AI 科学经济
Toby Ord 分析认为 AI 智能体群体（swarm）是一种新的推理扩展形式，4 智能体群体总 token 用量约为单智能体的两倍，但每个智能体只需一半 token，并行运行理论上可将任务耗时减半。
Berkeley AI ResearchAI 评分1515 2026 届 BAIR 博士毕业生展示：从机器人到 LLM 推理的研究版图
Berkeley AI Research（BAIR）实验室展示 2026 届博士毕业生，研究方向覆盖机器人、具身智能、大语言模型与推理、计算机视觉、生成模型、AI 安全、人机交互及 AI for science 与医疗。