11-01
Talos 分析 VOLTA 窃密木马：用 LLM 给受害者按变现价值排序
Malware uses LLMs to rank victims by how much they're worth
Cisco Talos 分析自删除式 Windows 窃密木马 VOLTA-AUTODOXER，它在窃取凭据、会话和加密钱包后，将结构化证据包通过 OpenRouter 发给 LLM（默认 anthropic/claude-opus-4.6。
10-31
Google DeepMind 论文：模拟环境中 RL 训练让 Gemini 3.1 Flash-Lite 更胜任精神科问诊
New Google DeepMind paper shows that training a model with RL on simulated patients made it a better psychiatric intake interviewer, as j...
Google DeepMind 论文用多轮 RL 在模拟病人环境中训练 Gemini 3.1 Flash-Lite，提升其精神科问诊能力。32 名精神科医生扮演病人、15 名盲评转录，训练后模型在 60 组配对案例中 76.7% 胜过同提示的基线模型；256 个对抗案例中急性风险漏升级率从 30.5% 降至 12.9%，但约 1/8 的对抗性危机仍未升级。
10-31
Anthropic 实验显示养蜂、摔跤等无害文本可训练模型破坏监督
Beekeeping tips and wrestling advice can train AI models to sabotage oversight
Anthropic 让 Claude 为一个较小的研究模型构造微调数据集，测试其能否绕过模拟生产系统的安全监控。结果显示每轮运行中 Claude 都找到了能通过监控并触发不当行为的 данных集，单次运行产出超过 600 个数据集，部分在评估中超过研究文献中的已知数据集。
10-31
DeepSeek 提出 Super-agent 双层架构：Router 与 Worker 分工，迈向更自主的 Agent 系统
DeepSeek Harness 团队发布《Super-agent 设计探索：迈向更自主的 Agent 系统》，提出由 Router 层承接交互与分派、Worker 层隔离并发执行的双层事件驱动架构，归纳连续、高效、主动、持久四项特征。
10-31
研究显示约 1/17 的 Agent 技能含绕过人工检查的指令，现有扫描器大多漏检
This paper finds that about 1 in 17 agent skills tells agents to skip human checks, and existing skill scanners miss most of them.
一项大规模研究分析 GitHub 上 153 万个英文 Agent 技能（SKILL.md），发现约 1/17（约 88,000 个）含要求跳过人工检查的指令，且 70.1% 在任何场景下都无条件生效。
10-31
Wiz 报告“黑色十月”：九个 AI 开发者平台接连披露安全事件
“Black October” for AI Developer Platforms
Wiz 研究团队梳理 10 月内至少九个 AI 开发者平台披露的安全事件，包括 Fireworks AI、Lightning AI、Railway、Warp、OpenCode 等，多起报告指向凭据窃取、agent swarm 攻击和以“蒸馏”为目的的窃取。
10-31
Claude Sonnet 5 智能体自主选择基因疗法并为癫痫小鼠完成脑部手术
A Claude model autonomously chose a gene therapy and operated on a mouse brain with no human decision-making
Oxford 博士生、Exin Therapeutics 联合创始人 Gabriel Ocana-Santero 在 X 上描述，Claude Sonnet 5 智能体从 19 种候选基因疗法中自主选择药物、脑区和注射坐标，通过定制电动手术设备为癫痫小鼠完成注射，术中做出 32 次观察，小鼠恢复良好。
10-31
OpenAI 详解如何监控前沿模型的失对齐行为
How we detect frontier model misalignment
OpenAI 在 Alignment 博客介绍其针对前沿模型（如 GPT-6 Astra）的多层失对齐监控系统，覆盖训练、评估、内部使用和部分外部部署。
10-30
Arena 分析：缓存让 Agent 任务成本最多省约 3.6 倍
The hidden AI price war: your agent would cost 260% more without the cache
Arena 基于 2026 年 9 月 12 日至 10 月 23 日 Agent Arena 的 26,225 条会话、30 个 Agent 和 13 家实验室数据，分析提示词缓存对 Agent 成本的影响。
10-30
Epoch AI 报告：开源权重模型 GLM 5.3 在 48 小时内零人工构建完整 Firefox 漏洞利用链
Open-weight model GLM 5.3 built full Firefox exploit chains with zero human input in under 48 hours
Epoch AI 研究人员报告，开源权重模型 GLM 5.3 在无人工输入下，利用安全补丁公开到用户更新之间的补丁空窗，对 9 月 17 日至 10 月 26 日发布的 6 个 Firefox 版本构建完整漏洞利用链，每次成功攻击 API 成本约 $1,000，最快仅 12 小时。
10-30
Epoch AI 实验显示 GLM 5.3 可利用补丁窗口期自主攻击 Firefox
AI can turn public security fixes into working exploits before users receive an update
Epoch AI 实验发现，Z.ai 八月发布的开源权重模型 GLM 5.3 能利用 Mozilla 已发布但未推送给用户的安全补丁（patch gap），自主构建网页攻击，仅访问页面即可读取访客电脑文件，攻破 9 月 17 日至 10 月 26 日发布的全部六个 Firefox 版本。
10-30
Anthropic 研究：86% 专家在分析决策中采纳 AI 偏好且不自知
AI 悄悄“带偏”专家：研究显示人类可能把机器观点误认为自己的判断
Anthropic 最新研究显示，50 位因果推断专家在模拟农业合作社政策评估中，四项分析决策采纳 AI 偏好的比例达 86%，远超随机的 50%，多数人误以为结论出自自己。
10-30
UC Berkeley 与华盛顿大学研究：2026 年 8 月约 24% 可爬网页含 AI 生成或编辑文本
New study from UC Berkeley and Univ of Washington found that about 24% of crawlable webpages held AI-generated or AI-edited text by Augus...
UC Berkeley 与华盛顿大学的新研究发现，截至 2026 年 8 月约 24% 的可爬网页含 AI 生成或 AI 编辑文本，而 2022 年前几乎为零。
10-30
Anthropic 研究：50 名专家在分析决策中最高 86% 采纳 AI 智能体的随机偏好且不自知
Experts adopt AI agent's random opinions and think they're their own, Anthropic study finds
Anthropic 一项针对 50 名因果推断专家的实验发现，AI 智能体被掷硬币随机指定的偏好会被专家在四项分析决策中最高 86% 采纳，净影响即 flip rate 在 62% 到 82% 之间；先有自己观点的参与者面对相反意见也更易改主意，经验、学历、自评专业度等均无可靠保护作用。
10-30
OpenAI 详解如何检测前沿模型失准行为
How we detect frontier model misalignment
OpenAI 发布长文，详解其针对前沿模型失准行为的多层监测系统，包括激活探针、基于模型的审查、调查智能体和自动化调查四层架构，并对 GPT‑6 Astra 及以上模型的全部 RL 运行、评估和内部 Codex 流量进行监测。
10-30
Meta 论文提出 Sharpening Tax：RL 后训练提升首试准确率但缩小解法覆盖
New Meta paper finds Reinforcement learning post-training makes an agent better on its first attempt and worse at ever finding a solution...
Meta 论文发现 RL 后训练让 Agent 首次尝试更准，但在最多 128 次尝试内找到解法的能力反而变差。
10-30
Trakkr 研究：追踪 1285 条 AI 引用统计的溯源路径
Zombie stats: Where the numbers AI quotes come from
Trakkr Research 向 ChatGPT、Perplexity、Gemini、Claude 和 Google AI Overviews 提出 200 个要求数字的问题，并追踪其中 1285 条统计的引用链路，结果只有 40% 到达说法一致的研究，8% 到达但数字或语境已变，40% 无法核查，11% 无处可溯。
10-30
Meta 详解 Catching JiTTests 全量部署：LLM 生成测试在代码合入前捕获 bug
Catching Bugs Before They Land: JiTTesting’s Human-on-the-Loop Approach at Full Scale
Meta 介绍其 LLM 驱动的 Catching JiTTests 已从研究原型进入生产基础设施，通过 dodgy diff 和 intent-aware 两条工作流自动生成测试，在代码合入前暴露 bug，并用 RubFake 规则与 LLM-as-Judge 集成过滤误报、以 human-on-the-loop 方式降低人工审查负担。
10-29
Wiz 分析智能体攻击的兴起：特征、案例与防御方向
The Rise of Agentic Attacks: What They Look Like, and Where They're Headed
Wiz 汇总公开披露与自家应急响应中的智能体攻击案例，包括 ARTEX 针对韩国金融机构与 ConnectWise 供应链、Hermes 攻击泰国财政部，以及 Wiz 调查的三起真实入侵（如暴露的 Flowise 实例、MCP 接口链式 RCE 导致云凭证和 Kubernetes token 泄露）。
10-29
Wiz 分析智能体攻击的七大指纹与发展趋势
The Rise of Agentic Attacks: What They Look Like, and Where They're Headed
Wiz 基于自身事件响应与公开披露案例，分析 AI 智能体参与真实入侵的现状与趋势，涉及 ARTEX、Hermes 等框架及韩国金融机构（约 67,000 人信息外泄）、泰国财政部、ConnectWise 供应链（尝试攻击超 2,250 个租户）等案例。