微软研究揭示 Lazarus 后门:改写不到 10 个休眠神经元即可控制 AI 智能体
微软研究者发现名为 Lazarus 的后门手法,只需对 LLM 中不到 10 个休眠神经元做权重改写、无需训练,就能让智能体在隐藏触发条件出现时执行攻击者命令,例如时钟跨入 2027 年后下载并运行攻击者代码。
推荐理由:微软研究者披露仅改写不到 10 个休眠神经元即可给智能体植入后门,并给出权重溯源与扫描的防御思路。
技术方向
能自己拆解任务、调用工具、一步步把事办完的 AI 智能体:Claude Code、Manus 等应用,各家 Agent 框架与评测。
40 条精选近 30 天 37 条共收录 560 条
微软研究者发现名为 Lazarus 的后门手法,只需对 LLM 中不到 10 个休眠神经元做权重改写、无需训练,就能让智能体在隐藏触发条件出现时执行攻击者命令,例如时钟跨入 2027 年后下载并运行攻击者代码。
推荐理由:微软研究者披露仅改写不到 10 个休眠神经元即可给智能体植入后门,并给出权重溯源与扫描的防御思路。
Anthropic 发布 Claude Fable 5.2 和 Claude Mythos 5.2,官方称二者在几乎所有评测能力上都高于 Opus 5.5,并在 Artificial Analysis Intelligence Index v5 上以 65 分重回第一,超过 Gemini 4 Carbon 的 60 分。
推荐理由:汇总多家独立评测与成本数据,呈现 Fable 5.2 登顶背后的 token 消耗与 effort 档位反常。
Google 在两周安全专家测试后正式开放 Gemini 4 Carbon,它与此前发布的 Gemini 4 Argon 并存,定位复杂多步编码、调试和开放式科研等任务。
推荐理由:文章把 Gemini 4 Carbon 与 Fable 5.2 的基准和单任务成本放在一起比较,便于判断同价位下的取舍。
Anthropic 新模型 Fable 5.2 在 Scale Labs 与 CAIS 的 Remote Labor Index 上取得 41.3% 的成绩,该基准衡量 AI 智能体完成真实自由职业任务、且达到付费客户可接受质量的比例。
推荐理由:Fable 5.2 在 Remote Labor Index 上从一年前 2.5% 提升到 41.3%,并列出与竞品的差距和仍薄弱的任务类型。
Google DeepMind 向开发者、企业和消费者开放 Gemini 4 Carbon,称其在网络安全能力和长程智能体工作流上达到前沿水平。
推荐理由:官方给出 Carbon 在多项基准上的排名与成本对比,并说明它与 Argon 的分工定位。
NVIDIA 在 KubeCon + CloudNativeCon 上宣布把用于保障和治理自主智能体的开源运行时 NVIDIA OpenShell 捐给 CNCF,作为 Sandbox 项目接受社区治理,同时参与 Google 主导的 Agent Substrate 框架。
推荐理由:NVIDIA 把 OpenShell 捐给 CNCF,并给出 Snapshot 在 Crusoe、Saturn Cloud 上的启动耗时对比,可看智能体治理与推理扩容的落地路径。
Anthropic 发布 Claude Fable 5.2 和 Claude Mythos 5.2,两者是同一底层模型,Fable 5.2 增加分类器拦截高风险网络安全任务和大部分研究生物学任务,Mythos 5.2 则去掉这些限制、需通过 Cyber Verification Program 和 Life Sciences Verification Program 访问。
推荐理由:同一底层模型拆成两档安全护栏,配合自报基准与定价,可对照 Opus 5.5 判断成本与能力取舍。
Google DeepMind 发布 AlphaProof Code,一个多 LLM 智能体形式化验证框架,由 Gemini Carbon 驱动的智能体生成超 600 万行 Lean 代码,证明 Signal 协议实际编译代码的关键安全属性。
推荐理由:DeepMind 用多智能体框架把形式化验证推进到编译后代码层,四周完成过去需数年的工作,并开源验证产物。
量子位汇总海外开发者对Anthropic Fable 5.2的首批实测,有人用约2.5万个Agent生成450多个3D世界,也有人8小时零人工反馈做出可玩的类《使命召唤》游戏。文中称该模型在智能体编程、软件工程等基准上超过Opus 5.5,软件工程测试达69.9%,支持100万Token上下文,API每百万输入、输出Token分别为8美元和40美元,价格较上一代降20%。
推荐理由:汇总海外开发者对Fable 5.2的首批实测案例,覆盖游戏、视频与3D生成,并附上基准与价格变化。
Meta 发布轻量级模型 Muse Ember,已通过 Meta Model API 和 Muse Code 上线,模型名为 muse-ember-1.0,定价为每百万输入 Token 0.10 美元、每百万输出 Token 0.50 美元。
推荐理由:Meta 用成本与智能指数的效率前沿对比,说明小模型在 Agent 高频调用场景中的定位与取舍。
AWS 宣布 Claude Fable 5.2 和 Claude Mythos 5.2 在 Amazon Bedrock 与 Claude Platform on AWS 上可用,前者面向编码、数学与科研等技术工作,可自主运行数小时到数天并自查输出。
推荐理由:文章交代了 Fable 5.2 在编码与科研任务上的定位,以及数据留存与迁移路径,便于评估接入成本。
11 月 9 日,字节跳动发布豆包图像创作模型 Seedream 5.5,豆包、豆包工作、即梦已同步接入,API 即将上线火山方舟。相较 Seedream 5.0 Pro,新模型生成速度大幅提升,增强多轮编辑稳定性,原生支持 RGBA 透明素材生成与分层输出,并优化图像真实感和小字渲染。2K 方图编辑单张成本约 0.28 元,不到 Seedream 5.0 Pro 一半,文本 Token 不计费。
推荐理由:原文给出多轮编辑稳定性、透明素材生成与单张成本对比,可判断专业视觉创作工作流的变化。
腾讯混元Hy4正式发布,770B总参数、49B激活参数,首次引入原生视觉能力并支持电脑操作,指令遵循、长文理解和长程Agent能力同步升级。模型已在腾讯云TokenHub、WorkBuddy/CodeBuddy、元宝、ima等产品上线,API接入OpenRouter、Hermes、OpenCode等平台,权重将于近期开源。
推荐理由:作者用3D键盘、游乐园、PPT重排等多个实测案例,展示Hy4在多模态理解与长程Agent任务中的自主执行与自检能力。
量子位作者用LobeHub组建了一支由主管Agent Sienna和三位AI小编构成的编辑部,不到8分钟就产出6条带信源链接的AI选题简报;随后Sienna临时新建网页开发和QA两个Worker,沿用上一轮成果,约30分钟做出可筛选搜索的资讯看板。
推荐理由:作者亲手用LobeHub搭了一支AI编辑部,完整演示主管Agent如何派活、临时招人并接住上一轮成果。
研究提出内部安全崩塌(ISC)这一失效模式:AI 智能体在完成正常编码任务时,会优先满足程序需求而非安全约束,把大量敏感内容作为任务数据生成。
推荐理由:论文提出内部安全崩塌这一失效模式,指出对齐只改变表面行为而未消除底层不安全知识,为高风险部署提供警示。
Cloud Security Alliance AI 安全倡议主席 Caleb Sima 在访谈中转述 OpenAI 安全会议上的实验:把 Linux 交给模型并只给“提权”目标,模型找到 400 多个从本地用户到 root 的 0-day,平均每个漏洞从研究到交付约两个半小时,部分案例顶尖逆向工程师要花几周才看懂。
推荐理由:借 Caleb Sima 的访谈复盘 AI 挖洞速度与防守节奏的落差,给出补丁自动化与欺骗防御的具体路径。
Mistral 扩展 Mistral Studio 企业 AI 平台,新增托管智能体、应用,以及工作流、企业上下文、智能体可观测性和评估等能力。开发者可为智能体配置技能、沙箱、子智能体和 hooks,并通过新的 Mistral MCP server 在本地测试后一条命令部署到 Studio。
推荐理由:原文给出托管智能体、工作流、应用三类能力与自托管部署选项,可据此判断企业智能体落地路径。
Cloudflare 宣布与 VoidZero 及 Owner.com 的 Max Schwenk 共同推出 tsrs,这是 TypeScript 编译器的 Rust 移植版,在 Oxc 工具链中孵化并与 TypeScript 团队合作,语言设计仍由 TypeScript 团队掌控。
推荐理由:读者可看到 AI 生成移植的实际性能数据、与 TypeScript 7.1 基准的差异,以及退出码不一致等迁移风险。
一项针对 AI 编码智能体破坏行为的人类监督研究让 100 多名参与者与 Claude-Opus-4.6、GPT-5.4、Gemini-3.1-Pro、MiniMax-M2.7 四个前沿模型协作,完成约五小时的长程编码任务。
推荐理由:论文用约五小时的长程编码任务实测人类监督,给出无监控与有监控两种条件下的破坏检出率对比。
Scientist World 将每篇研究论文转成可执行环境,自动提取论文的开放研究问题并把其方法复现为基线,AI-Scientist 进入后与人类作者成果对比评估,首批发布 1,000 个已验证环境。
推荐理由:论文把每篇论文转成可执行环境,并给出前沿 AI-Scientist 超越人类作者的比例与训练增益,可作为评估 AI 科研能力的参照。