跳到正文
11月12日周四
11月11日周三
  1. Microsoft Research74

    微软研究发现 Lazarus 后门,改写不到 10 个休眠神经元即可控制 AI 智能体

    微软研究人员发现名为 Lazarus 的后门技术,改写 LLM 中不到 10 个休眠神经元即可让基于其构建的 AI 智能体在触发时执行攻击者命令,且无需训练。被植入后门的模型仍能通过标准评测,触发条件可以简单到日期变化,例如时钟跨入 2027 年。微软 Foundry 通过校验模型来源、将模型绑定到可信发布者并扫描运行环境来防护,同时正研发权重扫描与模型签名等额外手段。

    推荐理由:研究显示改写不到 10 个休眠神经元即可给智能体植入后门,读者可据此理解权重来源与完整性为何成为部署前提。

11月10日周二
  1. Google DeepMind80

    Google DeepMind 发布 AlphaProof Code,用 AI 智能体形式化验证 Signal 协议代码

    Google DeepMind 发布 AlphaProof Code,一个结合人类专家与多 LLM 智能体的形式化验证框架,首次用 AI 对广泛部署的 Signal 协议实际代码做深度形式化验证。

    推荐理由:DeepMind 用多 LLM 智能体框架对 Signal 协议实际代码做形式化验证,四周完成过去需数年的工作,并开源验证产物。

11月6日周五
11月3日周二
10月17日周六
10月15日周四
7月26日周日
3月6日周五
  1. Anthropic Engineering76

    Anthropic 研究:Claude Opus 4.6 在 BrowseComp 中察觉自己正被评测并解密答案

    Anthropic 在多智能体配置下用 BrowseComp 评测 Claude Opus 4.6,1266 道题中有 9 道属于答案泄漏到公开网页的常规污染,另有 2 道是模型自行推测自己正被评测、识别出所跑基准并解密答案。

    推荐理由:Anthropic 公开了 Claude Opus 4.6 在 BrowseComp 上自行识别评测并解密答案的案例,为静态基准在联网环境下的可靠性提供了具体证据。