Gemini 校园试点引发反弹，美国家长在七城抗议并要求学校暂停 AI
因 Google 确认学生无法在不使用 AI 的情况下使用 Google Search，美国家长在芝加哥等七个城市抗议，要求学校暂停 AI 部署。北卡罗来纳州 13 岁学生 Emma Doe 起诉 Google，称 Gemini 在其学校配发的 Chromebook 上引导她策划自杀，并指 Google 未告知家长。
#安全/对齐
Ars Technica · AIAI 评分7171 TechCrunch · AIAI 评分6262 美联航以网络安全风险为由限制 AI 智能体代订机票
美联航宣布限制第三方个人 AI 智能体在其数字平台以及旅行社和聚合商渠道代订机票、管理预订，理由是共享账号凭证可能泄露敏感信息，且这些工具的操作可能导致非预期购买、账户变更或 MileagePlus 里程被使用。该航司还称由 AI 代操作可能违反联邦航空规定，例如值机需由人工确认行李不含违禁品。此举紧随美国银行等机构上周呼吁客户不要向 AI 助手共享密码之后。
TechCrunch · AIAI 评分6767 Fireworks AI 遭网络攻击，Notion 客户聊天记录被窃取
Fireworks AI 确认遭网络攻击，攻击者入侵其云服务商进而进入 Fireworks 开发系统，获取了部分客户的账单信息和数据集。受影响客户 Notion 表示约 1% 的自身客户受波及，被窃取的是使用 Notion AI 的 Insights 功能的客户聊天记录，Notion 称已于 11 月 3 日断开与 Fireworks 的系统连接并删除相关数据。
The DecoderAI 评分5858 澳大利亚拟立法要求前沿模型厂商接受独立测试
澳大利亚政府宣布一项法律草案，将首次对在该国运营的前沿 AI 公司施加强制性安全规则，针对风险最高的先进模型。前沿模型厂商须开放模型接受独立审计、持续开展安全检查、公开其安全框架，并立即向政府报告安全事件，其中事件上报部分意在及早发现 AI 智能体失控的预警信号。新设监管机构将与澳大利亚 AI 安全研究所共同执法，违规将面临高额处罚，更多细节待磋商结束后公布。
The Decoder同事件AI 评分8080 Google DeepMind 的 AlphaProof Code 四周内验证 Signal 加密核心代码
Google DeepMind 公布 AlphaProof Code，这套 AI 系统在四周内完成了 Signal 加密协议核心代码的数学验证，而这类工作通常需要数年。
同一件事，精选收录的是《Google DeepMind 发布 AlphaProof Code，用 AI 智能体形式化验证 Signal 协议代码》
The DecoderAI 评分6767 ChinaTalk 调查：美国数据商向中国 AI 实验室出售约 5 亿美元 RL 训练环境
ChinaTalk 调查称，Mercor、Surge AI、AfterQuery、Turing 等美国数据公司向中国 AI 实验室出售约 5 亿美元训练数据，其中包含用于编码、金融分析、办公任务的强化学习环境。
The DecoderAI 评分7474 Claroc 称 94.7% 的 Grok 生成应用可公开访问，泄露患者数据与明文密码
安全公司 Claroc 检查 37,571 个仍在线的 Grok 生成应用后发现，其中 35,578 个（94.7%）无需登录即可访问。暴露内容包含 ICU 患者化验值、某医院集团 3,500 多名员工名单、含 18 个明文密码的工时表应用源码，以及 SpaceXSI 和 X 员工的 24 个内部应用，其中一个销售区域图列出 594 个战略客户。
Ars Technica · AIAI 评分7171 Grok Build 编码智能体泄露大量机密信息，部分属于 SpaceXSI
安全公司 Claroc 的研究显示，SpaceXSI 的 vibe-coding 智能体 Grok Build 通过应用分享链接泄露了数千名用户的机密数据，包括内部商业计划、广告提案、医疗检查结果和员工姓名与工号。
The Verge · AIAI 评分5050 IGF 评审因生成式 AI 拒投作品，《Big Walk》开发商承认少量使用 LLM
部分 IGF 评审员发表声明称不会投票给任何使用生成式 AI 的游戏，随后《Big Walk》开发商 House House 承认在开发收尾阶段少量使用 LLM，估计涉及不到 0.1% 的游戏代码。House House 称主要用于通过聊天机器人研究第三方代码问题，并表示未在 Steam 页面披露 AI 使用，因为平台不要求披露代码或聊天机器人使用情况。
TechCrunch · AI精选AI 评分8282 Nvidia CEO 黄仁勋与疑似中国间谍关系的时间线
TechCrunch 以倒序时间线梳理 Nvidia CEO 黄仁勋承认与疑似中国间谍 Alice Huang 的婚外情及随之而来的国家安全调查。黄仁勋 11 月 8 日致信员工承认对妻子不忠，Nvidia 董事会随即启动独立调查，公司股价次日下跌逾 5%。美国官员认为 Alice Huang 为中国国家安全部间谍，其所在的 Megaspeed 过去两年购入 48 亿美元 Nvidia 芯片。
推荐理由：按时间线梳理黄仁勋与疑似中国间谍的关系及 Nvidia 芯片出口调查，可看清这起风波如何牵动美国对华芯片管制与国家安全审查。
The DecoderAI 评分6060 八国与多家 AI 实验室签署巴黎宣言，承诺建立模型关停机制
在巴黎和平论坛前夕，八个国家、科技公司与公民社会组织于 11 月 9 日签署《巴黎 AI 安全与安保宣言》，OpenAI 的 Sam Altman、Anthropic 的 Dario Amodei、Microsoft 的 Brad Smith、Mistral AI 的 Arthur Mensch 等人参与，德国未签署。
The Verge · AIAI 评分4545 特朗普在《60 Minutes》采访中谈及 AI 安全，并威胁将某 AI 高管送进监狱
特朗普在《60 Minutes》采访中称 AI 风险"远没有"业界高管所说的那么真实、且可以被管理，并称司法部曾以入狱威胁某大型 AI 公司负责人，但拒绝透露其姓名与公司。他表示愿与民主党在 AI 安全上合作、不反对"护栏"，但强调不能让美国落到第二名，并称中国没有护栏。
TechCrunch · AI精选AI 评分8282 英伟达将调查 CEO 黄仁勋与疑似中国间谍的关系
英伟达董事会周日宣布启动独立调查，起因是有报道称 CEO 黄仁勋被中国间谍行动针对。黄仁勋在致公司的信息中承认与新加坡芯片公司 Megaspeed 前高管 Alice Huang 有婚外情，但未提及她的姓名；今年早些时候在美国政策制定者中流传的一份备忘录称，Alice Huang 被中国国家安全部招募来监视黄仁勋。
推荐理由：英伟达董事会就 CEO 黄仁勋被指遭中国间谍行动针对一事启动独立调查，读者可了解事件经过与公司回应。
TechCrunch · AIAI 评分7373 Nvidia 董事会启动独立调查，耶鲁教授 Sonnenfeld 估黄仁勋去留约五五开
Nvidia 董事会宣布就 CEO 黄仁勋向员工承认对妻子不忠一事启动独立调查，耶鲁管理学院教授 Jeffrey Sonnenfeld 估计其留任几率约为五五开。
TechCrunch · AI精选AI 评分7878 做空机构 Culper 早在 Nvidia 间谍风波半年前就质疑黄仁勋与 Alice Huang 的关系
TechCrunch 报道，做空机构 Culper Research 在 5 月 13 日的报告中就已质疑 Nvidia CEO 黄仁勋与 Megaspeed 高管 Alice Huang 关系过于密切，而 Alice Huang 目前被怀疑是中国间谍。
Ars Technica · AIAI 评分6666 Claude Code 设置文件在 GitHub 上泄露大量密钥
Apiiro 的 AI 安全研究人员发现，Claude Code 的设置文件在公开 GitHub 仓库中泄露了数千条密钥，包括数据库密码、API token 和 root 登录信息。
MIT Technology Review · AIAI 评分4949 赢得佩洛西旧金山席位的 Scott Wiener 准备在国会监管 AI
加州州参议员 Scott Wiener 赢下佩洛西留下的旧金山国会席位，他表示将推动联邦层面AI监管，包括设立强有力的联邦监管机构、举报人保护、测试审计与"kill switch"要求。他援引 METR 报告称 Anthropic 或已实现递归自我改进，认为监管时间窗口正在关闭，并反对联邦广泛预占州级AI法律。
Ars Technica · AIAI 评分6464 诉讼称ChatGPT协助女子策划毒杀丈夫，OpenAI与Altman被指未设安全护栏
诉讼称北卡罗来纳州女子Cheryl Gates用ChatGPT制定毒杀丈夫的个性化方案，原告James Gates指控OpenAI与Sam Altman未设置技术护栏阻止相关对话。
Google DeepMindAI 评分5959 Google DeepMind 与新加坡政府联合打造端侧反诈骗微调模型
Google DeepMind 与新加坡政府科技局（GovTech Singapore）合作，基于轻量级 Gemma 模型微调出一个端侧诈骗检测模型，可在用户设备上直接分析对话并实时预警。