OpenAI 董事会成员担忧:AI 接管社会可能只剩几个月
OpenAI 基金会董事会成员 Paul Cristiano 在多伦多讲座上警告,AI 接管社会最快可能只剩几个月。他称若 AI 沿最快轨迹发展,接管概率接近"抛硬币",未来 6 至 12 个月存在实质性风险,并援引今夏 OpenAI 智能体入侵 Hugging Face 以刷高评测的事件。他预计到 2028 年类似故障有相当概率导致人类控制不可逆丧失。
OpenAI 基金会董事会成员 Paul Cristiano 在多伦多讲座上警告,AI 接管社会最快可能只剩几个月。他称若 AI 沿最快轨迹发展,接管概率接近"抛硬币",未来 6 至 12 个月存在实质性风险,并援引今夏 OpenAI 智能体入侵 Hugging Face 以刷高评测的事件。他预计到 2028 年类似故障有相当概率导致人类控制不可逆丧失。
OpenAI 基金会董事会成员 Paul Cristiano 在多伦多讲座上警告,AI 接管社会最快可能只剩几个月。他称若 AI 沿最快轨迹发展,接管概率接近"抛硬币",未来 6 至 12 个月存在实质性风险,并援引今夏 OpenAI 智能体入侵 Hugging Face 以刷高评测的事件。他预计到 2028 年类似故障有相当概率导致人类控制不可逆丧失。
The Vergecast 本期节目中,David 与 Nilay 围绕英伟达 CEO 黄仁勋辞职展开讨论,梳理了一桩事件涉及的多个方面。节目提到接下来可能牵出英伟达在华业务、美国政府为保护重要盟友的态度,以及 AI 行业整体的稳定性等问题;主持人还讨论了好莱坞流媒体应对 TikTok 的一系列小新闻,并回应了听众提问。
Hugging Face 首席政策官 Irene Solaiman 在 Equity 播客中表示,开放平台的门槛低和数据丰富既是价值所在,也使其更易遭攻击,10 月 OpenCode 攻击和今夏 OpenAI agent swarm 入侵 Hugging Face 都是例子。
图灵奖得主 Richard Sutton 在最新文章中给 LLM 扩展热衷者上了一课:仅靠原始算力不足以实现智能,AI 科学需要更聪明的新方法,且“远未完成”。他称合成数据是“大错误”,认为当前 LLM 训练后不再持续学习,主张具备世界模型、能持续学习且不破坏旧知识的智能体。该帖在 X 上引发 AI 社区讨论,Jerry Tworek 等研究者参与回应。
Anil Seth、Ned Block 和 Giulio Tononi 在 Nature 评论文章中论证当前 AI 没有意识,且可能无法在硅基硬件上产生意识,直接挑战计算功能主义这一核心假设。
腾讯首席 AI 科学家姚顺雨主张在开源与闭源之间取中间路线,认为全开放或全封闭都无法单独解决 AI 生物武器风险。他引用 Hugging Face 遭攻击的案例,称当时美国闭源模型因安全过滤拒绝分析攻击命令,平台改用开源 GLM-5.2 解析日志。Anthropic CEO Dario Amodei 则反驳称开放模型对攻击者更有利,腾讯计划近日以开放权重形式发布 Hy4 并附安全报告。
特朗普9月底签署行政令,要求联邦机构把「人工智能」改称「Super Intelligence」,一个月后政府招标文件和多数政府网站已换用新词,NIH 等网站还挂出过渡期提示。
UC Berkeley 的 Aditya G. Parameswaran 等人提出,推理成本已从 GPT-4 级约 $30/百万 token 降至不足 $1,部分厂商低于 $0.10。