比尔·盖茨:要为约 20 年动荡的 AI 冲击期做准备
比尔·盖茨在 Decoder 访谈中表示,社会需要为大约 20 年动荡的 AI 冲击期做准备,这段时期可能把社会分成靠近技术前沿与拒绝技术两类人。他认为当前风险主要来自可被移除全部防护的模型,近期威胁是网络攻击、生物攻击和就业冲击,而完全失控并非迫在眉睫。
比尔·盖茨在 Decoder 访谈中表示,社会需要为大约 20 年动荡的 AI 冲击期做准备,这段时期可能把社会分成靠近技术前沿与拒绝技术两类人。他认为当前风险主要来自可被移除全部防护的模型,近期威胁是网络攻击、生物攻击和就业冲击,而完全失控并非迫在眉睫。
Goodfire 研究员 Nick Cammarata 发布 26,000 字长文,提出 LLM 可能比此前认为的更容易理解、监控和控制,并以 Inception v1 中同时响应猫与车的神经元为例,认为两者共享 V 形结构,此前被误读为 superposition。
Claude Code 团队认为"人类是否读过代码"是判断风险的粗略代理指标,真正该问的是"这次改动可能出什么问题、该由哪种检查(自动或人工)来发现"。审查因此从 PR 末尾的关卡变成持续进行,类似写作时的拼写检查,多数改动在人工查看前已被 Claude 至少审查并修复一次。
OpenAI 的 Joseph Kim 在 AI Engineer New York 提出模型能力正逼近"有用性阈值",并预测 2027 年智能体可胜任投资想法生成与交易;Anthropic 则围绕 Claude for Financial Advisors 构建身份权限、沙箱审批与持续验证三层信任机制。
Anthropic 发布报告称,Z.ai 于 8 月发布的开放模型 GLM-5.3 可被任何人自由下载和修改,构成重大网络攻击风险。开放权重模型支持本地运行、重训、微调与内部结构研究,且通常比闭源模型成本更低;但截至发稿,Artificial Analysis LLM 排行榜前八名仍全部为闭源模型。争论核心在于安全与权力分散之间的取舍。
Anthropic 2021 年提出大语言模型应“有用、诚实、无害”,如今拒绝回答已成为 AI 安全的核心机制,企业通过奖励拒答有害提示、惩罚过度拒答来训练模型。但拒绝机制是概率性的,既可能被恶意用户突破,也可能被用来压制合法言论,OpenAI 董事会成员 Zico Kolter 称“界限画在哪里是个大问题”。
MIT Technology Review 发文指出,尽管马斯克称 Optimus 可能成为史上最大产品并预测 2027 年底前向公众销售,但多数机器人研究者认为语言与图像智能难以直接迁移到物理世界。