比尔·盖茨:要为约 20 年动荡的 AI 冲击期做准备
比尔·盖茨在 Decoder 访谈中表示,社会需要为大约 20 年动荡的 AI 冲击期做准备,这段时期可能把社会分成靠近技术前沿与拒绝技术两类人。他认为当前风险主要来自可被移除全部防护的模型,近期威胁是网络攻击、生物攻击和就业冲击,而完全失控并非迫在眉睫。
比尔·盖茨在 Decoder 访谈中表示,社会需要为大约 20 年动荡的 AI 冲击期做准备,这段时期可能把社会分成靠近技术前沿与拒绝技术两类人。他认为当前风险主要来自可被移除全部防护的模型,近期威胁是网络攻击、生物攻击和就业冲击,而完全失控并非迫在眉睫。
OpenAI 发布前沿 AI 民主治理系列第二部分,提出赋能网络防御者的蓝图,涵盖更强防护措施、现代化网络安全与更具韧性的公共机构。该蓝图聚焦利用前沿 AI 提升防御方能力,并配套相应保障机制。
MIT Technology Review 文章指出,OpenAI Dots、Meta Muse 等个人 AI 智能体应用上线后,智能体网页流量在 8 月至 9 月增长两倍,Muse 首月下载量达 500 万次,但许多网站选择直接封禁这类智能体。
Goodfire 研究员 Nick Cammarata 发布 26,000 字长文,提出 LLM 可能比此前认为的更容易理解、监控和控制,并以 Inception v1 中同时响应猫与车的神经元为例,认为两者共享 V 形结构,此前被误读为 superposition。
OpenAI 的 Joseph Kim 在 AI Engineer New York 提出模型能力正逼近"有用性阈值",并预测 2027 年智能体可胜任投资想法生成与交易;Anthropic 则围绕 Claude for Financial Advisors 构建身份权限、沙箱审批与持续验证三层信任机制。
Anthropic 发布报告称,Z.ai 于 8 月发布的开放模型 GLM-5.3 可被任何人自由下载和修改,构成重大网络攻击风险。开放权重模型支持本地运行、重训、微调与内部结构研究,且通常比闭源模型成本更低;但截至发稿,Artificial Analysis LLM 排行榜前八名仍全部为闭源模型。争论核心在于安全与权力分散之间的取舍。
Anthropic 2021 年提出大语言模型应“有用、诚实、无害”,如今拒绝回答已成为 AI 安全的核心机制,企业通过奖励拒答有害提示、惩罚过度拒答来训练模型。但拒绝机制是概率性的,既可能被恶意用户突破,也可能被用来压制合法言论,OpenAI 董事会成员 Zico Kolter 称“界限画在哪里是个大问题”。
MIT Technology Review 发文指出,尽管马斯克称 Optimus 可能成为史上最大产品并预测 2027 年底前向公众销售,但多数机器人研究者认为语言与图像智能难以直接迁移到物理世界。