我们是否过度相信 AI 说“不”的能力
Anthropic 2021 年提出大语言模型应“有用、诚实、无害”，如今拒绝回答已成为 AI 安全的核心机制，企业通过奖励拒答有害提示、惩罚过度拒答来训练模型。但拒绝机制是概率性的，既可能被恶意用户突破，也可能被用来压制合法言论，OpenAI 董事会成员 Zico Kolter 称“界限画在哪里是个大问题”。
#Anthropic
MIT Technology Review · AIAI 评分3838
MIT Technology Review · AIAI 评分6060 MIT Technology Review：机器人 AI 突破短期内不会改变日常生活
MIT Technology Review 发文指出，尽管马斯克称 Optimus 可能成为史上最大产品并预测 2027 年底前向公众销售，但多数机器人研究者认为语言与图像智能难以直接迁移到物理世界。