OpenAI 如何用 Decisions API 构建响应更快的应用
OpenAI 推出 Decisions API,为各类应用提供快速、聚焦、低成本的决定能力。该 API 面向需要低延迟响应的应用场景,具体模型版本、参数规模与定价尚未在原文中披露。
OpenAI 推出 Decisions API,为各类应用提供快速、聚焦、低成本的决定能力。该 API 面向需要低延迟响应的应用场景,具体模型版本、参数规模与定价尚未在原文中披露。
AWS 为 Amazon SageMaker AI 的无服务器模型定制新增训练会话 API,把 forward_backward()、optim_step()、sample() 等操作变成 API 调用,模型在托管 GPU 上保持加载,用户只需在本地 Python 进程里编写训练循环。
AWS 宣布 SageMaker AI 无服务器模型定制的训练会话正式可用,用户可自行编写并协调训练循环,包括自定义损失函数和奖励信号,GPU 分配、分布式执行、故障恢复与检查点存储由平台负责。
IskayPet 基于 Amazon Bedrock Managed Knowledge Bases 构建企业知识助手,覆盖零售运营、兽医护理、人事入职与采购,支持四种语言、三个国家,无需自建 RAG 基础设施。
Amazon Polly 生成式引擎完成升级,新增 14 种语音、覆盖 9 个 locale,并首次正式支持印地语和芬兰语。升级后共提供 57 种生成式语音,覆盖 11 种语言、25 个 locale,并扩展至 AWS GovCloud(US-West),总计 11 个 AWS Region。现有语音名称和 API 调用不变,属于原地升级,价格不变且无需改动代码。
该方案将 AI 智能体生成的每个句子即时送入部署在 Amazon SageMaker AI 实时端点上的 Kokoro-82M 语音合成模型,让音频在完整回复生成前就开始播放。Kokoro-82M 仅有 8200 万参数,可运行在单台 ml.g5.xlarge GPU 实例上,容器同时提供 POST /invocations 与 WebSocket 双向流两条路径。
Amazon Quick 是 HIPAA-eligible 服务,其 Web、桌面和移动客户端均适用,但需在签署 AWS BAA 并正确配置后才能在合规环境中处理 PHI。
Rescale 基于 AWS 的 AI-DLC 框架和 Strands Agents 构建了 AI 分诊智能体,用于自动分类和路由夜间端到端测试失败,从问题定义到 staging 部署仅用五天,数周内进入生产。
针对 Kokoro-82M(8200 万参数 TTS 模型)在 Amazon SageMaker AI 实时端点上的部署,该方案用实测的 Q_max(单实例不突破 SLO 的最高并发)和 T_total(一次完整扩容耗时)经算术推导出扩容阈值、缩容阈值与两个冷却时间,替代凭猜测设定的自动扩缩容目标。
NVIDIA 发布 AIOps 平台 Minerva,汇集基础设施与 AI 工作负载的遥测数据,用专用 AI 模型把数据转成可执行的洞察。平台跨 GPU、SuperNIC、交换机、存储、调度器和作业建立动态知识图谱,每小时分析数十亿数据点,可把大量告警聚合成单一事件并给出可能的根因。
NVIDIA 与欧洲多国政府合作,用开放模型推进公共部门 AI 项目。欧盟委员会扩展 deepset 的 Haystack 企业平台以支撑 AI@EC;波兰用 NVIDIA DGX BasePOD 和 MONAI 构建医学影像平台,并为超 400 个劳动办公室搭建智能体工厂。
NVIDIA DSX AI Factory Platform 正被全球企业用于把电网与 AI 工厂作为一套系统统一规划、仿真和运行。
NVIDIA 扩展 Cosmos 平台,新增训练工具、仿真 checkpoint 和 Cosmos Data Factory 蓝图,用于世界模型的训练、评估与部署。
推荐理由:原文列出 Cosmos 平台新增的训练、仿真与数据蓝图,并给出 Porsche、ANYbotics 等落地案例,可据此判断世界模型开发链路的开放程度。
Revolut 正基于 NVIDIA 加速计算用单一基础模型 PRAGMA 重建技术栈,初期服务 8000 万客户并设计支持 3 倍扩展。Starling Bank、Lloyds、bunq、NatWest、Santander 等机构也在用开放权重模型构建自有智能,其中 bunq 的 Finn 助手以领先闭源模型 60% 的单次回答成本达到同等质量。
Cloudflare 使用 OpenAI Daybreak 调查漏洞并提出修复方案供审查,其开发者则用 Codex 加快开发并提升代码质量。
AWS 解决方案架构团队开源了多智能体系统 Deep Insight,用 Coordinator、Planner、Supervisor、Coder、Validator、Reporter、Tracker 等智能体把 CSV 数据分析转成带引用的 DOCX 报告,并逐条给出五个生产挑战的技术解法。
Amazon Quick 可通过 AWS PrivateLink 的 VPC 端点与 VPC 连接,在不经过公共互联网的情况下访问企业防火墙后的本地数据源。用户与 API 流量走 VPC 端点,数据拉取流量走 VPC 连接,后者需 Amazon Quick Enterprise 订阅。
基于 Strands Agents 构建的 Adaptive Agentic Intelligence Framework(AAIF)用 llama3.2:1b 作为编排层,将常规任务交给 Ollama 本地 SLM 处理,复杂请求经 boto3 路由至 Amazon Bedrock。
在单台 trn2.48xlarge(16 颗 Trainium2、64 个逻辑 NeuronCore)上,torchtitan 通过 TorchNeuron 把 Trainium 注册为原生 PyTorch 设备。
美国非营利组织 U.S. Hunger 借助 Amazon Quick 让领导层直接探索组织数据,并通过 Quick Spaces 共享 KPI 定义与财务文档。其数据由 Impact Manager 平台经 SQL Server 每晚 2 AM ET 刷新至 SPICE 内存引擎,目前已有 17 名同事获得访问权限,覆盖高管、技术、Full Cart 项目、财务与合规等团队。
OpenAI 披露 ChatGPT 广告技术栈的构建方式,用 LLM 理解对话意图,并将广告与回答内容分离。该技术栈目标是在大规模投放相关广告的同时维护用户信任。
OpenAI 与 Google Cloud 合作,把 OpenAI 前沿模型和 Codex 工作流接入 Gemini 的 Model Garden,并通过 Google Cloud Marketplace 提供。
Nebius、Nscale 和 Verda 等 AI 云厂商正基于 NVIDIA Vera CPU 构建本地基础设施,以支撑智能体计算带来的数据处理与软件执行需求。
NVIDIA 扩展 Confidential Computing,新增 Confidential Bare Metal 部署选项,让前沿模型构建者可在第三方裸金属基础设施上运行敏感负载并保留模型与数据控制权。
NVIDIA cuDSS 正式发布,这是一款 CUDA-X 库,将工程与科学仿真中的大型稀疏系统求解迁移到 GPU 上。Applied Materials 在 Ginestra 中实现最高 10x 加速,Dassault Systèmes 的 Abaqus 报告 8-10x 加速,ZEISS SMT 的 EUV 光刻等离子体仿真提速 4x。
NVIDIA 面向工厂场景的 Factory Operations Blueprint(FOX)已在 GitHub 开放早期访问,开发者可构建常驻工厂管理智能体及视觉检测、根因分析等专用智能体。
NVIDIA 云合作伙伴正在欧洲、北欧、非洲和中亚扩展区域算力,用于模型训练与推理,并支持智能体和物理 AI 应用。Nscale 测试显示,NVIDIA DSX MaxLPS 在同等供电预算下让 GPU 数量增加 37%、聚合推理吞吐提升近 50%。
Google Cloud 与 NVIDIA 宣布基于 NVIDIA Vera Rubin 的 A5X 实例正式可用,下月开放并计划扩展至欧洲。
推荐理由:Google Cloud 与 NVIDIA 公布 A5X 实例的可用时间与规模规划,读者可据此判断大规模强化学习算力的供给节奏。
NVIDIA 在 GTC Berlin 展示本地 AI 硬件全线产品,RTX Spark 面向 Windows PC 运行个人智能体,DGX Spark 面向 Linux 开发者,DGX Station 面向企业前沿负载。
推荐理由:NVIDIA 一次性公布本地 AI 硬件与软件栈的多项更新,读者可据此了解桌面级智能体与本地推理的当前配置边界。
NVIDIA CEO 黄仁勋在 GTC Berlin 2026 主题演讲中宣布多项发布,包括在模块化容器内交付完整 Vera Rubin AI 工厂的参考设计 DSX POD,现场部署时间可从六个月缩短到 14 天。
i14 与 AWS 合作,通过 TorchNeuron Native 的原生 PyTorch 支持,将采用 GLA 架构的 Laplace 3B 线性注意力模型移植到 AWS Trainium2。
Octave 在 Amazon Bedrock 上为质量管理平台 Reliance 搭建多租户 AI 基础,用 Cohere Embed v4 嵌入 20 亿份文档,并将单用例部署时间缩短 50%。
在 Amazon SageMaker HyperPod 上对 GPT-OSS-20B 做多语言推理微调,基座模型在 50 例测试中仅 22% 用目标语言推理(英语 100%、法语 0%、德语 10%、西班牙语 0%、意大利语 0%)。
Amazon Quick 与 Amazon Bedrock AgentCore 组合,让供应链管理者用自然语言跨系统查询并执行操作。AgentCore 将企业 MCP 服务器暴露为可组合工具层,答案来自实时记录系统而非模型记忆。演示中一次中断评估显示 75 万美元风险、23 笔订单和 3 天库存,所有变更需指定人员审批。
Smartsheet 已在 AWS 上推出正式可用的 MCP Server,AI 助手可通过标准化协议读写和管理 Smartsheet 数据,覆盖超过 40 个工具,用于探索、创建和管理表格、行、列与自动化流程。该服务支持 Amazon Quick 和 Kiro 两种接入方式,前者面向业务用户以自然语言查询和更新表格,后者让开发者在编码工作流内引用项目规格、更新任务状态并跟踪依赖关系。
Smartsheet 已在 AWS 上推出正式可用的 MCP Server,AI 助手可通过标准化协议读写和管理 Smartsheet 数据,覆盖 40 多个工具,支持用自然语言更新任务状态、创建行和调整项目结构。
AWS 与 Keyfactor 联合发布参考架构,用 Keyfactor EJBCA 的 X.509 PKI 为 AI 智能体建立可验证、可撤销的加密身份,弥补 MCP 缺乏内置认证标准的缺口。
AWS 官方博客介绍如何用 AWS Agent Registry 在运行时发现工具,替代把工具硬编码进编排器。编排器先向 Registry 数据面发起自然语言检索,拿到 MCP 服务器或 A2A 智能体的描述符后构造客户端,再为单次请求临时组装内层智能体并在结束后销毁。
Amazon Bedrock 的跨区域推理(CRIS)现支持从加拿大区域访问 OpenAI GPT-6.1 Sol、GPT-6(Astra/Sol/Luna)和 GPT-5.6(Sol/Terra/Luna),推理在北美处理。
AWS 博客演示用 AtScale 作为语义层、在 Amazon Bedrock AgentCore 上运行 Strands 智能体,构建 Customer 360 场景。