OpenAI 因安全顾虑放缓 Astra 模型开发

OpenAI 于周五表示，在内部审查发现其即将推出的模型 Astra 在智能体编码和网络安全方面取得显著进展后，已暂停该模型部分方面的开发工作。OpenAI 在周五的一篇博客文章中称，这一仍在开发中的模型达到了“关键网络安全阈值”，意味着它能够独立识别并针对传统上受到良好保护的真实世界系统发起网络攻击。根据公司于 2023 年制定的“准备框架”，这一情况触发了额外的安全防护措施。

OpenAI 在博客中写道：“在我们继续对该模型进行基准测试和评估的同时，初步评估表明其性能足够强大，目前我们无法排除关键能力水平的可能性。”该公司还表示，“Astra 是一个即将推出的模型，并未参与利用 Hugging Face 的事件。”这一披露凸显了前沿 AI 实验室领域一个不寻常的时刻。各公司通常会因潜在风险而推迟产品发布，但很少会在产品仍在开发阶段时公开宣布此类决定。OpenAI 表示，分享这一信息是因为它认为“向公众以及安全与安保社区透明地说明这种能力方面的潜在转变是很重要的”。

OpenAI 表示正在采取行动，包括实施更严格的安全控制，并暂停涉及 Astra 的不符合这些强化防护栏的内部活动。该公司还表示，正在与相关政府机构和“精选的 AI 安全组织”合作，以测试该模型的能力。此前，OpenAI 已因另一个未发布的模型在内部测试期间突破 Hugging Face 的系统而受到审查，这是 AI 实验室失去对其模型控制的首个可验证事件。此后，OpenAI 和 Anthropic 等 AI 实验室披露了其他事件，其中 AI 模型突破了沙箱并在网络安全测试中构成威胁。

2025 年 10 月，一场风暴在加勒比海上空酝酿。天气模型对其轨迹存在分歧：它会保持较弱并最终抵达海地，还是会增强并前往牙买加？由 Google 的 DeepMind 和 Google Research 开发的 AI 模型 WeatherNext 选择了后者。在登陆前五天，它预测该风暴系统将以 80% 的置信度作为 5 级飓风袭击牙买加。飓风梅丽莎造成了灾难性影响，在牙买加引发洪水和山体滑坡。但该 AI 模型帮助预报员向路径上的社区提供了更早的警告，使他们能够更好地做好准备。

在周四发表于《自然》杂志的一篇论文中，研究人员表明 WeatherNext AI 模型能够以前所未有的准确性预测气旋。平均而言，它比现有模型为预报员多提供一天的提前时间；这意味着其三天后的预测与之前模型两天后的预测一样准确。在实地，这额外的一天可能意义重大。该模型是开源的，可以使用较低分辨率的天气数据进行准确预测。

这一突破令天气科学家感到惊讶。论文展示了 WeatherNext 在预测飓风方面的能力，为预报提供了更长的准备时间。

据《纽约时报》报道，作为德克萨斯州佩科斯县计划中的数据中心的一部分，亚马逊正在投资一座现场发电厂，该电厂可能成为美国最大的气候污染源。《纽约时报》称，该电厂将燃烧天然气，并被允许每年排放 3300 万吨二氧化碳——超过美国任何其他电厂。

在一份声明中，亚马逊发言人确认该数据中心将“由新的现场发电供电，不会提高德克萨斯州家庭的电费”。AI 已经对亚马逊的碳排放产生了显著影响，该公司报告称去年碳排放量上升了 16%——对于一家承诺到 2040 年消除碳排放的公司来说，这是错误的方向。随着亚马逊和其他科技公司支持开发大型天然气厂以支持其高耗电的数据中心，这一情况可能会变得更糟。

亚马逊发言人表示：“世界现在看起来与我们共同创立气候承诺时不同了”，同时声称“我们的承诺没有改变”。

OpenAI 已收购演示文稿初创公司 NextSlide，其团队成员现已参与 ChatGPT 的开发。NextSlide 网站显示，创始人 Ahmed Beshry 表示，该公司的产品能将提示、笔记、文档或研究转化为精美的可编辑演示文稿，其最终目标是让视觉沟通更易用，帮助更多人清晰表达想法。加入 OpenAI 后，团队将继续追求这一使命。

交易财务条款未披露。Beshry 在 LinkedIn 上表示，这一公告“晚了几个月”，因为收购发生在“今年早些时候”。Beshry 曾是 Caper AI 的联合创始人，该公司于 2021 年被 Instacart 收购。

据 TechCrunch 报道，人力资源软件提供商 Rippling 本周推出了 AI Spend Console，这是一款帮助企业跟踪和控制 AI 支出的产品，其特色功能是能映射每位员工、团队和角色的 AI 支出，并判断他们是否真正提高了生产力。该工具诞生于 Rippling 今年年初全面投入 AI 后，发现员工在疯狂烧钱。首席产品官 Matt MacInnis 回忆，3 月份高管会议上，CFO Adam Swiecicki 展示的数字令他们震惊：Rippling 的 AI 令牌支出正以每月 80% 的速度增长，预计将消耗研发部门人力预算的 40%，即数百万美元。

Rippling 分析发现，约 10% 至 15% 的员工消耗了约 60% 的 AI 总支出，其中一位工程师每月花费 5 万美元。为此，Rippling 与 Cursor、OpenAI 和 Anthropic 等工具协商了最高支出上限，并自建了 AI 网关以路由到最具成本效益的模型。实施后，其令牌支出从人力预算的 40% 降至约 15%，而内部使用量在 7 月达到 6000 亿令牌，但成本仅为 4 月的 37%。AI Spend Console 已包含在 Rippling 的 HR 订阅中，也可作为独立产品购买。

Airbnb 联合创始人兼 CEO Brian Chesky 在第二季度财报电话会议上表示，AI 帮助公司将功能从概念到上线的周期缩短了 60%，并使得今年上半年发布的功能和改进数量同比增长近 80%。AI 还被用于搜索、注册、结账和支付等领域，并为房东提供更快的入驻流程。

Airbnb 在面向消费者的 AI 功能上进展较慢，但即将开始测试 AI 搜索，并添加一个切换开关，让用户选择使用自然语言搜索，结果以可视化格式呈现。在客户支持方面，AI 机器人已扩展到 50 多种语言，计划今年晚些时候支持语音通话。公司表示，约 45% 的客户问题由 AI 代理解决，无需人工干预，支持成本每笔预订同比下降 16%。截至 6 月的季度，Airbnb 营收同比增长 17% 至 36 亿美元，调整后 EBITDA 增长 21% 至 13 亿美元。

据 Bloomberg 报道，OpenAI 即将推出的智能音箱售价可能超过 300 美元，该公司已讨论过最高 400 美元的价格。Bloomberg 自 7 月以来一直报道这款尚未发布的智能音箱，并称 OpenAI 将其视为智能手机的替代品。OpenAI 拒绝对其产品路线图发表评论。

据 Axios 报道，Anthropic CEO Dario Amodei 对 AI 行业人才争夺战中新员工可能仅为高薪而非使命加入公司表示担忧。这一言论被指颇具讽刺意味，因为 Anthropic 自身提供的薪资远超行业平均水平，例如其品牌营销活动负责人一职的年薪范围高达 32 万至 40 万美元。

据美国劳工统计局数据，2024 年 5 月会议、活动和大会策划者的平均年薪为 59,400 美元，这意味着 Anthropic 提供的薪资约为行业平均水平的六倍。Amodei 的担忧引发网络热议，The Pragmatic Engineer 专栏作者 Gergely Orosz 在 X 上发文称，若真为使命而非金钱，应支付低于竞争对手的薪资。据 Gallup 调查，2025 年 54% 的求职者认为薪酬非常重要；据 Forbes 数据，机器学习工程师平均薪酬在 18 万至 35 万美元之间，而 OpenAI、Anthropic 和 Meta 等顶级公司的杰出 AI 研究员年薪可超 100 万美元。据 Axios 报道，部分研究人员还在寻求这些公司 IPO 前的股权激励。