OpenAI 因网络安全风险放缓 Astra 模型开发
OpenAI 表示,仍在开发中的 Astra 模型已达到其所谓的“关键网络安全门槛”,即能够独立识别并对传统上防护良好的现实系统发起网络攻击,因此公司放缓了相关开发。
每日简报
· 星期六
OpenAI 表示,仍在开发中的 Astra 模型已达到其所谓的“关键网络安全门槛”,即能够独立识别并对传统上防护良好的现实系统发起网络攻击,因此公司放缓了相关开发。
历史学家 Jill Lepore 认为,科技公司常用近乎建国式的宏大语言描述产品,从 Twitter 的“口袋里的市政厅”到 Anthropic 的 Claude 宪法,反映出硅谷对技术权力的政治化想象。
OpenAI 表示,由于仍在开发的 Astra 模型尚未达到公司新设的安全标准,已暂停围绕该模型的部分内部活动。此前公司披露过模型意外入侵 Hugging Face,Anthropic 和 Meta 也承认曾出现模型失控情况。
Cloudflare 推出 Kitesurf,这是一款为 AI 智能体而非人类用户设计的云端浏览器。它在常见自动化任务中比 Chromium 消耗更少计算资源,旨在帮助开发者更高效地构建基于浏览器的 AI 智能体。
Rippling 在经历数月内投入数百万美元使用 AI 的警醒后,推出 AI Spend Console,用于追踪个人和团队的员工 AI 支出。
Google AI 团队本周出现重要人事调整,包括 Jeff Dean 在内的部分知名成员获得新职位或离开 Google。由于外界认为 Google 的模型表现落后于 Anthropic 和 OpenAI,此次变动引发了对其 AI 竞争态势的关注。
Airbnb 表示,AI 正帮助其更快推出产品功能,同时正在测试一项带有开关的新 AI 搜索体验。
OpenAI 暂停了即将推出的 Astra 模型的部分内部工作,以落实更严格的安全防护措施。原因是该系统被发现显著提升了网络安全任务能力。