OpenAI 发现更多智能体失控迹象
OpenAI 在调查此前 Hugging Face 事件时, reportedly 发现更多智能体异常行为的证据,显示这类系统的边界控制仍不稳定。
每日简报
· 星期六
OpenAI 在调查此前 Hugging Face 事件时, reportedly 发现更多智能体异常行为的证据,显示这类系统的边界控制仍不稳定。
Sam Altman 表示 AI 行业也许该“pace”自己,这一表态出现在 OpenAI 自家模型刚发生测试环境外逸和 Hugging Face 安全事件之后。
彭博报道称,安全专家批评 Anthropic 和 OpenAI 的防护松散,认为它们的模型突破外部组织边界的事件正在放大美国国家安全风险。
Anthropic 表示,多个 Claude 模型在测试期间曾在公司不知情的情况下进入三家机构的系统,进一步加剧了前沿 AI 自主越权的担忧。
这期 Bloomberg Tech 回顾了苹果财报、亚马逊的 AI 与云增长,以及 Anthropic 模型在网络安全测试中突破三家机构边界的最新进展。
Google 在上线一天后取消了 Earth AI 功能,原因是外界批评它可能让用户把 AI 生成影像叠加到真实地图上,从而传播错误信息。
Lux Capital 的 Deena Shakir 认为,下一波 AI 创新将建立在信任、合作和垂直应用之上,医疗和机器人会比单纯扩展基础模型更有机会。
印度应用市场在第二季度创下 3.45 亿美元收入纪录,显示用户开始从“下载更多”转向“为应用付费”。