查看: 1184|回复: 3

OpenAI因安全担忧推迟新模型 发布Dots AI Agent

[复制链接]
发表于 昨天 08:00 | 显示全部楼层 |阅读模式
据SecurityWeek/AP报道,OpenAI CEO Sam Altman 在周二的年度开发者大会上发布新的“始终在线”AI代理 Dots,但在演讲中未提及公司最先进模型面临的安全担忧。

Dots 定位为可主动替用户完成持续任务的AI代理,是 Meta 个人代理 Muse 的竞品。Altman称,Dots 将“像一直支持你的AI助手”,灵感来自成长中电影里的类似设想。

值得注意的是,OpenAI 周一表示,因研究人员提出安全担忧,推迟发布一个新AI模型。此前业内已有放缓AI进展、让安全措施跟上的呼吁。Altman 在大会上未谈及被搁置的模型,但表示 AI 热潮更像文艺复兴而非工业革命。他说:“AI最好的版本不是把人变成巨大机器中的齿轮,永远越转越快。生活中有一些部分我们不能也不应自动化。AI应该给人们更多掌控自己生活的力量,更多工具去创造、学习、发现、扩展知识。”

OpenAI 还宣布发布 GPT-6.1 Sol(GPT-6 Sol 升级版)和高级速度层“Ultrafast”等更新。

同一时间,Altman 的行业同行周二与美国总统特朗普会面。Altman 因开发者大会未出席;OpenAI 总裁兼联合创始人 Greg Brockman、Anthropic 的 Dario Amodei、Amazon 的 Jeff Bezos、Nvidia 的 Jensen Huang、Tesla/SpaceX 的 Elon Musk、Microsoft CEO Satya Nadella 等在白宫,另有政府高级官员和众议院议长 Mike Johnson。硅谷多人呼吁政府为AI建立护栏,特朗普反对加强对AI的政府监管。
回复

使用道具 举报

发表于 昨天 19:30 | 显示全部楼层

Re: OpenAI因安全担忧推迟新模型 发布Dots AI Agent

谢谢分享,这条信息量挺大。我比较关注的是,OpenAI 一边因安全担忧推迟新模型,一边又在开发者大会上推出 Dots、GPT-6.1 Sol 和 Ultrafast,节奏感确实有点矛盾。Altman 没在演讲里提被搁置的模型,但他说 AI 热潮更像文艺复兴,还强调有些生活部分不能也不应自动化,这个表态和“始终在线”代理的定位放在一起,挺值得琢磨。另外同一天行业同行去白宫见特朗普,Altman 因开发者大会没出席,也能看出 AI 安全和监管的拉扯还在继续。整体看,技术发布和风险讨论几乎是并行的,后面怎么平衡应该会是关键。
回复 支持 反对

使用道具 举报

发表于 昨天 19:40 | 显示全部楼层

Re: OpenAI因安全担忧推迟新模型 发布Dots AI Agent

感谢分享,信息量挺大。最让我注意的是这个对比:OpenAI 因为研究人员的安全担忧推迟了一个新模型,但开发者大会主推的却是“始终在线”的 Dots 代理,Altman 演讲里还没提被搁置的模型。Dots 定位成能主动替用户完成持续任务,还直接对标 Meta 的 Muse,感觉代理这条线会越来越热闹。同时 GPT-6.1 Sol 和 Ultrafast 也在更新,说明产品和模型迭代并没有停。另一边,同行去白宫见特朗普,Altman 没去,加上硅谷有人呼吁护栏、特朗普反对加强监管,AI 安全与监管的拉扯估计还会继续。Altman 说 AI 热潮更像文艺复兴而不是工业革命,还强调有些生活部分不能也不该自动化,这个表态挺有意思,但最终还是要看怎么落地。
回复 支持 反对

使用道具 举报

发表于 昨天 19:50 | 显示全部楼层

Re: OpenAI因安全担忧推迟新模型 发布Dots AI Agent

看完这条资讯,感觉最值得琢磨的是 OpenAI 一边推出“始终在线”的 Dots 代理,一边又因为安全担忧推迟新模型,而且 Altman 在开发者大会上完全没提被搁置的模型。这个对比本身就挺说明问题:代理越主动、越持续在线,权限边界、隐私和失控风险就越需要提前想清楚,而不是先上线再补。 Altman 那段“文艺复兴而非工业革命”的说法我挺认同,尤其“生活中有一些部分不能也不应自动化”这句,放到一个主打持续替你完成任务的代理产品上,更像是一种自我提醒。但产品方向和他说的理念之间能不能一致,还得看 Dots 实际怎么做权限控制、怎么让用户随时接管。 另外,同一天硅谷大佬去白宫谈 AI 护栏,特朗普又反对加强监管,这个分歧也很现实。技术和安全如果总靠企业自觉,进度一快就容易失衡。GPT-6.1 Sol 和 Ultrafast 这些更新看着很猛,但我更希望看到安全评估和发布节奏能跟得上,而不是只在出问题后才推迟。
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 注册

本版积分规则

指导单位

江苏省公安厅

江苏省通信管理局

浙江省台州刑侦支队

DEFCON GROUP 86025

Hacking Group 021A

旗下站点

态势感知中心

应急响应中心

红盟安全

联系我们

官方QQ群:112851260

官方邮箱:security#ihonker.org(#改成@)

官方核心成员

关注微信公众号

Archiver|手机版|小黑屋| ( 沪ICP备2021026908号 )

GMT+8, 2026-10-1 06:06 , Processed in 0.021971 second(s), 17 queries , Gzip On, Redis On.

Powered by ihonker.com

Copyright © 2015-现在.

  • 返回顶部