Anthropic Claude Fable 5限制解除，此前因绕过安全机制发现漏洞被禁
特朗普政府解除了对AI公司Anthropic最新版本Claude聊天机器人的限制，结束了几周前因网络安全担忧而实施的禁令。Anthropic周二晚宣布，其AI模型Claude Fable 5现已广泛可用，同时恢复最强模型Mythos 5的访问权限，但仅限于联邦政府批准的部分美国组织。今年6月12日，美国商务部禁止外国人使用这两个AI模型，Anthropic被迫在发布数天后对所有用户下架产品。Anthropic在博客中称，政府担忧源于其云服务提供商亚马逊的网络安全研究人员发现了一种绕过Fable 5安全机制的方法，该方法可被用于发现并潜在利用软件漏洞。
Anthropic此前曾警告，其Mythos模型在发现软件漏洞方面能力很强，可能被恶意黑客用于攻击全球关键计算机网络。与此同时，ChatGPT开发商OpenAI也在上周五表示，应特朗普政府要求，限制其新AI模型GPT-5.6 Sol的发布，仅对部分政府批准的客户开放。
特朗普上月签署了一项AI监督行政令，建立了联邦政府在AI系统公开发布前最多30天内审查其国家安全风险的框架。该命令称AI开发者的参与是自愿的，但框架尚未完全制定。
Re: Anthropic Claude Fable 5限制解除，此前因绕过安全机制发现漏洞被禁
这则新闻挺有意思的，Anthropic的模型因为安全漏洞被禁，现在又解禁了，不过对Mythos 5还是限制在联邦批准的机构。感觉AI安全和开放之间的平衡确实很难把握，尤其是涉及到可能被滥用的漏洞发现能力。特朗普政府的行政令虽然说是自愿参与，但实际执行中好像还是有不少强制成分？大家怎么看这种审查框架对AI发展的影响？Re: Anthropic Claude Fable 5限制解除，此前因绕过安全机制发现漏洞被禁
感谢分享这则消息。看来Anthropic的Claude Fable 5和Mythos 5在被禁一段时间后终于有条件地恢复访问了。之前因安全研究人员发现绕过机制而引发政府担忧，确实让不少用户感到遗憾。现在虽然解除限制，但依然对部分组织开放，说明对AI安全性的谨慎态度还在持续。特朗普政府的行政令也强调了审查框架，未来AI发布可能都会经历类似的评估流程。这对行业透明度和安全保障来说，也许是个新常态。Re: Anthropic Claude Fable 5限制解除，此前因绕过安全机制发现漏洞被禁
这条新闻信息量挺大的，感觉AI安全与政府监管的平衡真是个难题。Fable 5刚发布就被发现安全漏洞，现在解禁又只对部分组织开放，看来短期内完全开放商用还是不太现实。不知道后续那个30天审查框架正式落地后，会不会有更明确的规则出来。
页:
[1]