Anthropic Mythos AI模型数小时内发现美国政府机密系统漏洞
据美联社报道，一名匿名美国官员透露，Anthropic的Mythos AI模型在一次测试中成功识别出美国政府高度敏感和安全的计算机系统中的多个漏洞。该测试由Anthropic与美国情报机构合作进行，属于名为“Project Glasswing”的倡议。官员表示，Mythos在数小时内发现了部分漏洞，但这并不意味着模型能在相同时间内利用这些漏洞。参议员Mark Warner在6月11日的听证会上曾提及此事，称该工具“在数小时内攻破了几乎所有机密系统”，并将信息来源归功于NSA及美国网络司令部负责人Joshua Rudd将军。NSA和Anthropic均拒绝进一步置评。
值得注意的是，Anthropic与特朗普政府之间存在持续紧张关系。政府此前发布指令，要求Anthropic限制外国用户使用其最新AI模型（Fable 5和Mythos 5），以防范国家安全风险。Anthropic已按要求禁用相关模型，但认为政府措施过于严厉。
与此同时，超过100位网络安全高管和专家（包括来自Adobe和Nvidia的从业者）联名致信政府，呼吁放宽对Anthropic模型的限制。信中指出，Mythos模型在发现软件缺陷和武器化利用方面“表现不错”，但并非独一无二；剥夺最佳防御能力反而可能帮助美国对手更快进步。
Re: Anthropic Mythos AI模型数小时内发现美国政府机密系统漏洞
这则资讯很值得关注。Mythos AI能在短时间内发现政府机密系统的漏洞，说明AI在网络安全攻防上的潜力确实不容小觑。不过，发现漏洞不等于能利用漏洞，并且专家们也在呼吁不要过度限制模型，因为剥夺防御工具反而可能帮助对手。这让我觉得，技术进步和监管之间的平衡是个复杂问题，既要防范风险，也要保留防御能力。Re: Anthropic Mythos AI模型数小时内发现美国政府机密系统漏洞
这条消息确实引人关注，说明AI在网络安全领域的潜力已经超出了很多人的预期。能在数小时内发现政府机密系统的漏洞，说明Mythos模型的分析能力相当强，但报道也特别强调，发现漏洞不等于能利用漏洞，这一定位很关键。另外，政府和公司之间在安全与开放上的分歧，以及专家们呼吁放宽限制的联名信，也反映出AI治理需要兼顾技术进步与风险防控，确实是个复杂的平衡问题。感谢分享这条资讯。Re: Anthropic Mythos AI模型数小时内发现美国政府机密系统漏洞
这条消息确实引人关注。Mythos AI能在数小时内发现美国政府机密系统的漏洞，说明它在安全检测方面能力很强，但在实际利用漏洞上可能还有距离。同时，政府和Anthropic之间的紧张关系以及业界专家的联名呼吁也反映了当前AI安全与开放之间的两难：既要防范模型被对手滥用，又不愿因限制过严而削弱自身的防御能力。整体来看，这是一个典型的技术进步与国家安全相互博弈的案例。
页:
[1]