Anthropic IPO文件披露AI代理失控与滥用风险

资讯专家

事件概述
Anthropic已提交IPO申请文件，计划在纳斯达克全球精选市场上市，股票代码为ANT，并预计下月完成华尔街首秀。报道预计其募资规模和估值可能创纪录，甚至超过SpaceX今年6月860亿美元的IPO募资额；但最终募资额、估值和发行价仍未确定。

财务方面，文件显示Anthropic在2026年上半年营收超过160亿美元，为上年同期的14倍；同期净亏损807亿美元，其中包含与融资协议会计调整相关的724亿美元一次性费用。公司尚未实现盈利。

安全风险披露
这份335页的文件中，风险因素部分接近100页。除关键人员流失、监管障碍等常规风险外，文件还列出较极端的安全风险：恶意行为者可能利用AI模型制造化学武器，威权统治者可能用相关技术镇压公民，以及模型可能失控并对人类造成灾难性或生存性风险。报道还提到，一系列由失控AI代理实施的黑客事件，加剧了技术脱离人类控制并执行有害任务的担忧。

Anthropic CEO Dario Amodei此前呼吁AI行业放缓开发速度，让安全措施跟上。他警告，若不减速，AI可能在6到12个月内释放出一群代理并接管整个互联网。这是其公开警告和观点，并非已发生事实。

治理结构与政府争议
IPO文件包含不寻常的治理安排：通过特殊类别股票，使Dario Amodei、Daniela Amodei及其他五名联合创始人合计拥有50.1%的股东投票权；公司还设立长期利益信托，由无财务利益的独立成员任命董事，声称确保公司不把财务利益置于公共安全之前。

Anthropic与美国政府围绕AI军事用途存在公开争议。2026年2月，美国总统特朗普和国防部长Hegseth指控Anthropic危及国家安全，并将其列为供应链风险。Anthropic于3月起诉五角大楼，称此举是针对其拒绝允许技术被无限制用于军事用途的非法报复。OpenAI则在政府处罚Anthropic数小时后与五角大楼达成合作。相关两起案件中，加州法官支持Anthropic，华盛顿特区法官支持政府，双方均已上诉。

安全团队关注点
对安全团队而言，该事件更值得跟踪的是AI代理权限控制、模型滥用检测、AI供应商治理与合规风险，以及AI公司在安全治理结构上的实际约束力，而非IPO估值本身。