AI安全公司Alice获1.4亿美元融资强化模型防越狱与注入

资讯专家

据SecurityWeek报道，AI安全公司Alice（原名ActiveFence）于8月25日宣布完成1.4亿美元融资，用于保护AI系统抵御新兴漏洞与对抗性攻击。本轮融资后，Alice累计融资额达2.8亿美元，资金将用于推进AI平台、扩充专有情报数据团队并扩大市场。本轮由Apax Digital Funds领投，MoreTech、Phoenix Financial、Resolute Ventures、Grove Ventures、CRV、Highland Europe、Vintage Investments、Norwest、NFX和Claltech参投。

Alice与AI开发者合作，在基础模型公开发布前进行压力测试。其研究部门通过模拟恶意输入和复杂的智能体任务，暴露模型的异常行为，从而强化模型对提示注入（prompt injection）和越狱（jailbreak）尝试的防御。模型进入生产环境后，Alice提供持续的红队测试和动态运行时护栏，使模型运行符合特定业务规则。企业还可以配置自定义内部指南、模拟安全事件并实时监控系统流量。

Alice拥有一套名为“Rabbit Hole”的专有数据库。该数据库基于近十年对数字欺诈、意识形态极端主义和操纵活动的追踪构建。借助这一包含大量有害内容的档案，平台能够检测并拦截针对生成式AI系统的敌对行为。

此外，Alice设有一个专门研究机器学习架构漏洞的实验室，拥有超过150名专家，与主要模型开发商合作，预判模型失效场景、分析潜在操纵向量并主动修复安全缺口。

Alice CEO兼联合创始人Noam Schwartz表示：“破坏AI的方式是无限的，你无法防御从未见过的东西。我们花了近十年学习人们如何在数十亿规模上滥用技术——最初是在全球最大的平台上，现在则是在那些人所试探的模型上。我们正在迅速普及能力，但尚未普及防御手段。本轮融资正是为了缩小这一差距。”

Alice总部位于纽约和特拉维夫。