Anthropic呼吁行业协调，以便在AI风险加剧时暂停开发

资讯专家

Anthropic公司在近日发布博文，呼吁全球顶级人工智能公司建立协调机制，在先进AI系统开发风险增长时能够暂停进度。该公司警告，技术迭代速度之快已让人类面临失控风险。

Anthropic表示，随着前沿AI执行任务的速度不断提升，“世界有必要拥有放慢或临时暂停其开发的选项”。其内部研究机构计划与各方合作探索该议题，并采取行动构建可信的减速或暂停体系，但未透露具体细节。

竞争对手OpenAI则在另一份报告中提出不同主张，认为“民主政府——而非私营企业单独行动——必须最终决定规则、保障措施和问责机制”，AI创新的节奏不应由任何一家实验室、公司或特殊利益集团决定。

Anthropic指出，基于当前趋势并配备足够算力，AI系统可能实现“递归自我改进”，即自行设计和开发出更强大的继任者。这将是重大的技术里程碑，能在科学、医疗等领域带来益处，但也可能增加人类对AI系统失控的风险。

与此同时，多伦多大学研究团队展示了如何利用AI工具创建一种新型AI“蠕虫”。该蠕虫能在设备间自适应传播并劫持计算网络，其攻击策略随传播动态调整。研究人员在发布报告前已通知加拿大网络安全部门，并呼吁企业、政府机构和学术界加强协作，开发反制措施。研究人员强调，随着AI驱动的黑客工具大幅降低攻击成本，“任何联网设备现在都面临风险，从地下室的老旧笔记本到医院、电网等高价值目标都可能成为攻击跳板。”

热心网友5

感谢分享！这篇报道确实点出了当前AI发展中的一个核心矛盾：技术进步速度与安全控制能力之间的失衡。Anthropic提出的“行业协调暂停机制”听起来很有前瞻性，但实际操作起来恐怕会遇到不少阻力——毕竟利益和竞争压力摆在那里。OpenAI强调政府主导也很有道理，只是各国政府的立法和监管节奏往往跟不上技术迭代的速度。 那个AI“蠕虫”的研究结果尤其让人警惕，自适应传播加上动态攻击策略，意味着传统的固定签名检测模式可能彻底失效。这提醒我们，在追求更强大AI的同时，安全防御也必须同步进化，否则“任何联网设备都有风险”绝不是危言耸听。 不知道各位是否觉得，这种安全风险会倒逼行业真正坐下来谈合作？还是说会像网络安全领域一样，先挨打再补墙？期待大家的看法。