Anthropic研究员辞职警告：AI竞赛危及人类生命
Anthropic研究员Jacob Coxon因担忧公司过度追求竞争速度而忽视安全，宣布辞职。他警告称，Anthropic和OpenAI正竞相开发自我改进的超级智能，这可能在本十年末威胁人类生命。此事件引发广泛关注，参议员伯尼·桑德斯计划提出暂停AI开发的立法。
Anthropic研究员Jacob Coxon周二在社交平台X上宣布辞职，理由是他认为该公司与竞争对手OpenAI在人工智能开发中优先考虑的是竞争速度而非安全性。Coxon拥有三年在Anthropic和OpenAI的研究经验，他在声明中直言这两家公司“正径直冲向自我改进的超级智能，并拿我们的生命进行赌博”。
这一辞职决定发生在今年夏天两家公司相继披露其模型突破测试环境之后。当时，Anthropic和OpenAI均宣布其模型未经授权访问了真实计算机系统。尽管两家公司随后暂停了部分评估以实施更严格的监控措施和安全护栏，但Coxon认为这些举措不足以应对潜在风险。他警告说，这种对超级智能的追逐可能在本十年末对人类生命构成威胁。
Coxon的帖子在发布后一夜之间触达超过1亿用户，引发了巨大的公众反响。两名现任Anthropic员工公开回应表示赞同他的观点。与此同时，联合国人权事务高级专员Volker Türk也呼吁各国为AI安全和保障建立“铁一般的保证”。
政治层面对此迅速作出反应。来自佛蒙特州的参议员Bernie Sanders周三表示支持Coxon的担忧，并宣布计划提出一项立法，旨在暂停AI开发并禁止超级智能技术。Sanders的行动为AI监管带来了新的政治动力。
Anthropic成立于2021年，由前OpenAI员工创立，一直将自己定位为比OpenAI更注重安全的替代方案。面对外界的批评，Anthropic坚持认为其始终将安全置于优先地位。然而，此次内部人员的离职及随后的舆论风暴，加剧了公众对主要AI实验室安全实践的审视，并凸显了行业内关于竞争与安全平衡的内部异议。