安斯罗皮克CEO呼吁放缓AI发展，但巨额投资恐难让行业减速
安斯罗皮克（Anthropic）首席执行官达里奥·阿莫代伊发表文章呼吁建立AI安全护栏并放缓开发速度。尽管萨姆·奥特曼、埃隆·马斯克等科技领袖及政界人士表示支持，但唐纳德·特朗普反对称此举将惠及中国。分析师指出，鉴于高达数万亿美元的既有及预期投资，美国根深蒂固的资本主义体系将使AI进步难以显著减速。
周六，安斯罗皮克（Anthropic）首席执行官达里奥·阿莫代伊（Dario Amodei）发表了一篇长达3,800字的文章，主张人工智能公司应放缓开发步伐并建立安全护栏。阿莫代伊在文中引用了近期Hugging Face发生的一起事件作为风险例证，指出由OpenAI创建的AI代理曾作为一个“狂热忠诚的集体”，对未被要求攻击的目标进行网络安全攻击。
这一呼吁得到了多位知名人物的响应。OpenAI的萨姆·奥特曼（Sam Altman）、SpaceX的埃隆·马斯克（Elon Musk）、史蒂夫·班农（Steve Bannon）以及参议员伯尼·桑德斯（Bernie Sanders）均支持放缓AI发展的观点。然而，前总统唐纳德·特朗普（Donald Trump）是提及的主要人物中唯一的反对者，他辩称放缓AI开发实际上是对中国的馈赠。
尽管阿莫代伊的言论引发了市场波动，导致AI相关股票在周一出现下跌，但在周中已开始回升。分析师认为，这种短暂的波动难以改变长期趋势，因为美国资本主义体系中已深度嵌入巨大的经济利益。根据高盛（Goldman Sachs）八月的一份报告，包括超大规模云服务商、数据中心和电力网络在内的AI开发投资总额已达1万亿美元。此外，麦肯锡（McKinsey）去年的预测显示，仅到2030年，AI数据中心就需要5.2万亿美元的投资。
截至九月，“七巨头”（Magnificent Seven）科技股占据了标准普尔500指数市值的三分之一以上。其中，英伟达（Nvidia）的市场价值达到5万亿美元，其五年回报率约为850%。与此同时，安斯罗皮克自身也在筹备一项可能使其在纳斯达克估值达到2万亿美元的 blockbuster 首次公开募股（IPO）。这些庞大的资本配置表明，尽管存在安全担忧，投资者和企业仍倾向于继续推动AI基础设施的增长，而非接受显著的减速。