AI安全警告引发硅谷分歧：高管质疑与监管呼声并存
近期，包括Anthropic研究员Jacob Coxon和高管Evan Hubinger在内的多位AI内部人士发出关于人工智能存在性风险的警告，但遭到部分硅谷高管和投资人的质疑。Grindr首席执行官George Arison和英伟达CEO黄仁勋分别将这些言论斥为反文明观点或荒谬之谈，而Anthropic CEO Dario Amodei则呼吁放缓发展并实施全球监管。这场辩论发生在主要AI公司可能进行IPO以及政治紧张局势加剧的背景下，参议员Bernie Sanders提出暂停先进AI开发的立法，而特朗普政府则优先考虑美国的主导地位而非安全问题。
近期，来自人工智能行业内部的警告引发了广泛争议。27岁的Anthropic研究员Jacob Coxon辞职后表示，构建AI的人们相信这项技术可能会毁灭人类，并称这是一场拿生命做赌注的行为。与此同时，Anthropic团队负责人Evan Hubinger在X平台上发文称，他个人认为在未来十年内，AI杀死所有人类的概率超过10%。
这些言论遭到了部分科技界领袖的强烈反驳。Grindr首席执行官George Arison指示其公司的工程师停止使用Anthropic的技术，理由是该公司持有危险的“反文明”观点。英伟达（Nvidia）首席执行官黄仁勋（Jensen Huang）则驳斥了Coxon的评论，称其为不实信息，并此前已将“AI将终结人类”的观点称为完全无稽之谈。
尽管面临批评，Anthropic首席执行官Dario Amodei仍呼吁放慢开发速度并建立全球监管框架。Amodei曾预测，一半的入门级白领工作可能会被消除。值得注意的是，Anthropic在今年早些时候的最新一轮融资中估值达到9650亿美元（约合7130亿英镑）。OpenAI最近的估值为8520亿美元，其CEO Sam Altman表示今年不会进行IPO，暗示2027年更有可能。
这场关于AI安全的辩论正值政治紧张局势加剧之际。佛蒙特州参议员Bernie Sanders共同提出了《禁止人工超级智能法案》（Ban Artificial Superintelligence Act），该法案将对先进AI的开发实施临时暂停。然而，唐纳德·特朗普总统表达了对AI导致人类灭绝的担忧并不在意，反而担心在与中国的竞争中失去主导地位。
此外，白宫曾因Anthropic拒绝允许美军使用其AI模型而将其指定为供应链风险，这一举动后来被联邦法官裁定为非法。上周，Anthropic宣布发现并阻止了试图利用其AI技术开发生物武器和进行网络间谍活动的威胁行为者。
目前，一些公司因安全顾虑正在重新考虑对Anthropic技术的依赖。分析师指出，批评者认为Anthropic的安全警告旨在证明其高估值的合理性，或触发有利于现有巨头的监管措施，而Anthropic领导层坚持认为风险是严重的，并呼吁加强监管。