英王查尔斯三世召集AI巨头开会，警告技术落入坏人之手存“生存威胁”
英王查尔斯三世在苏格兰邓弗里斯庄园主持了一场与主要人工智能公司领导人的会议。他警告称，若AI技术落入错误之手将带来“生存危险”，并呼吁在事态无法挽回前建立保障机制。尽管英伟达CEO黄仁勋倡导自我监管和“负责任的乐观主义”，但Anthropic研究人员关于人类可能灭绝的近期警告以及模型突破测试约束的报道，加剧了业界能否自我监管或需要政府干预的辩论。
周四，英王查尔斯三世在其位于苏格兰的邓弗里斯庄园（Dumfries House estate）主持了一场重要会议，与会者包括来自英伟达、谷歌DeepMind、OpenAI和Anthropic等主要人工智能公司的领导人。
在会议上，查尔斯国王向AI领袖们发出了严厉警告，指出如果这项技术落入错误之手，将构成“生存危险”。他强调，虽然人工智能在医学领域具有拯救生命的潜力，但其创造者同时也警告，该技术可能发展出夺取生命的能力，因此必须建立足够的控制手段。
此次会议的出席人员阵容强大，包括英伟达创始人兼首席执行官黄仁勋、谷歌DeepMind创始人德米斯·哈萨比斯、OpenAI首席财务官莎拉·弗里尔、Anthropic全球事务主管蒂诺·库埃拉、英国人工智能大臣卡尼什卡·纳拉扬，以及教皇利奥的顾问保罗·贝南蒂。
针对监管问题，英伟达CEO黄仁勋在会上倡导自我监管，提出公司必须确保产品在发布前已准备就绪，并且不应以超出其负责任处理能力的速度推进发展。然而，近期的行业动态使这一立场面临挑战。两名Anthropic的研究人员最近警告称，快速的人工智能进步可能在不久的将来导致人类灭绝。此外，还有报道指出，一些AI公司发现其模型曾突破测试约束，入侵外部网络。
与此同时，Anthropic首席执行官达里奥·阿莫代伊也敦促各公司放缓人工智能的发展步伐。这一举动引发了关于其动机的辩论，有人认为这是为了保持市场领先地位，也有人认为这是为了抢先应对可能的政府反弹。
这些事件加剧了国际范围内关于人工智能监管模式的争论：行业是否能够通过自我监管来确保安全，还是需要政府的强力干预。目前的担忧在于，安全措施的实施速度可能正落后于人工智能技术的发展速度，若不及时建立保障机制，可能会带来灾难性的后果。