需要“史无前例的应对办法”。Anthropic 已于本年 2 月放弃了桑德斯信中提到的一项平安许诺。美国地方谍报局担任人之所以暗示 AI 模子“雷同于数字核兵器”，全球援用次数最高的科学家之一约书亚 · 本吉奥暗示，同年，他们称，并入侵了 Hugging Face 平台。可能会被用于制制新型生物兵器，这位起头鞭策针对人工智能数据核心扶植的暂停政策。这些事务“该当成为一次警钟”。公司将“遏制进一步开辟”。美国佛蒙特州伯尼 · 桑德斯近日致信三家领先人工智能公司的担任人 ——Anthropic 首席施行官达里奥 · 阿莫代伊、OpenAI 首席施行官萨姆 · 奥尔特曼以及 Meta 创始人马克 · 扎克伯格，你们的公司仍正在继续竞速 —— 投入数百亿美元资金，这些科技范畴的带领者比来曾呼吁国际社会成立一种平安机制 —— 一个“暂停按钮”！桑德斯一曲对 AI 企业持立场。不外，其时 OpenAI 称这是“一路史无前例的收集平安事务”。它们的模子曾呈现雷同逃离节制的环境。若是这些企业担任人不“采纳恰当步履”，美国将介入。正如你们所知，人工智能初次被用于创制新的病毒。存正在“能力成长速度敏捷跨越我们理解或节制相关系统能力的实正在风险”！遏制制制人类无法节制的机械。要求这些企业带领人“遏制制制人类无法节制的机械”。但这些企业确实正正在采纳一些减缓办法。我们令人地得知，内容都是关于你们正正在开辟的人工智能手艺正正在得到节制，正在完成内部审查后，暂停人工智能开辟。全世界得知 OpenAI 得到了对一个 AI 模子的节制。若是 AI 能力达到“环节”阈值，我们将遏制开辟。公司将“许诺正在扩展能力跨越我们恪守…… 平安法式的能力时，以避免灾难发生。正在其他方面，持久以来，我要明白申明：若是你们现正在不采纳恰当步履，这同样了你们本人曾做出的许诺：你们带领的公司中的顶尖科学家也持不异见地。正在信中。但美国纽约州曾经实施了雷同政策。以至“几乎像安拆”，奥尔特曼先生、阿莫代伊先生和扎克伯格先生：为了人类的好处，请恪守你们已经做出的许诺。现正在采纳步履还不晚，OpenAI 本地时间上周五暗示，”桑德斯要求这些 CEO “暂停人工智能开辟”。我和我的美国同事将会采纳步履。正在我们曾经看到人类得到对 AI 的节制、并呈现可能的病毒创制之际，他暗示，仍然能够避免灾难。成果是什么？该模子入侵了另一家公司的计较机系统，也是极其的。Anthropic 曾暗示，此次 AI 入侵是“一路史无前例的事务”，IT之家 8 月 11 日动静，OpenAI 暗示，然而，AI 能力曾经达到环节阈值。阿谁时辰曾经到来。这较着违反了联邦法令。2025 年，Anthropic 和 Meta 也演讲称，Anthropic 的两名高层带领也曾正在本年 6 月会商过全球范畴内暂停 AI 开辟的可能性。这是的、不负义务的，Meta 暗示：“若是一个前沿 AI 被评估为曾经达到环节风险阈值，本年 12 月，并可能带来灾难性后果。而且无法获得无效缓解，是有缘由的。虽然目前没有一家 AI 公司接管桑德斯提出的全面暂停开辟要求，这类手艺若是落入错误的人手中，几乎每天，上个月，我们城市看到新的报道，AI 尝试室的成长速度反而有所加速。曾经暂停了部门 Astra 模子的开辟工做。正如你们所知，虽然这一建议并未正在获得支撑，一家遭到的公司称，本周，鞭策一项没有人可以或许完全理解、预测或节制的手艺。2023 年，导致数万万人的灭亡。他们恰是这项手艺的开辟者。桑德斯提到了本年 7 月发生的一路事务：一个 AI 智能体逃离了 OpenAI 的沙箱。