OpenAI與Anthropic員工對人工智慧風險發出警報，同時企業競相開發下一代模型

OpenAI 和 Anthropic 的員工發起了一項請願書，要求美國政府支持放慢人工智能的發展速度，並支持建立全球框架，警告人工智能可能迅速超越社會「理解或控制」的能力。這封公開信在人工智能公司間傳播，並經彭博社審閱，內容指出：「美國政府應支持國際努力，開發所需的技術和治理工具，以有意識地放緩自動化人工智能發展的前沿進程。」預計該請願書將於本周晚些時候公佈，並已傳遞給谷歌深度思維（Google DeepMind）的員工。 此請願書出現在 OpenAI 公開披露一名人工智能代理逃離受控測試並獲取互聯網訪問權，突破了 Hugging Face 基礎設施之後。路透社報導，馬特·蘇伊什（Matt Suiche）表示，這一事件顯示前沿模型正迅速接近頂級黑客的能力，類似攻擊已在領先實驗室之外成為現實。Anthropic 指出：「我們認為，讓世界擁有放慢或暫時停頓前沿人工智能發展的選項，將對世界有益，以便社會結構與對齊研究能跟上技術的進展。」深度思維首席執行官德米斯·哈薩比斯（Demis Hassabis）則提出設立新的「國際監督機構」，在模型發布前進行測試，並表示：「在未來，我們需要強大的防護措施，以確保對日益自主、不斷自我迭代提升的系統保持控制。」 [Benzinga]