亞馬遜警告觸發 Anthropic 停用 Claude Fable 和 Mythos 模型

亞馬遜（Amazon）執行長安迪·賈西（Andy Jassy）與美國官員的對話，促使政府發布一項命令，導致 Anthropic 停用其 Fable 5 和 Mythos 5 模型。此舉發生在公司研究人員報告指出 Fable 5 已被誘導提供受管制的網路攻擊相關資訊之後。 亞馬遜是 Anthropic 最大的投資方之一，已投入數十億美元。該公司報告顯示，當輸入特定查詢組合時，Fable 5 在至少四套軟體中揭露了安全漏洞。賈西就此安全隱憂向川普（Trump）政府高階官員提出警示。據《華爾街日報》（Wall Street Journal）報導，白宮官員隨即召開會議，擬定回應方案。 與此同時，資安研究人員開始針對亞馬遜的發現進行壓力測試。行政部門消息人士表示，官員隨後敦促 Anthropic 修補這些缺陷，或直接下架該模型。最終雙方決定以「禁止外國政府、企業及個人使用此工具」作為最簡潔有效的解決方案。川普總統批准了此項措施，但一名白宮高階官員指出，他擔憂此舉可能拖慢創新進程。 Anthropic 主張，所標示的漏洞屬基礎性質，且競爭對手模型無需任何繞過手段即可自行偵測出相同問題。Anthropic 已就服務中斷向客戶致歉，並稱這項命令很可能是誤解所致；公司正積極努力，以盡快恢復使用者存取權限。 與此同時，此次停機事件恰逢 Anthropic 準備可能進行首次公開募股（IPO）之際。若停機時間延長，恐將導致使用者轉向競爭對手，而 Anthropic 尚須持續努力以解除禁令。