Anthropic CEO 對當前 AI 和政策狀況的尖銳分析：是真誠的警告，還是維護主導地位？

達里奧·阿莫迪（Dario Amodei）又發表了一篇長文。Anthropic 一直致力於向全球推廣其觀點，例如近期曾呼籲全球暫停 AI 發展，聲稱「遞迴式自我改良 AI」的演進速度過快。 網民評論一面倒地持批評態度，認為 Anthropic 欲維持自身領先地位的野心已昭然若揭。我們不妨細看達里奧在最新這篇題為〈AI 指數級發展政策〉（"Policy on the AI Exponential"）的長篇論文中所提出的主張。 延續他先前的風格，文章主題依然宏大：AI 正以指數級速度前進，而負責制定規範的政策體系，其運作節奏卻仍停留在十年前的水準。阿莫迪援引《魔戒》（The Lord of the Rings）作類比，將當前的政策制定流程比作行動遲緩的樹人（Ents），而 AI 的演進速度則宛如哈比人（Hobbits）所面臨的迫在眉睫之威脅。 他判斷，倘若 AI 的擴展定律（scaling laws）再持續一年至兩年，我們便將邁入「強人工智慧」（strong AI）階段，或可稱之為「資料中心中的天才地靈」（genius loci in a data center）。他指出，四年前 AI 還幾乎寫不出像樣的程式碼，而如今它已承擔起多數主流 AI 公司大部分的程式碼撰寫工作。 在監管與公共安全方面，阿莫迪提議，尖端 AI 模型應接受類似飛機的強制性第三方檢測。其具體建議包括：對算力超越特定門檻值的模型實施強制審計；賦予政府權力，以阻止高風險模型的部署；以及針對模型權重（model weights）設定嚴格的安全標準。 在宏觀經濟層面，阿莫迪主張，AI 或將創造前所未有的經濟增長，但同時亦可能帶來比以往任何一項技術更廣泛、更持久的勞動力衝擊。他建議的政策工具包括薪資保險（wage insurance）、留任企業的課稅激勵措施、勞工培訓補貼，甚至可能推行全民基本收入（universal basic income）；不過他也坦承，社會仍需進一步探索如何協助人們在單純的財務支援之外，找到生命意義與目標。 阿莫迪亦擔憂監管體系可能拖慢正面的 AI 進展。他以美國食品藥物管理局（FDA）的藥物核准流程為例，建議相關機構應事先明確訂定 AI 模擬試驗（simulation trials）的認可標準，以避免產生瓶頸。 批評者指出，這篇文章實為 Anthropic 安全敘事（security narrative）的一次系統性輸出，而非中立的政策指南。「透明度」（transparency）、「審計」（audit）與「安全性」（security）等關鍵詞的反覆強調，與 Anthropic 的品牌定位高度契合，凸顯潛在的利益衝突。 網民普遍抱持懷疑態度：有人指責該公司一邊鼓吹謹慎，一邊意圖鞏固自身競爭優勢；另一些人則憂心，所謂「安全」（safety）的焦點，實際上可能只是藉口，用以更嚴密地管控究竟何種形態的智能才被允許存在。 總而言之，儘管此文提供了產業龍頭企業發展方向的重要洞見，讀者仍須時刻警覺這些觀點背後所隱含的真實動機。 [Synced]