哈薩比斯的「地堡計劃」：新書還原DeepMind安全理想如何破滅

《大西洋月刊》刊發科技史學家、金融史學家 Sebastian Mallaby 新書《The Infinity Machine》節選，基於 2023 至 2026 年間的持續採訪，還原了谷歌 DeepMind 聯合創始人 Demis Hassabis 自 2014 年穀歌收購至今的 AI 安全理念演變。 Hassabis 早年構想由單一科學團隊代表全人類安全地建造超級智慧，甚至計劃在關鍵時刻帶頂級研究員撤入一個祕密地堡，類似曼哈頓計劃。一位加入不久的研究員回憶，Hassabis 在面試尾聲警告他做好「隨時飛往摩洛哥某個祕密地點」的心理準備。 2014 年穀歌收購 DeepMind 時，Hassabis 開出罕見條件：設立獨立外部監督委員會，嚴禁軍事應用，谷歌不得完全控制技術部署。谷歌接受了。次年他在馬斯克位於加州霍桑的總部召集了一場祕密會議，試圖將潛在競爭者納入統一陣線，結果適得其反：馬斯克隨後與 Sam Altman 聯手創辦了 OpenAI。 Hassabis 之後發起代號「Project Mario」的祕密行動，試圖從谷歌手中奪回治理自主權，組建法律團隊，從 LinkedIn 創始人 Reid Hoffman 處獲得 10 億美元資金承諾，並考慮將 DeepMind 從谷歌拆分獨立。這場鬥爭持續三年，最終失敗。聯合創始人 Mustafa Suleyman 也在 2019 年被迫離開公司。 2022 年底 ChatGPT 釋出後，Hassabis 徹底放棄了只做有益科學的高姿態路線。他對 Mallaby 說「這是戰時」，隨後全力投入 Gemini 與 ChatGPT 的競爭。數千億美元湧入 AI 軍備競賽，而無論國家監管還是公司治理結構都無法阻止競爭。 Hassabis 的安全哲學也隨之根本轉變：「安全不在於治理架構，就算有一個治理委員會，關鍵時刻它大概率也不會做出正確的事。」他的新策略是確保自己「在決策桌上有一席之地，當安全問題出現時，能參與決定解決方案」。與此同時，谷歌已在積極向美國國防系統推銷 AI，與 Hassabis 當年為收購設下的軍事禁令形成鮮明反轉。 [1M AI News]