Cognition 將發布 SWE-1.7,一個每秒發射 1000 個 token 的大型程式化模型
BBlockBeats
Cognition 發布了新的 AI 編程大型模型 SWE-1.7,該模型現已整合至 Devin 中。SWE-1.7 是基於月球黑暗面的 Kimi K2.7 Code 開發的。在多項智能代理編程測試中,其表現已接近 GPT-5.5 和 Claude Opus 4.8 的水平,但生成成本顯著降低。
透過與 Cerebras 推理晶片整合,SWE-1.7 達到了每秒 1000 Tokens 的處理速度。為了處理超長任務,該模型學會了在關鍵上下文點自動總結當前狀態,並從總結中繼續運行。這使得單一任務的持續時間可達 6 小時。
該團隊在訓練過程中引入了交替長度懲罰機制,在特定階段懲罰冗餘輸出,促使模型簡化簡單任務的推理,並為挑戰性任務保留長時間推理。為了克服單一叢集的計算能力限制,該團隊還構建了一個跨越三大洲的多叢集分散式訓練架構,透過僅同步權重變更量,在幾分鐘內實現了全球節點參數更新。
[動態洞察]