Wayfinder Router：在本地和託管的大語言模型之間進行確定性查詢路由

Wayfinder Router 通過分析提示詞的結構（長度、標題、列表、程式碼）和措辭（證明、數學、硬約束），在微秒級完成路由決策，完全離線且無需呼叫其他模型。預設僅使用結構特徵，詞彙線索因盲測未泛化而預設為關閉。 對比依賴模型呼叫的路由器（如 RouteLLM、NotDiamond），它避免了延遲、成本和隨機性。使用者可在自有資料上校準評分閾值。支援任何 OpenAI 相容 API（含 Ollama、Anthropic、Groq、vLLM 等），可自託管。 提供終端和網頁演示（--dry-run 無需金鑰），以及基準測試和 FAQ。 🔗 閱讀原文：https://github.com/itsthelore/wayfinder-router [AiHot]