pardnchiu/go-llm-router

最後更新 2026-10-06

[!NOTE] 此 README 由 SKILL 生成，英文版請參閱 這裡。

ONE AGENT INTERFACE FOR EVERY LLM PROVIDER

Go LLM 函式庫，具備多供應商 LLM 統一介面、provider@model 路由與串流用量正規化

自 Agenvoy 2741d4a 抽離為獨立套件

自 v0.28.17 起，Agenvoy 的 LLM 供應商全面改由本套件 go-llm-router 提供。

目錄

• 功能特點
• 架構
• 授權
• Author

功能特點

go get github.com/pardnchiu/go-llm-router · 完整文件

• 統一 Agent 介面 — 十四個供應商共用同一組 Send / SendStream 契約，呼叫端不必為每家廠商寫轉接層。
• 字串路由工廠 — 以 provider@model 取得對應 Agent，未知前綴自動落到 OpenAI 相容端點成為具名實例。
• 推理等級正規化 — none 到 max 六級對映到 Claude thinking、Gemini budget、OpenAI effort，並依模型上下限自動收斂。
• 用量欄位吸收 — prompt_tokens / input_tokens 與各式快取欄位折疊成單一 Input / Output / Cache 形狀。
• 多模態與 OAuth 延伸 — 內建 Copilot / Codex / Grok OAuth 流程，以及圖片生成、語音轉文字與文字轉語音代理。

架構

完整架構

graph TB
    App[呼叫端] --> Router[router.New]
    Router --> Agent[llmrouter.Agent]
    Agent --> KeyBased[金鑰型供應商]
    Agent --> OAuthBased[OAuth 型供應商]
    Agent --> Compat[OpenAI 相容端點]
    OAuthBased --> OAuth[core/oauth 權杖存取]
    Agent --> Stream[串流事件正規化]
    Agent --> Usage[用量正規化]
    Agent --> Media[圖片 / 語音代理]

授權

本專案採用 MIT LICENSE。

Author

Just open an issue to share an idea.

©️ 2026 邱敬幃 Pardn Chiu