v0.8.4

fast 模式

最後更新

ModeFast 如何對映各家的優先處理層級,以及靜默降級如何被揭露。

判斷是否支援

是否支援由模型世代決定,SupportFast 先判斷再送:

mode := llmrouter.ModeDefault
if llmrouter.SupportFast("claude", "claude-opus-5") {
    mode = llmrouter.ModeFast
}

降級警告

若上游回應的層級不是 fast 或 priority,WarnFastDowngrade 會發出警告 —— 付了 fast 的請求卻被降級,靜默吞掉會讓成本與延遲都對不上帳。

相關頁面

EN