fast 模式
最後更新
ModeFast 如何對映各家的優先處理層級,以及靜默降級如何被揭露。
判斷是否支援
是否支援由模型世代決定,SupportFast 先判斷再送:
mode := llmrouter.ModeDefault
if llmrouter.SupportFast("claude", "claude-opus-5") {
mode = llmrouter.ModeFast
}
降級警告
若上游回應的層級不是 fast 或 priority,WarnFastDowngrade 會發出警告 —— 付了 fast 的請求卻被降級,靜默吞掉會讓成本與延遲都對不上帳。