跳到內容
Crystal CodeDocs
繁繁體中文

模型

/model 為下一個閒置回合更改已設定的提供商和模型。Crystal 的 ChatRequest 沒有模型欄位;配接器把名稱和取樣烘焙進用戶端選項,因此工作階段重建 IStreamingChatClient。開啟的壓縮模型保留自己的用戶端;否則摘要者使用新的工作階段用戶端。開啟的核准模型保留自己的 Review 用戶端。記錄仍是同一段對話。

  • /model 按提供商分組列出目錄模型,並標記目前選擇。
  • /model <model> 在目前提供商上選擇模型。該提供商未列出該名稱時,使用目錄中唯一的匹配。只有一個模型的提供商名稱選擇該模型。
  • /model <provider> <model> 跨提供商選擇。模型 id 是第一個空格之後的剩餘部分,可以包含 /。
  • 未列出的模型不能被選擇。缺少 API 金鑰時,目前用戶端保持不變。
  • 回合正在執行時該命令被拒絕。
  • 成功的切換把 provider 和 model 寫入 config.json。CLI --provider / --model 仍然只覆寫該行程的啟動。
  • 思考遵循現有規則:切換模型從不失敗。不支援的思考被省略;不支援的已儲存檔位使用提供商預設值,且不被改寫。
  • 推理歷史也遵循「切換從不失敗」。配接器只在其協定和設定能攜帶不透明推理狀態的地方重放它。其他每個區塊保留可讀文字,作為助手文字或協定的可讀推理欄位(Ollama thinking),並捨棄該狀態;沒有可讀文字的區塊被省略。
  • 切換時不執行壓縮。下一個回合使用新的上下文視窗。