# AI 模型
AI 模型區塊讓您選擇將驅動您的 AI 代理回應的模型。從各種模型中選擇,以確保您的代理能夠提供準確且具上下文相關的互動。此外,您可以在此步驟配置提示,以定制代理的溝通風格和重點。
# 用 LLM 為您的 AI 代理提供動力
大型語言模型 (LLMs) 是 FabriXAI 的 AI 代理的基礎,使其能通過自然語言互動進行交流。這些模型處理用戶輸入並根據您提供的「提示」生成回應。
# 配置 AI 模型的步驟:
- 前往 AI 代理生成器中的 AI 模型 區塊。
- 點擊 「編輯」。
- 撰寫一個 提示,以提供您的 AI 代理需要遵循的指示。
注意:請參考 撰寫有效提示的注意事項 以獲取更多解釋。
- (可選) 如果您的 AI 代理被配置為 聊天機器人,您可以添加一個歡迎消息。此消息將在每次對話開始時發送給用戶。
- 選擇最符合您任務需求的 AI 模型。
注意:欲了解支持的 AI 模型清單請參見 支持哪些 AI 模型?。
- (可選) 打開 「進階」 手風琴以進一步調整模型的參數。
注意:請參考 設置 LLM 參數指南 以獲取更多解釋。
- 點擊 「繼續」 以繼續。
- (即將推出) 您可以添加外部工具或 API 以增強您的 AI 代理的能力。了解更多請訪問 增強功能。
- 點擊 「保存」 以完成 AI 模型的配置。
# 撰寫有效提示的注意事項
- 清楚具體地描述您希望 AI 代理執行的任務。
- 包含示例以指導模型的行為。
- 當適用時使用結構化格式(例如,項目符號或編號列表)。
有關撰寫有效提示的更多技巧,請訪問 FabriXAI 的提示工程博客 (opens new window)。
# 設置 LLM 參數指南
設置參數決定您的 AI 代理回應的風格和語調。我們提供各種回應風格的預設值,您也可以使用以下選項自定義設置:
- 溫度:控制輸出隨機性的程度。較低的值(例如 0.2)將產生更集中和確定的回應,而較高的值(例如 0.8)則鼓勵創意和多樣性。
- Top P:此參數(也稱為核取樣)指定了令牌選擇的累積概率。將其設置為像 0.9 的值意味著模型將僅考慮前 90% 的概率質量來生成下個令牌,使得隨機性更可控。
- 存在懲罰:調整模型引入新主題的可能性。正值會抑制重複(例如 0.5),這使得更可能引入新概念,而接近 0 的值則允許更多重複。
- 頻率懲罰:根據令牌在文本中的頻率減少模型重複相同令牌的可能性。0.5 的值會稍微懲罰常見令牌,促進輸出的多樣性。
- 最大令牌數:指定生成的回應的最大長度。適當設置此值可確保回應簡潔並且與您的需求相關。例如,根據上下文,150 或 300 令牌的值可能會很好。