專家模式是專為大語言模型(LLM)或數據集進行穩健可靠的交互。
基本模式旨在降低用戶創建 AI 應用程序的門檻,允許用戶快速配置和生成簡單的應用程序。然而,這種模式在一定程度上限制了提示編排的靈活性。而專家模式則賦予用戶更高的控制權和自定義能力。
在專家模式下,用戶可以自由編輯提示的各個組成部分,包括上下文、用戶輸入、對話歷史、示例等,從而精準引導模型生成所需的輸出結果。無論是會話類應用還是文本生成類應用,專家模式都提供了豐富的工具和選項,幫助用戶設計更復雜的提示編排。

如果用戶已經在基本模式中完成了提示編排,切換到專家模式后,可以查看基本模式中封裝的完整提示,并對其進行自由修改。這種靈活性使得用戶能夠快速調整提示內容,優化 AI 應用程序的性能,確保其輸出符合預期。
在專家模式中,用戶可以根據所選模型類型(CHAT 或 COMPLETE)靈活調整提示內容:


通過模塊化的方式編排 USER 和 ASSISTANT 的交互信息,用戶可以有效引導模型生成符合預期的輸出結果。
以一個從文本生成多個問答對的應用程序為例,用戶可以通過提供多組 USER 和 ASSISTANT 的交互示例,為模型提供清晰的指導。這樣,模型在回答問題時會嚴格遵循 SYSTEM 提示的約束。這種方法類似于設置模板,確保模型以固定格式輸出結果。

這種方式不僅適用于生成問答對,還可以擴展到其他場景,通過具體的提示設計實現對 AI 應用響應的精確指導,從而提升提示編排的效率和準確性。
專家模式還提供了強大的調試工具,例如“日志視圖”功能。用戶可以通過該功能深入分析從輸入到輸出的整個過程,快速定位問題來源:
通過這些工具,用戶可以不斷優化應用程序的性能,確保生成結果的準確性和可靠性。
為了確保生成內容的安全性,專家模式支持過濾用戶輸入和模型輸出中的敏感詞。這一功能使得 AI 應用程序的內容生成更加安全、可控。
專家模式為提示編排提供了更高的靈活性和控制力,使開發者能夠設計出更復雜、更高效的提示方案。無論是優化模型輸出,還是提升應用程序性能,專家模式都為開發者提供了強大的支持。通過模塊化的提示設計和詳細的調試工具,用戶可以快速調整提示內容,確保模型輸出符合預期。
如果想了解更多關于專家模式的使用方法和最佳實踐,請參考官方文檔。
原文鏈接: https://dify.ai/blog/mastering-new-prompt-orchestration-in-dify-ai