一、Agents的本質

Agents是什么？

Agents 的核心概念是利用語言模型來選擇一系列要執(zhí)行的動作。與傳統(tǒng)的硬編碼動作鏈不同，Agents 使用語言模型作為推理引擎來確定要執(zhí)行哪些動作以及它們的執(zhí)行順序。

• 基于語言模型的決策：LangChain Agents以語言模型為核心，使其能夠理解和執(zhí)行自然語言或類似自然語言的指令。這種能力讓Agents可以靈活地適應不同的任務和環(huán)境，無需硬編碼特定的邏輯。
• 可組合性與擴展性：LangChain框架注重Agents的可組合性和系統(tǒng)的擴展性。Agents可以通過組合各種工具和模塊（如數(shù)據(jù)檢索、信息提取、API調用等）來擴展其功能。這種設計方式不僅簡化了維護和更新過程，還促進了代碼和知識的重用。
• 學習與適應性：結合機器學習技術（如強化學習），Agents可以從經驗中學習并優(yōu)化其行為策略，以應對復雜和動態(tài)變化的環(huán)境，從而提高性能和效率。

Agents

The core idea of agents is to use a language model to choose a sequence of actions to take. In chains, a sequence of actions is hardcoded (in code). In agents, a language model is used as a reasoning engine to determine which actions to take and in which order.

Agents由幾個部分組成。

• 模式（Schema）：是一組規(guī)則和結構，定義了代理如何與外部工具進行交互、執(zhí)行動作以及管理任務狀態(tài)，從而實現(xiàn)智能的多步驟推理和決策。主要包括AgentAction、Intermediate Steps、AgentFinish。
• 代理（Agent）: 負責決策下一個動作的實體。代理使用語言模型、提示和輸出解析器來支持其決策過程。主要包括Agent Inputs、Agent Outputs。
• 代理執(zhí)行器（AgentExecutor）: 負責運行代理并管理其與外部工具的交互。執(zhí)行器處理復雜性，如工具錯誤處理、日志記錄等。
• 工具（Tools）: 代理可以調用的函數(shù)或服務。每個工具都有一個輸入模式和一個關聯(lián)的函數(shù)，用于描述如何調用該工具以及實際執(zhí)行的操作。
• 工具包（Toolkits）: 相關工具的集合，用于完成特定任務。例如，GitHub 工具包可能包含用于搜索問題、讀取文件、發(fā)表評論等的工具。

Agents 組成部分

Agents能干什么？

Agent System由多個協(xié)作的智能代理構成，這些代理能自主行動、響應環(huán)境、與其他代理或用戶交互，并根據(jù)目標、規(guī)則和知識執(zhí)行任務或決策。

在Lilian Weng的博客中，她闡述了以LLM為核心的AI Agents系統(tǒng)，其中LLM負責推理、決策和生成語言，還需結合規(guī)劃、記憶和工具使用等關鍵組件來完善功能。

• 規(guī)劃（Planning）：規(guī)劃能力使得代理能夠將復雜的任務分解成更小、更可管理的子目標。這有助于代理在面對復雜任務時能夠有條不紊地執(zhí)行。同時，代理還具備反思和細化的能力，可以從過去的經驗中學習并改進未來的行為。
• 記憶（Memory）：記憶能力是代理系統(tǒng)中的重要組成部分。短期記憶允許代理在處理任務時保持上下文信息的一致性，而長期記憶則使得代理能夠存儲和回憶以前的知識和經驗。這種記憶能力對于實現(xiàn)持續(xù)學習和適應新環(huán)境至關重要。
• 工具使用（Tool Use）：工具使用能力允許代理調用外部API來獲取額外信息或執(zhí)行特定操作。這些信息可能是模型權重中缺少的，但對于完成任務至關重要。通過調用外部工具，代理可以擴展其功能并適應更廣泛的應用場景。

二、Agents的原理

Agents的工作流程：通過結合大型語言模型（LLM）的推理能力和外部工具的執(zhí)行能力，接收任務后進行思考、行動、接收反饋并重復這些步驟，直至任務完成或達到終止條件。

Agents流程包含以下四個核心步驟：

• 接收任務：LLM Agent首先接收一個任務描述或問題。
• 思考：然后，它利用LLM進行推理和決策。例如，它可能會生成一個潛在的解決方案或行動計劃。
• 行動：接下來，LLM Agent會執(zhí)行一些操作以完成任務。這些操作可能包括調用API獲取數(shù)據(jù)、查詢數(shù)據(jù)庫、執(zhí)行計算等。
• 接收反饋：在執(zhí)行操作后，LLM Agent會接收來自環(huán)境的反饋。這些反饋可能包括API的響應、數(shù)據(jù)庫查詢的結果等。

如果任務還沒有完成，LLM Agent會重復上述步驟，直到任務完成或達到某個終止條件。

Agents的工作流程

Agent Types：在LangChain中，Agent Types定義了不同類型的代理（Agents），這些代理使用不同的策略和方法來與用戶和工具進行交互，以完成各種任務。

• Zero-shot ReAct：
  這種Agent使用ReAct（Retrieve-and-Act）框架，該框架通過理解工具的描述來選擇最合適的工具執(zhí)行任務。Zero-shot意味著Agent不需要針對特定任務進行訓練，而是可以基于工具的描述直接進行推斷。
• Structured tool chat：
  這種Agent支持使用具有復雜輸入?yún)?shù)的工具。通過定義args_schema，Agent可以理解每個工具所需輸入?yún)?shù)的結構和類型，從而與用戶進行更結構化的對話以收集必要的信息。這有助于確保與工具的交互是準確和一致的。
• Conversational：
  與標準ReAct Agent相比，Conversational Agent更注重與用戶進行自然對話。它的提示和響應設計得更加對話性，適合在聊天場景中使用。
• Self-ask with search：
  這種Agent類型集成了搜索功能，允許它自主地在搜索引擎中查找信息以回答問題。這增加了Agent的知識來源和回答問題的能力。
• ReAct document store：
  使用這種Agent，用戶可以與一個文檔存儲進行交互。該Agent包含兩個關鍵工具：“Search”用于在文檔存儲中搜索相關文檔，“Lookup”用于在最近找到的文檔中查找特定術語或信息。
• XML Agent：
  XML Agent專門用于處理XML格式的數(shù)據(jù)。它使用XML格式來解析工具調用和最終答案，這使得它特別適合與返回XML響應的工具或服務進行交互。

三、Agents的應用

Agents應用場景：在需要根據(jù)不同輸入動態(tài)決定工具使用次數(shù)和順序的復雜任務中，實現(xiàn)靈活智能的決策和處理。

工具鏈：有些任務的處理流程是固定的，我們可以預先設定一個工具鏈來按順序處理。

工具鏈

但有些任務的處理流程是動態(tài)的，需要根據(jù)輸入來決定使用哪些工具以及如何使用。

Agents是一種可以實現(xiàn)這種動態(tài)決策的機制，它可以根據(jù)輸入和當前狀態(tài)來選擇下一步的操作，從而實現(xiàn)更加靈活和智能的任務處理。

Agents應用創(chuàng)建：使用 LangChain 庫創(chuàng)建一個簡單的代理（agent），該代理能夠處理數(shù)學運算任務。

一、創(chuàng)建工具函數(shù)：通過裝飾器?@tool 創(chuàng)建了三個工具函數(shù)：multiply（乘法）、add（加法）和 exponentiate（指數(shù)運算）。這些函數(shù)接收整數(shù)作為參數(shù)，并返回運算結果。

@tool

1

2 def multiply(first_int: int, second_int: int) -> int: 

3 return first_int * second_int 

4

5 @tool 

6 def add(first_int: int, second_int: int) -> int: 

7 return first_int + second_int 

8

9 @tool 

10 def exponentiate(base: int, exponent: int) -> int:

11 return base ** exponent

創(chuàng)建工具函數(shù)

二、創(chuàng)建提示模板：從 LangChain Hub 中獲取一個提示模板。這個模板用于指導大型語言模型（LLM）如何生成響應。

from langchain import hubfrom langchain.agents import AgentExecutor, create openai tools agentfrom langchain openai import ChatOpenAI

# Get the prompt to use - you can modify this!prompt = hub.pull("hwchase17/openai-tools-agent"prompt.pretty_print()

創(chuàng)建提示模版

三、創(chuàng)建代理和執(zhí)行器：選擇一個大型語言模型來驅動代理。使用所選的模型、工具函數(shù)和提示模板來構建 OpenAI Tools 代理。同時，創(chuàng)建一個代理執(zhí)行器，將代理和工具函數(shù)傳遞給它。

model = ChatOpenAl(model="gpt-3.5-turbo-1106" temperature=0)agent = create openai tools agent(model, tools, prompt)agent executor = AgentExecutor(agent=agent, tools=tools, verbose=True)

創(chuàng)建代理和執(zhí)行器

四、調用代理：代理會根據(jù)輸入和提示模板動態(tài)地調用適當?shù)墓ぞ吆瘮?shù)來完成運算，并返回運算結果。

agent executor.invoke(

0

"input. "Take 3 to the fifth power and multiply that by the sum of twelve and three, then square tl

5

本文章轉載微信公眾號@架構師帶你玩轉AI

#你可能也喜歡這些API文章!

使用這些基本 REST API 最佳實踐構建出色的 API

如何使用API：初學者的分步教程