一、Chains的本質(zhì)

Chains是什么？Chains 在 LangChain 框架中的核心概念是用于將多個組件及其他 Chains 組合成更復(fù)雜功能，通過模塊化與復(fù)用提高開發(fā)效率、代碼可讀性及可維護(hù)性。

• 模塊化：提高代碼復(fù)用性，降低開發(fā)復(fù)雜性。
• 可維護(hù)性：易于理解和維護(hù)，方便修改和擴展。
• 靈活性：支持不同組合方式，適應(yīng)多變需求。

Chains兩種類型的鏈：通用鏈和實用鏈。

• 通用鏈：這些鏈?zhǔn)褂靡粋€大語言模型（LLM）根據(jù)給定的提示生成文本。比如LLM鏈和簡單順序鏈。它們主要依賴于單一的語言模型來完成文本生成的任務(wù)。
• 實用鏈：這些鏈將多個大語言模型（LLM）一起用于特定任務(wù)。例如，檢索QA鏈可能用于問答系統(tǒng)，LLM數(shù)學(xué)鏈用于處理數(shù)學(xué)相關(guān)的工作，加載摘要鏈用于生成文本的摘要，而PAL鏈則可能用于特定的自然語言處理任務(wù)。

通用鏈和實用鏈

Chains能干什么？

Chains的靈活性使得我們可以根據(jù)具體需求將多個鏈組合在一起，或者將鏈與其他功能組件相結(jié)合，從而構(gòu)建出更復(fù)雜、更強大的應(yīng)用程序。

Legacy Chains 是一系列傳統(tǒng)的工具鏈，用于處理和轉(zhuǎn)換數(shù)據(jù)，執(zhí)行特定的任務(wù)，并在早期的技術(shù)環(huán)境中提供關(guān)鍵的功能支持。

• APIChain：將查詢轉(zhuǎn)換為API請求并執(zhí)行，然后獲取響應(yīng)并傳遞給另一個語言模型（LLM）以作出響應(yīng)。
• OpenAPIEndpointChain：與APIChain類似，但專為與OpenAPI端點交互而優(yōu)化。
• ConversationalRetrievalChain：用于與文檔進(jìn)行對話。它接收問題和（可選的）先前的對話歷史，然后使用LLM和檢索器來獲取相關(guān)文檔，并作出響應(yīng)。
• StuffDocumentsChain：將一系列文檔格式化為提示，并將其傳遞給LLM。
• ReduceDocumentsChain：通過迭代減少文檔來組合它們。它分批處理文檔，然后將其傳遞給LLM，直到所有內(nèi)容都適合在一個最終的LLM調(diào)用中處理。
• MapReduceDocumentsChain：首先對每個文檔進(jìn)行LLM調(diào)用，然后使用ReduceDocumentsChain來減少它們。
• RefineDocumentsChain：通過基于第一個文檔生成初始答案，然后循環(huán)遍歷其余文檔來精煉答案。
• MapRerankDocumentsChain：對每個文檔進(jìn)行LLM調(diào)用，并要求其提供答案和置信度分?jǐn)?shù)。返回置信度最高的答案。
• ElasticsearchDatabaseChain：將自然語言問題轉(zhuǎn)換為ElasticSearch查詢，執(zhí)行它，然后總結(jié)響應(yīng)。
• LLMMath：將用戶問題轉(zhuǎn)換為數(shù)學(xué)問題并執(zhí)行它。
• LLMCheckerChain：使用第二次LLM調(diào)用來驗證其初始答案。
• LLMSummarizationChecker：使用一系列LLM調(diào)用來創(chuàng)建摘要，以確保其準(zhǔn)確性。

二、Chains的原理

Chains的工作流程：通過定義鏈構(gòu)造函數(shù)來初始化鏈，配置所需的組件和可能的其他鏈，以形成具有特定功能的執(zhí)行流程。

Chains流程包含以下四個核心步驟：

• Chain Constructor（鏈構(gòu)造函數(shù)）：在LangChain中，鏈構(gòu)造函數(shù)用于初始化鏈，設(shè)定其組件、配置及嵌套的其他鏈。
• Function Calling（函數(shù)調(diào)用）：這指鏈?zhǔn)欠裥枰{(diào)用外部函數(shù)，如OpenAI服務(wù)，以執(zhí)行其任務(wù)。
• Other Tools（其他工具）：除LangChain核心組件外，鏈可能還使用其他工具如數(shù)據(jù)庫、API等以增強其功能。
• When to Use（何時使用）：這部分提供指導(dǎo)，幫助開發(fā)者確定在何種場景或需求下使用特定的LangChain鏈最為合適。

Chains的工作流程

Chains的架構(gòu)：Chains作為LangChain的核心組件，通過串聯(lián)各個邏輯單元，實現(xiàn)了流程控制、數(shù)據(jù)傳遞和狀態(tài)管理，使得復(fù)雜的業(yè)務(wù)邏輯能夠高效、有序地執(zhí)行。

• 流程控制：Chains通過特定的順序?qū)⑦壿媶卧?lián)起來，確保業(yè)務(wù)流程按照預(yù)定的順序執(zhí)行。每個邏輯單元在Chains中都被視為一個節(jié)點，節(jié)點之間的連接形成了完整的業(yè)務(wù)流程。
• 數(shù)據(jù)傳遞：在Chains中，數(shù)據(jù)在各個節(jié)點之間流動。每個節(jié)點接收前一個節(jié)點的輸出作為輸入，并根據(jù)業(yè)務(wù)需求進(jìn)行處理，然后將結(jié)果傳遞給下一個節(jié)點。這種數(shù)據(jù)傳遞方式實現(xiàn)了各個邏輯單元之間的無縫銜接。
• 狀態(tài)管理：Chains還具備狀態(tài)管理能力，允許節(jié)點在執(zhí)行過程中修改自身的狀態(tài)，并根據(jù)上一次的狀態(tài)進(jìn)行相應(yīng)的操作。這有助于處理復(fù)雜的業(yè)務(wù)邏輯，提高代碼的復(fù)用性和可維護(hù)性。

三、Chains的應(yīng)用

LangChain Expression Language（LCEL）是一種聲明式的方式，可以輕松地組合鏈。LCEL 從一開始就被設(shè)計為支持將原型投入生產(chǎn)，無需任何代碼更改，從最簡單的“提示+LLM”鏈到最復(fù)雜的鏈。

Chains的基本案例：prompt + model + output parser

在此鏈中，用戶輸入傳遞到提示模板，然后提示模板輸出傳遞到模型，然后模型輸出傳遞到輸出解析器。

基本案例的流程

1. 提示（Prompt）：你創(chuàng)建了一個?ChatPromptTemplate?對象，該對象使用給定的模板字符串，并根據(jù)提供的輸入（在這種情況下是主題）生成完整的提示。當(dāng)你調(diào)用?prompt.invoke({“topic”: “ice cream”})?時，它會返回一個?ChatPromptValue?對象，該對象包含要傳遞給模型的完整提示。

prompt value = prompt,invoke({"topic": "ice cream"])

prompt value

ChatPromptValue(messages=[HumanMessage(content='tell me a short joke about ice crean')])

prompt value,to messages )

[HumanMessage(content='tell me a short joke about ice cream')]

prompt value.to string()

Human: tell me a short joke about ice cream'

ChatPromptTemplate

2. 模型（Model）：PromptValue作為輸入傳遞給ChatModel，該模型處理后輸出一個BaseMessage格式的回復(fù)。

message = model invoke(prompt value)

message

AIMessage(content-"why don't ice creams ever get invited to parties?\n\nBecause they al

ChatModel

如果我們的模型是一個大語言模型（LLM），它將輸出一個字符串作為結(jié)果。

from langchain openai. llms import OpenAI

llm = OpenAI(model="gpt-3.5-turbo-instruct")

llm. invoke(prompt value)

\nnRobot: Why did the ice cream truck break down? Because it had a meltdown!'

大語言模型（LLM）

3. 輸出解析器（Output Parser）：最后，我們將模型輸出傳遞給output_parser，它是一個BaseOutputParser，可以接受字符串或BaseMessage作為輸入。其中，StrOutputParser專門將任何輸入簡單轉(zhuǎn)換為字符串。

output parser.invoke(messagel

"why did the ice cream go to therapy? ininBecause it had too many toppings and couldn't

輸出解析器（Output Parser）

RAG Search Example：在這個例子中，我們想要運行一個檢索增強的生成鏈，以便在回答問題時添加一些上下文。

RAG Search Example的流程

該流程通過創(chuàng)建一個包含上下文和問題的RunnableParallel對象，將其傳遞給提示組件以生成PromptValue，然后將該值輸入到OpenAI的大型語言模型(LLM)中以生成ChatMessage，最后通過輸出解析器將其轉(zhuǎn)換為Python字符串并返回。

1. 創(chuàng)建RunnableParallel對象：首先，創(chuàng)建一個RunnableParallel對象，它包含兩個條目：一個是context（由檢索器獲取的文檔結(jié)果），另一個是question（用戶的原始問題）。為了傳遞問題，使用RunnablePassthrough來復(fù)制這個條目。

2. 傳遞給提示組件：將上述步驟中創(chuàng)建的字典傳遞給提示組件。提示組件接收用戶輸入的問題和檢索到的文檔（作為上下文），然后構(gòu)建一個提示并輸出一個PromptValue。

3. 模型組件評估：模型組件接收生成的提示，并將其傳遞給OpenAI的大型語言模型(LLM)進(jìn)行評估。模型生成的輸出是一個ChatMessage對象。

4. 輸出解析：最后，output_parser組件接收一個ChatMessage對象，并將其轉(zhuǎn)換為Python字符串。這個字符串是從調(diào)用方法中返回的最終結(jié)果。

# Requires:

# pip install langchain docarray tiktoken

from langchain community.vectorstores import DocArrayInMemorySearchfromlangchain core.output parsers import StrOutputParser

langchain core.prompts import ChatPromptTemplatefrom

fromilangchain core,runnables import RunnableParallel, RunnablePassthrough

fromlangchain openaichat models import ChatOpenAIfrom langchain openai.embeddings import OpenAIEmbeddings

vectorstore = DocArrayInMemorySearch, from texts(

["harrison worked at kensho", "bears like to eat honey"].embedding 0penAIEmbeddings()

retriever = vectorstore.as retriever()

template = mAnswer the question based only on the following context;{context}

Question: {question》

prompt = ChatPromptTemplate.from template(template)model = ChatOpenAi()

output parser = StrOutputParser()

setup and retrieval = RunnableParallel(["context": retriever,"question": RunnablePassthrough()]

chain = setup and retrieval l prompt  model  output parser

chain.invoke("where did harrison work?")

本文章轉(zhuǎn)載微信公眾號@架構(gòu)師帶你玩轉(zhuǎn)AI