欧美激情视频在线观看免费 ,日本hdxxxx护士,一二三四在线视频社区8

舉個(gè)例子，你問大模型今天的天氣怎么樣，溫濕度是多少？這樣的問題，即使是人也無法給出準(zhǔn)確的回答，但可以通過天氣APP獲取到這些信息。

因此，只需要讓大模型具有訪問查詢天氣情況接口的能力，那么這個(gè)問題就可以被解決了，而類似于查詢天氣的這種接口，統(tǒng)一稱為工具(tool)。

但大模型本身又不具備調(diào)用網(wǎng)絡(luò)的能力，那么怎么才能實(shí)現(xiàn)這個(gè)功能呢？

這時(shí)函數(shù)調(diào)用的作用就體現(xiàn)出來了，所謂的函數(shù)就是一個(gè)能實(shí)現(xiàn)特定功能的代碼段，它們有設(shè)定的輸入?yún)?shù)和返回值，這樣就可以使用函數(shù)調(diào)用各種工具實(shí)現(xiàn)大模型無法實(shí)現(xiàn)的功能。

之所以選擇函數(shù)調(diào)用，原因就是因?yàn)楹瘮?shù)調(diào)用比較簡單，大模型只需要返回幾個(gè)參數(shù)即可實(shí)現(xiàn)函數(shù)調(diào)用。

02

function call的實(shí)現(xiàn)過程

在正常的開發(fā)流程中，不論是函數(shù)調(diào)用還是API調(diào)用，都是開發(fā)者進(jìn)行傳參，然后獲得返回值。

沒了解過function call的人可能會(huì)認(rèn)為，函數(shù)調(diào)用就是大模型調(diào)用python等語言的解釋器，執(zhí)行目標(biāo)代碼并獲得結(jié)果。

事實(shí)上，在function call中，大模型并不負(fù)責(zé)函數(shù)的執(zhí)行，大模型的作用是根據(jù)用戶的問題，理解用戶的需求，然后根據(jù)用戶需求確定具體的回調(diào)函數(shù)以及函數(shù)所需要的參數(shù)。

openAI官方文檔明確指出，大模型不會(huì)真正執(zhí)行函數(shù)調(diào)用，而是由應(yīng)用開發(fā)者根據(jù)大模型的返回進(jìn)行具體的函數(shù)調(diào)用。

因此，在實(shí)現(xiàn)function call的過程中，應(yīng)用開發(fā)者需要預(yù)先設(shè)定一個(gè)工具集，并負(fù)責(zé)工具集的實(shí)現(xiàn)。

# 定義工具集

tools = [

        {

            "type": "function",

            "function": {

                "name": "get_current_weather",

                "description": "Get the current weather in a given location",

                "parameters": {

                    "type": "object",

                    "properties": {

                        "location": {

                            "type": "string",

                            "description": "The city and state, e.g. San Francisco, CA",

                        },

                        "unit": {"type": "string", "enum": ["celsius", "fahrenheit"]},

                    },

                    "required": ["location"],

                },

            },

        }

    ]

    # 工具集函數(shù)d 實(shí)現(xiàn)

    def get_current_weather(location, unit="fahrenheit"):

    """Get the current weather in a given location"""

    if "tokyo" in location.lower():

        return json.dumps({"location": "Tokyo", "temperature": "10", "unit": unit})

    elif "san francisco" in location.lower():

        return json.dumps({"location": "San Francisco", "temperature": "72", "unit": unit})

    elif "paris" in location.lower():

        return json.dumps({"location": "Paris", "temperature": "22", "unit": unit})

    else:

        return json.dumps({"location": location, "temperature": "unknown"})

用戶在調(diào)用大模型時(shí)，需要把當(dāng)前工具集傳給大模型。

# 在參數(shù)tools中傳入工具集

client = openAI(api_key="你的openai密鑰")

response = client.chat.completions.create(

    model='gpt-4o', 

    messages=messages, 

    tools= tools, 

    tool_choice="auto"

)

這時(shí)，大模型就可以通過理解用戶的輸入，然后返回所需工具的名稱和參數(shù)，然后就可以根據(jù)名稱和參數(shù)調(diào)用具體的工具，如天氣查詢接口。

大模型函數(shù)調(diào)用的流程如下圖所示，從下圖可以看出，大模型使用工具需要兩次輸入。

# 大模型返回的需要調(diào)用的函數(shù)名稱和參數(shù)

{"role": "assistant", "content": "", "tool_calls": [{"function": {"name": "get_current_weather", "arguments": "{\"properties\": {\"location\": {\"description\": \"北京市\(zhòng)", \"type\": \"string\"}}}"}, "id": "", "type": "function"}]}

第一次輸入是用戶提問，大模型根據(jù)提問內(nèi)容解析出需要調(diào)用的函數(shù)；第二次是把函數(shù)的執(zhí)行結(jié)果傳入到模型中；最后，模型根據(jù)函數(shù)的執(zhí)行結(jié)果返回給用戶。