什么是Prompt Engineering？Prompt Engineering，即提示工程，是指設(shè)計(jì)和優(yōu)化輸入給大型語(yǔ)言模型（LLM）的文本提示（Prompt）的過(guò)程。這些提示旨在引導(dǎo)LLM生成符合期望的、高質(zhì)量的輸出。它能夠根據(jù)特定任務(wù)需求優(yōu)化輸入提示，引導(dǎo)大語(yǔ)言模型生成更準(zhǔn)確、全面、符合格式要求的輸出，從而提升模型在多樣化應(yīng)用場(chǎng)景中的性能和實(shí)用性。
Prompt Engineering的核心要素在于通過(guò)明確的指示、相關(guān)的上下文、具體的例子以及準(zhǔn)確的輸入來(lái)精心設(shè)計(jì)提示，從而引導(dǎo)大語(yǔ)言模型生成符合預(yù)期的高質(zhì)量輸出。
什么是Function Calling？在生成式AI的上下文中，函數(shù)調(diào)用通常指的是LLM在生成響應(yīng)時(shí)，能夠識(shí)別并執(zhí)行特定的函數(shù)或API調(diào)用，以獲取額外的信息或執(zhí)行特定的任務(wù)。
函數(shù)調(diào)用增強(qiáng)了LLM的擴(kuò)展性和實(shí)用性，使其能夠跨越語(yǔ)言模型的邊界，與數(shù)據(jù)庫(kù)、Web服務(wù)等外部系統(tǒng)無(wú)縫交互，從而提供更加全面和實(shí)時(shí)的信息。
Function Calling在智能助手和自動(dòng)化流程中的應(yīng)用場(chǎng)景中，LLM通過(guò)調(diào)用外部API或預(yù)設(shè)函數(shù)來(lái)集成多樣化服務(wù)與復(fù)雜操作，以滿足用戶請(qǐng)求并自動(dòng)化執(zhí)行流程。
以查詢天氣為例，以下是LLM調(diào)用外部天氣API的具體流程：
什么是RAG？RAG（Retrieval Augmented Generation，檢索增強(qiáng)生成）是一種結(jié)合檢索和生成的技術(shù)，旨在提高LLM在生成響應(yīng)時(shí)的準(zhǔn)確性和信息量。它通過(guò)從外部知識(shí)庫(kù)中檢索相關(guān)信息，并將這些信息作為LLM生成響應(yīng)的額外輸入。
RAG在學(xué)術(shù)寫作與新聞?wù)?報(bào)告生成中，助力LLM（大型語(yǔ)言模型）精準(zhǔn)檢索最新可靠信息，確保內(nèi)容權(quán)威性與時(shí)效性。
以處理關(guān)于“最新科技趨勢(shì)”的新聞?wù)獮槔琑AG新聞?wù)?報(bào)告生成的示例流程：
什么是Fine-tuning？Fine-Tuning是指使用特定領(lǐng)域的數(shù)據(jù)集對(duì)預(yù)訓(xùn)練的大型語(yǔ)言模型進(jìn)行進(jìn)一步訓(xùn)練的過(guò)程。通過(guò)微調(diào)，模型可以學(xué)習(xí)到特定領(lǐng)域的知識(shí)和模式，從而在相關(guān)任務(wù)上表現(xiàn)更好。
在預(yù)訓(xùn)練模型的基礎(chǔ)上，針對(duì)特定任務(wù)或數(shù)據(jù)領(lǐng)域，通過(guò)在新任務(wù)的小規(guī)模標(biāo)注數(shù)據(jù)集上進(jìn)一步訓(xùn)練和調(diào)整模型的部分或全部參數(shù)，使模型能夠更好地適應(yīng)新任務(wù)，提高在新任務(wù)上的性能。
Fine-tuning在醫(yī)療和法律的應(yīng)用場(chǎng)景中，能夠顯著提升LLM對(duì)專業(yè)術(shù)語(yǔ)和復(fù)雜情境的理解能力，從而輔助生成精確的專業(yè)建議、報(bào)告或解答。
文章轉(zhuǎn)自微信公眾號(hào)@架構(gòu)師帶你玩轉(zhuǎn)AI