
19個API安全最佳實踐,助您實現安全
(2)國外版:https://www.coze.com/
大模型使用的是GPT-3.5,GPT-4(是的,在這是可以免費用GPT-4的),但是需要一些科學上網的方法。
國外版官方文檔教程:https://www.coze.com/docs/guides/welcome
國外版的COZE的確比國內版的要香一些,但是國內版的一些功能也在不斷地完善。就是在大模型對話方面,GPT-4的確要順滑多了。體驗上的排序如下:GPT-4>GPT-3.5=kimi>云雀大模型。
我們的教程就以國內版COZE來進行。
2、扣子(COZE)功能介紹
以下內容來自扣子COZE官方指南:https://www.coze.cn/docs/guides/function_overview。
這部分可迅速的略過,在制作的過程中,在回過頭看一下相關功能。
基礎能力
你可以使用扣子COZE提供的以下功能,定制你的 AI Bot:
(1)提示詞(人設與回復邏輯功能)
設定 Bot 的身份及其目標和技能,例如產品問答助手、新聞播報員、翻譯助理等等。Bot 的提示詞決定了 Bot 如何與你的用戶進行互動。
(2)插件
通過 API 連接集成各種平臺和服務,擴展 Bot 能力。扣子平臺內置豐富的插件供你直接調用,你也可以創建自定義插件,將你所需要的 API 集成在扣子內作為插件來使用。
(3)工作流
一種用于規劃和實現復雜功能邏輯的工具。你可以通過拖拽不同的任務節點來設計復雜的多步驟任務,提升 Bot 處理復雜任務的效率。
(4)觸發器
允許用戶在與 Bot 對話過程中,根據用戶所在時區創建定時任務。例如“每天早上八點推送新聞”。每個對話中最多創建 3 條定時任務。
(5)記憶庫
扣子的記憶庫功能可以保留和理解對話細節,并支持添加外部知識庫給模型補充知識,使 Bot 與用戶的互動更加有針對性和個性化。你可以通過以下方式來存儲和管理外部知識。知識庫:支持上傳本地或線上內容,然后將這些內容分割成知識分片,通過語義匹配給模型補充知識。
(6)變量
用于保存用戶個人信息,讓Bot記住用戶的特征,使回復更加個性化。
(7)數據庫
用來存儲和管理結構化數據,并支持用戶通過自然語言方式對數據庫中的數據進行增刪改查。
(8)長期記憶
總結聊天對話的內容,并用于更好的相應用戶的消息。
(9)開場白
設置 Bot 對話的開場語,讓用戶快速了解 Bot 的功能。例如 我是一個旅行助手 Bot,我能幫助你計劃行程和查找旅行信息。
(10)用戶問題建議
Bot 每次響應用戶問題后,系統會根據上下文自動提供三個相關的問題建議給用戶使用。
(11)音色
為 Bot 選擇與用戶交流使用的音色。
高級能力
除了上述簡單易用的搭建能力,扣子平臺還提供了以下高級功能,讓你更加靈活的設計、使用搭建的 Bot。
(12)數據分析
扣子平臺為每個 Bot 提供了數據分析看板,讓你可以通過數據得知 Bot 的使用情況。例如活躍用戶數、留存率等。
(13)多發布渠道
扣子支持將搭建的 Bot 發布到各種社交應用中,讓你的 Bot 服務更多的用戶。接下來我們結合實際案例來熟悉這些功能。
3、搭建網站(www.17ai.site)知識庫機器人
(1)該機器人產品的背景、目的及價值
最近幾個月AI的發展非常的迅猛,幾乎每天都在發生變化,我在查找相關信息的過程中就發現,大量的時間花在了查找、分辨高質量內容的方面。
我就想能不能邊查找AI相關信息的同時,邊將高質量的內容整合到一起呢,我想,這是有價值的。于是做了一個AI信息聚合網站www.17ai.site。
從體驗上來看,一方面隨著信息越來越多,單靠分類、標簽,用戶仍然會越來越難以查找到自己想要找到的信息。另一方面,站內搜索的體驗感很差,很多信息搜不出來,用機器人對話體驗感則好了很多。
看下面的示例,同樣搜GPT網站內容,站內搜索搜不出來,機器人會幫你找到,提供教程鏈接,并給出簡短的介紹,體驗感好很多。
所以制作這個知識庫機器人的目的是:基于www.17AI.site網站內的信息,為用戶提供更高效的檢索服務,助其找到高質量內容。
(2)先搞清楚扣子(COZE)機器人運行的最大問題
搭建這個知識庫機器人的目的是為了高質量的搜索站內信息。但是實話實說扣子(COZE)里面現在的兩個AI大模型(云雀、kimi)非常喜歡“夾帶私貨”,無論我怎么通過提示詞強調也沒用,總是將無關信息呈現出來。
相較而言GPT-4就非常的“聽話”,絕對不會越俎代庖,這就是大模型之間的差距了。
后來經過我非常多次的調試、試驗,在“人設與回復邏輯”里面用云雀大模型并配上以下提示詞(這里不要用kimi,非常非常“不聽話”,工作流里面再用它),會相對的減少這種情況的出現(看看提示詞里面有多少!就可以想象我經歷了什么)
這里是你和Bot直接對話的地方,所以哪怕你后面什么都沒做,Bot也會根據你的提示詞行動。
(3)搭建AI機器人的工作流程站內信息整合→創建知識庫→創建工作流→編寫Bot提示詞→調試、優化→發布
(4)站內信息整合
我將網站內的信息整合成了表格,表格分成了兩個類型,一個是網站類,一個是文章類。
網站類保留了4個選項,網站名稱、網站簡介、網站標簽、網址
文章類保留了6個選項,日期、星級、一級分類、二級分類、文章標題、網址
這樣是為了后面可以多維度的搜索相關信息,這樣能更加精準的搜到想要找到的信息。
比如我想搜索:近7天內,星級4星以上的,關于AI開發的文章。就可以精準的找到。
所以高質量的信息源也是非常關鍵的。
(5)創建知識庫點擊“個人空間”-“知識庫”-“創建知識庫”
起個名字,然后點擊“新增單元”
點擊“表格格式”-“本地文檔”
注意:這里還可以選擇其他文檔形式比如word、pdf等,還可以在線采集等方式,但是這些方式結構不清晰,知識庫在導入的時候會自動分割大小(這涉及到知識庫的RAG相關知識,這里不贅述),導致檢索質量不穩定。所以我比較傾向于用結構清晰的excel表格。
將表格拖入上傳
選擇索引項,就是按哪一項進行搜索,比如這里選“一級分類”,我就可以搜索出比如“AI資訊”、“AI實踐”等信息出來。
上傳完畢,之后再想增加內容的時候,就點擊添加內容即可。
這里還有問題就是如果一個表格,我除了按“一級分類”搜索之外,我還希望按“二級分類”和“文章標題”來搜索怎么辦。很簡單,那就多建立幾個表格就行了。
到這里,知識庫創建完畢
(6)創建工作流
點擊“個人空間”-“工作流”-“創建工作流”
新建好的頁面長這樣,一個開始,一個結束,一個輸入,一個輸出。這也表明了工作流的作用,就是接收輸入,比如用戶打字提問,最后輸出貼合這個問題的回答。
a.開始節點
輸入變量名稱”question”,這個變量將存儲用戶的輸入信息。
b.知識庫節點
點擊左邊“知識庫”-“+”,將剛才開始節點與知識庫節點連接起來。
在輸入項,選擇剛才開始節點的變量“question”。
點擊知識庫右邊的“+”,選擇剛才建立好的知識庫“17AIsite”。
搜索策略根據情況選擇,我選的是“混合”,最大召回量就是從知識庫中輸出的最大段落數,數量越大,速度越慢。
最小匹配度,就是搜出來的結果,數值越大,篩選的標準越嚴格,輸出的數據越少,數值越小,篩選的標準越松,輸出的數據越多。比如搜出來10個結果,這里的數值如果是0.8,那么輸出的結果可能就只有1、2個,如果數值是0.2,那么輸出的結果可能就是8、9個。在調試的過程中,可以自行調整看一下,找到最合適的數值。
輸出部分不用管。
c.大模型節點
點擊左側“大模型”-“+”,將剛才的知識庫節點和這個大模型節點連接起來
在“模型”選項選擇“moonshoot(32k)”,moonshoot就是kimi大模型。“temperature”這個數值較高時會生成更多樣化的文本,增加了更多的可能性,也增加了更多的不確定性。
在“輸入”選項這里,選取前面的用戶輸入的變量“question”和知識庫輸出的變量“knowledge”
在“提示詞”這一部分,根據用戶輸入的內容和知識庫輸出的內容,讓大模型根據規則為用戶輸出答案。
提示詞如下:
# 角色
你是(https://17ai.site/)網站的問答小助手。你會接收兩個輸入:
1.{{question}}這個是用戶詢問的問題
2.{{knowledge}}這個是從知識庫中根據用戶的問題{{question}}查詢出來的知識庫內容
##任務
-需要從檢索到的信息{{knowledge}}中,為用戶的問題{{question}}提供解答。讓用戶更方便的查詢到AI相關的內容。
-為了避免AI“幻覺”方面問題的出現,所以回答的范圍僅限于在檢索到的信息{{knowledge}}范圍內生成,不要超出此范圍,這點很重要。
## 技能
###技能 1: 問題理解
-理解用戶的問題{{question}},并識別其關鍵信息。
###技能 2: 回答生成
-基于檢索到的信息{{knowledge}},為用戶生成準確、簡潔的回答。
##約束
-僅回答與產品相關的問題,不回答無關話題。
-盡量使用清晰簡練的語言來回答用戶的問題。
-整個回答過程中,始終以用戶的需求為中心。
-所有回答只能在檢索到的信息{{knowledge}}范圍內生成,不允許自行生成其他無關回答,這一點請無論如何務必遵守。
-只要檢索到信息{{knowledge}},無論用戶的問題是什么,都要將信息{{knowledge}}用清晰簡練的語言輸出。
-如果沒有檢索到任何信息{{knowledge}},請直接生成如下回答:
'這次沒找到別灰心,您可以嘗試再試一次,或到https://17ai.site/網站上查詢'
-禁止輸出與內容無關的符號信息和表格標題等,比如:"",{},brief,一級分類等
將輸出內容賦予變量output
d.結束節點
選擇回答模式:使用設定的內容直接回答
輸出變量:用戶輸入的內容“question”,大模型輸出的內容“answer”
回答內容:
回答的內容帶上{{question}}、{{answer}}這兩個變量
e.試運行并發布
點擊“試運行”
輸入問題,選擇Bot,點擊運行
可以看到運行結果沒問題
還可以看一下其他節點的運行結果。
可以看到從知識庫的輸出到大模型的輸出,很明顯無論是文字表述還是排版都得到了很大的提升。
確定沒問題了,就點擊發布至此,工作流內容完成。
(7)編寫Bot提示詞→調試、優化→發布
返回Bots,點擊“17AI小助手”,完成其他環節,并自行調試、優化
這些比較簡單,就略過了。
全部完成之后,點擊“發布”,選擇發布渠道
我選擇了如下4個渠道,Bot Store、豆包、飛書、訂閱號
至此,知識庫機器人就創建完成了。
(8)各渠道體驗
各渠道除了訂閱號的表現不太穩定(時好時壞)之外,其他的都還可以。
a、訂閱號體驗入口:我的公眾號“王笑東”,對話框
b、豆包體驗入口:
https://www.doubao.com/chat/19574572603906
c、飛書體驗入口:
https://applink.feishu.cn/T8LZq6JEloki
其實知識庫機器人只是AI Agent一個很小的應用場景,我相信在不久的將來,AI Agent會在方方面面出現很多不同于以往的應用。
我就由我們的知識庫機器人這個案例推導一下,大家可以想象一下未來會不會有這樣的應用。
一家企業將他們所有的資料都打包做成知識庫,讓AI大模型通過不斷訓練,然后開放給內部員工使用。
基層員工可以通過這個機器人進行培訓、答疑,幫助處理各類問題(比如技術上的,服務上的等等)
營銷文案、設計等工作,只要和機器人簡單的溝通對話,就能很快的得到相應的文案和設計圖片。
人事行政工作,讓機器人寫一些辦公文檔完全不在話下,通過與各級員工的對話+員工的各項數據,對每名員工進行人事分析評測也將變得更有效率。
復雜的企業各種系統問題,由于有大量的系統文本輸入,再加上所有員工相關問題的搜集整理,AI大模型將會不斷地得到反饋并優化解決方案。
多Agent模式正逐漸應用于更復雜的場景中,而長期記憶功能使得AI系統能夠持續學習和優化。目前,AI大模型已經具備這樣的能力,盡管相關的應用尚未普及,但預計不久的將來將會實現。
對于企業而言,采用這樣的AI技術相當于聘請了一位“超級數字員工”。這將降低企業成本(包括各種隱性成本),提高管理效率,改善客戶體驗,并增加企業資產(特別是數字資產)的價值。
對于員工來說,掌握AI技術將成為一項必備技能。員工可以利用AI作為自己的助手,將繁瑣和基礎的任務交給AI處理,而自己則專注于更有創造性和價值的工作,從而為企業創造更大的價值。
綜上所述,我們深入探討了如何利用扣子(COZE)平臺構建企業級知識庫機器人,從理論到實踐逐步展開。首先介紹了AI大模型和AI Agent的基本概念,并強調了AI Agent的獨特能力和應用前景。
通過教程,我們詳細說明了創建高效知識庫機器人的步驟,包括工作流程的設置、知識庫的構建和功能的優化。這個過程不僅展示了技術的具體應用,也展現了AI在信息整合和管理數據方面的潛力。AI Agent能夠更高效地處理和檢索信息,極大地提升工作效率和決策質量。
文章通過知識庫機器人的案例,展望了AI Agent在未來工作生活中的潛在影響,并強調了AI技術在提升工作效率和推動企業數字化轉型中的關鍵作用。以上內容基于GPT-4生成的基礎上進行了調整。
未來,我將繼續記錄更多AI應用實踐的過程,并希望這些內容能為你提供幫助。
題圖標題:《五一度假》AI算法提供:Midjourney V6
Prompt:Japanese comics/manga,Front view,Warm light,A train is running on the track, surrounded by flowers and green grass. In the grassland, the visual effect is dreamlike with bright colors and bold shapes. Capture this moment., –q 2 –v 6.0 –ar 16:9
原文轉自 微信公眾號@王笑東
更多相關內容推薦: