
理解 Composition API Vue 的基礎與模式
GPT-3(Generative Pretrained Transformer 3):這是 OpenAI 最強大的 NLP 模型,擁有出色的語言生成能力。
(來自chatGPT的解釋)
網上流傳可以寫出論文的就是GPT-3這款產品,chatGPT實際也是應用GPT-3的”text-davinci-003″模型。
網址為:https://platform.openai.com/playground?右側Model選擇”text-davinci-003″。
CLIP(Contrastive Language-Image Pretraining):這是一種跨語言和圖像的模型,可以在圖像和文本間進行對比。
這里不再介紹。官方網站是?clip.openai.com?但是我沒有打開。
platform.openai.com/doc
從目前官方的接口文檔來看:OpenAI的原生接口支持Python和Node.js語言,但也同時支持RESTFul的API接口形式。所以目前其他語言可以通過Http的API請求形式,來調用OpenAI的接口。
這里先以Python為例,嘗試調通一個接口。
在開始之前,我們需要理解的最關鍵的一個概念,就是OpenAI的訓練模型Model。
對于我們從來沒有接觸過人工智能技術的人來說,始終認為人工智能開發一定是要自己訓練的,但是OpenAI完全降低了人工智能的業務開發門檻,我們完全不需要神經網絡、NLP、深度學習等人工智能領域工程師及算法工程師,就可以直接使用OpenAI訓練好的強大模型為我們進行業務賦能。
我們可以理解為OpenAI現在已經有很多基礎能力相當成熟的“AI大秘書”為我們進行服務。
他們的名字分別是:davinci(達芬奇)、curie(居里)、babbage(巴貝奇)和ada(艾達)等。
Model | 擅長 |
---|---|
Davinci | 復雜的意圖,因果關系,面向特定受眾的概括 |
Curie | 語言翻譯,復雜分類,文本情感,概括 |
Babbage | 中等分類,語義搜索分類 |
Ada | 文本解析,簡單分類,地址校正,關鍵詞 |
注意:任何由更快的模型(如Ada)執行的任務都可以由更強大的模型(如Curie或Davinci)執行,所以只需要記住“達芬奇最強”即可。
綜上,在我們進行使用OpenAI進行業務接口開發時,應該嘗試不同的場景,選擇最適合的Model為我們提供分析能力。
當然,OpenAI不僅僅只有這些模型,在OpenAI的官方文檔上有說明可以給開發者提供的開發能力,如下:
這五大能力,各自提供了接口讓開發者進行接入和使用。其中“Fine-tuning”將是定制化的model訓練接口,當然是你不希望使用OpenAI現有的”大秘書”。
全部Model模型List可見OpenAI官方文檔:platform.openai.com/doc
在GPT-3模型中,各個“AI大秘書”的最新版本和情況如下:
代碼很簡單,如下:
1) openai的sdk
對于python來講,安裝openai環境十分的簡單,如下指令即可:
pip install openai
如果你用的Golang語言或其他語言,不需要安裝環境,直接調用官方的RESTFul接口即可。
2) API_KEY
這里面需要一個api_key,api_key的獲取辦法是,首先要注冊OpenAI賬號,如果您之前已經可以使用OpenAI產品,說明你已經有了賬號,然后在platform.openai.com/acc?網頁中,生成API_KEY即可。
3) propmt提示信息
prompt = "用Golang寫一個API-Server,且有一個路由/tal,給客戶端返回'你好TAL'的能力"
在文本Model中,就是我們的輸入問題文本。
接下來,我們來執行上述的python代碼,得到如下結果:
這樣就已經基于”text-davinci-003″的能力得到了我們想要的答案,也證明我們Demo的調度是通過的。
const BASEURL = "https://api.openai.com/v1/"
// ChatGPTResponseBody 請求體
type ChatGPTResponseBody struct {
ID string json:"id"
Object string json:"object"
Created int json:"created"
Model string json:"model"
Choices []ChoiceItem json:"choices"
Usage map[string]interface{} json:"usage"
}
type ChoiceItem struct {
Text string json:"text"
Index int json:"index"
Logprobs int json:"logprobs"
FinishReason string json:"finish_reason"
}
// ChatGPTRequestBody 響應體
type ChatGPTRequestBody struct {
Model string json:"model"
Prompt string json:"prompt"
MaxTokens int json:"max_tokens"
Temperature float32 json:"temperature"
TopP int json:"top_p"
FrequencyPenalty int json:"frequency_penalty"
PresencePenalty int json:"presence_penalty"
}
4.2 Golang的OpenAI請求RESTful接口封裝
// Completions gtp文本模型回復
//curl https://api.openai.com/v1/completions
//-H "Content-Type: application/json"
//-H "Authorization: Bearer your chatGPT key"
//-d '{"model": "text-davinci-003", "prompt": "你好,Aceld", "temperature": 0, "max_tokens": 7}'
func Completions(msg string) (string, error) {
requestBody := ChatGPTRequestBody{
Model: "text-davinci-003",
Prompt: msg,
MaxTokens: 1024,
Temperature: 0.7,
TopP: 1,
FrequencyPenalty: 0,
PresencePenalty: 0,
}
requestData, err := json.Marshal(requestBody)
if err != nil {
return "", err
}
log.Printf("request gtp json string : %v", string(requestData))
req, err := http.NewRequest("POST", BASEURL+"completions", bytes.NewBuffer(requestData))
if err != nil {
return "", err
}
apiKey := "XXXXXXXXXX申請的API_KEYXXXXXXXXXX"
req.Header.Set("Content-Type", "application/json")
req.Header.Set("Authorization", "Bearer "+apiKey)
client := &http.Client{}
response, err := client.Do(req)
if err != nil {
return "", err
}
defer response.Body.Close()
if response.StatusCode != 200 {
return "", errors.New(fmt.Sprintf("status code != 200, code is %d", response.StatusCode))
}
body, err := ioutil.ReadAll(response.Body)
if err != nil {
return "", err
}
gptResponseBody := &ChatGPTResponseBody{}
log.Println(string(body))
err = json.Unmarshal(body, gptResponseBody)
if err != nil {
return "", err
}
var reply string
if len(gptResponseBody.Choices) > 0 {
reply = gptResponseBody.Choices[0].Text
}
log.Printf("response text: %s \n", reply)
return reply, nil
}
我們依然可以通過上述封裝的Golang接口去請求OpenAI的Model模型,獲得我們得到的結果。這里的Demo運行就不再展示。
然后,基于Golang的API能力再加上微信小程序的代理程序模塊(由于涉及到微信代理作弊程序,這里代碼省略),可以代理本地微信程序的消息轉發,最終可以實現的效果如下:
目前也有第三方實現的Golang的GPT接口封裝,項目名稱為go-gpt3。
開源代碼在?github.com/sashabaranov?,實現基本代碼如下:
package main
import (
"context"
"fmt"
gogpt "github.com/sashabaranov/go-gpt3"
)
func main() {
c := gogpt.NewClient("XXXXXXX your API KEY XXXXXXXX")
ctx := context.Background()
req := gogpt.CompletionRequest{
Model: gogpt.GPT3Ada,
MaxTokens: 5,
Prompt: "隨便說說",
}
resp, err := c.CreateCompletion(ctx, req)
if err != nil {
return
}
fmt.Println(resp.Choices[0].Text)
}
是的,這很令人驚奇,你現在已經具備使用人工能力開發業務了,且接口竟然如此的簡單。至于model的選擇和參數和接口的選擇,詳細看OpenAI文檔就可以了,本文是快速入門,這里就不再贅述了。
整體思路為,應用OpenAI提供的Files大文件訓練和Fine-tune自定義業務Model能力。嘗試基于已有的成熟Model再疊加業務內容,進行簡單的知識補充即可。
方案和上述方案類似,只不過需要將詳細的操作手冊換成常見的QA匯總文本。
注:解決方案為基于OpenAI模型的初探方案,商業模式和產品可行請問你們的產品經理。
先說下我這里的想到的幾個問題,進行拋轉:
1、chatGPT如果在短時間內在中國出現一個普及類的大眾產品問世,所以現在普通業務企業接入可能將毫無意義,因為大家都會在那個普及的產品上去提問知識,就好比當搜索引擎剛出來的時候,我們在自己的產品植入搜索引擎能力,短期有點效果,長期是無意義的。最后大家都會到一個地方去搜索。
2、對于OpenAI能力的性能問題以及回答問題的準確性,目前還沒有商業應用落地的真實數據,第一口吃螃蟹還需要謹慎一些。
3、chatGPT就國內來說,在幾個月之前就已經有一小波熱提峰值,但是很快就下去了,但近期突然引起大家熱議,或有資本運作及推動,學習知識沒錯,在沒有掌握充足的相關知識和應用領域客觀調研下,要小心自己不要成為”韭菜”哦~^_^~。
4、科學很重要,科學的普及更重要,而普及才是最難的,引用AI來創造價值才是最難的。目前chatGPT只是展示了潛力,但潛力不能當飯吃,只有實力才能當飯吃。目前chatGPT還是“流行話題”占比高一些,聊這個話題會顯得高級,所以才喜歡聊,但又有多少人真的懂,多少人真的了解且認真思考過,甚至又有多少人去試用一下。
本文章轉載微信公眾號@劉丹冰Aceld