?? 為什么必須是 OpenAI OSS？

2025 年，大模型江湖出現“開源三幻神”：

OpenAI OSS 以 Apache 2.0 協議完全開源，MoE 架構 + RoPE + 128 K 上下文，官方直接放出 OpenAI-Compatible REST Endpoint，讓 Go 開發者“開箱即用”。

?? 全流程鳥瞰圖

1?? 選平臺拿密鑰（30 秒）

下文以 Novita AI 為例，步驟對 OpenRouter/Ollama 同樣適用。

1.1 30 秒注冊流程

1. 打開 Novita AI 控制臺 → Sign in with Google/GitHub
2. Billing → Add Payment → 支持支付寶/微信/信用卡
3. API Keys → Create → 復制 sk-nov-***

2?? go get sdk（60 秒）

go get github.com/sashabaranov/go-openai

官方兼容格式，一行搞定。

3?? 20B 本地跑通（60 秒）

3.1 Ollama 一鍵拉起

# 安裝
curl -fsSL https://ollama.ai/install.sh | sh
# 拉取 20B
ollama pull gpt-oss:20b
# 啟動
ollama serve

3.2 Go 調用示例

package main

import (
    "context"
    "fmt"
    "log"
    "os"

    openai "github.com/sashabaranov/go-openai"
)

func main() {
    client := openai.NewClientWithConfig(openai.ClientConfig{
        BaseURL: "http://localhost:11434/v1",
        APIKey:  "ollama",
    })

    req := openai.ChatCompletionRequest{
        Model: "gpt-oss:20b",
        Messages: []openai.ChatCompletionMessage{
            {Role: openai.ChatMessageRoleUser, Content: "寫一段 Go 協程池示例"},
        },
        MaxTokens: 512,
        Temperature: 0.1,
    }

    resp, err := client.CreateChatCompletion(context.Background(), req)
    if err != nil {
        log.Fatal(err)
    }
    fmt.Println(resp.Choices[0].Message.Content)
}

運行：

go run 20b_local.go

終端輸出：

package main

import (
    "context"
    "fmt"
    "sync"
    "time"
)

func main() {
    pool := make(chan func(), 10)
    var wg sync.WaitGroup

    for i := 0; i < 5; i++ {
        wg.Add(1)
        task := func(id int) func() {
            return func() {
                defer wg.Done()
                fmt.Printf("Worker %d done\n", id)
            }
        }(i)
        pool <- task
    }

    go func() {
        for t := range pool {
            t()
        }
    }()

    wg.Wait()
    close(pool)
    time.Sleep(time.Second)
}

4?? 120B 云端壓測（60 秒）

4.1 Novita AI 云端配置

client := openai.NewClientWithConfig(openai.ClientConfig{
    BaseURL: "https://api.novita.ai/v3/openai",
    APIKey:  os.Getenv("GENIE3_API_KEY"),
})

req := openai.ChatCompletionRequest{
    Model: "openai/gpt-oss-120b",
    Messages: []openai.ChatCompletionMessage{
        {Role: openai.ChatMessageRoleSystem, Content: "你是架構師，請給出詳細設計"},
        {Role: openai.ChatMessageRoleUser, Content: "設計一個支持千萬并發的 IM 系統"},
    },
    MaxTokens: 2048,
    Temperature: 0.3,
}

4.2 壓力結果

5?? 流式打字機（60 秒）

stream, err := client.CreateChatCompletionStream(ctx, openai.ChatCompletionRequest{
    Model: "openai/gpt-oss-20b",
    Messages: []openai.ChatCompletionMessage{
        {Role: openai.ChatMessageRoleUser, Content: "講個笑話"},
    },
    MaxTokens: 128,
    Stream: true,
})
for {
    resp, err := stream.Recv()
    if err == io.EOF {
        break
    }
    fmt.Print(resp.Choices[0].Delta.Content)
}

前端 WebSocket 一行：

ws.onmessage = e => document.body.insertAdjacentText("beforeend", e.data);

6?? 函數調用（60 秒）

6.1 定義工具

type WeatherReq struct {
    City string json:"city"
}

var tool = openai.Tool{
    Type: openai.ToolTypeFunction,
    Function: &openai.FunctionDefinition{
        Name:        "get_weather",
        Description: "查詢城市天氣",
        Parameters: json.RawMessage(`{
            "type": "object",
            "properties": {
                "city": {"type": "string"}
            },
            "required": ["city"]
        }`),
    },
}

6.2 調用流程

req := openai.ChatCompletionRequest{
    Model: "openai/gpt-oss-20b",
    Messages: []openai.ChatCompletionMessage{
        {Role: "user", Content: "北京天氣如何？"},
    },
    Tools: []openai.Tool{tool},
}
resp, _ := client.CreateChatCompletion(ctx, req)
// 解析 resp.Choices[0].Message.ToolCalls

7?? 上線 K8s（60 秒）

7.1 Dockerfile

FROM golang:1.22 AS builder
WORKDIR /app
COPY . .
RUN go build -o app main.go

FROM gcr.io/distroless/base
COPY --from=builder /app/app /app
ENV GENIE3_API_KEY=${GENIE3_API_KEY}
EXPOSE 8080
ENTRYPOINT ["/app"]

7.2 Helm Chart

# values.yaml
image:
  repository: your-registry/genie-go
  tag: latest
env:
  GENIE3_API_KEY: sk-nov-xxx
resources:
  limits:
    memory: "512Mi"
    cpu: "500m"

8?? 常見錯誤速查

9?? 一鍵復制倉庫

git clone https://github.com/yourname/genie-oss-go-demo.git
cd genie-oss-go-demo
go run main.go

倉庫包含：

• 20B 本地 + 120B 云端雙模式
• 流式 + 函數調用示例
• Dockerfile & K8s Helm
• Prometheus 監控大盤

?? 寫在最后

從 20B 輕量快刀 到 120B 推理怪獸，再到 128 K 超長上下文，OpenAI OSS 把“大模型”這三個字的門檻踩成了地平線。
下一次，當產品經理問你“能不能讓 AI 自己寫 CI/CD 腳本”時，你可以微笑著說：

“給我 10 分鐘，Go 搞定。”

#你可能也喜歡這些API文章!

使用Scala Play框架構建REST API

構建API時值得使用的4個實用VS Code擴展

api 認證與授權的最佳實踐

Jenkins API使用教程

小米開放平臺集成全攻略：開發、測試與優化

什么是GraphRAG

10 個最佳 API 設計實踐

智能旅行API：你的完美旅行規劃助手

旅游供應商的Travel Booking APIs [Onix概覽]