增強的安全性

API 網關在 ChatGPT 中的主要作用之一是處理身份驗證和授權。這包括驗證插件用戶的身份,并確定他們是否具備訪問 API 的權限。OpenAI 可以使用各種身份驗證機制,如 OAuthAPI 密鑰或自定義身份驗證協議,并將用戶憑證傳遞給 API 網關。API 網關隨后進行身份驗證,以檢查用戶是否經過驗證,從而免去為每個 API 編寫驗證代碼的必要。

本質上,API 網關作為一種安全措施,用于防止潛在的黑客攻擊。它可以限制特定類型的請求,例如阻止對特定路由的未經授權的 POST 請求,除非請求包含適當的權限或特定標頭。例如,一家公司可能有一個電子商務 API,允許通過 ChatGPT 插件下訂單。API 網關配置為僅允許包含有效 API 密鑰的 POST 請求,這樣只有經過授權的請求才能創建新訂單,未經授權的請求將被阻止,從而防止惡意下達虛假訂單或操控系統。

高效限速

API 網關還負責處理速率限制,確保 ChatGPT 插件不會因大量請求而影響 API 的性能或導致其崩潰。它可以限制客戶端在特定時間內發出的請求數量,并阻止超過限制的請求。

高性能

性能是 API 網關提升 ChatGPT 插件效率的另一個方面。API 網關可以實施緩存,以存儲經常請求的響應并快速返回,而無需查詢實際 API。此外,API 網關還可以處理請求/響應轉換,將傳入請求轉換為 API 可以理解的格式(例如將 REST 請求轉換為 GraphQL),并將響應轉換為插件可以使用的格式。

持續監控

盡管 OpenAI 表示 ChatGPT 不會利用通過 API 提交的數據來訓練或改進模型,但啟用可觀測性功能仍然至關重要。API 網關可以提供有關 ChatGPT 插件使用情況的數據,監控插件發出的請求,以識別和解決潛在問題。

如何將 Apache APISIX 與 ChatGPT 插件一起使用

了解了 API 網關在構建 ChatGPT 插件中的重要作用后,接下來介紹如何使用 Apache APISIX API 網關的簡單步驟。市場上還有許多其他 API 網關,這篇文章也有助于確定哪一個最適合需求。

在撰寫本文時,ChatGPT 已限制訪問,僅向 OpenAI 的 alpha 用戶開放。需要注冊 ChatGPT 插件候補名單,目前優先考慮開發人員和 ChatGPT Plus 用戶。

  1. 在開發環境中安裝并運行 Apache APISIX,無論是本地還是遠程服務器(云端)。本地運行時,可以通過 http://localhost:9080 訪問 APISIX。
  2. 為每個 API 端點配置路由和上游,可以通過請求 Admin API(在 http://localhost:9180 上運行)或用戶友好的 UI 控制面板來完成。也可以導入現有的 OpenAPI 規范以自動注冊路由和上游。
  3. 使用 APISIX 的插件啟用 API 網關功能,如身份驗證、速率限制和可觀測性。
  4. 導出更新后的 OpenAPI 規范用于 ChatGPT,并進行必要的修改。將此文件通過另一條路由放置在 APISIX 服務器中的某個位置,以便 ChatGPT 可以找到。例如,將規范編譯成一個提示,向 ChatGPT 解釋如何使用該 API 來增強其答案。提供詳細提示,包括每個可用終端節點的描述。例如,YAML/JSON 文件可以存放在 http://localhost:9080/openapi.yaml。
  5. 其他步驟,如定義清單文件、運行插件和編寫描述,與官方 OpenAI 文檔中的步驟幾乎一致。在通過 ChatGPT UI 連接并運行插件時,確保域名地址指向 APISIX API Gateway。
  6. 最后,用戶通過 ChatGPT UI 啟用插件來提出新問題。如果 ChatGPT 決定需要從 API 中獲取信息,它將向 API 網關發出請求,并在嘗試響應之前將其添加到上下文中。

ChatGPT 插件的 API 安全性總結

以下是保護 ChatGPT 插件 API 的 API Gateway 產品摘要:

結論

將插件集成引入 ChatGPT 是 OpenAI 的一次重要升級,這標志著 GPT 模型在面向用戶的 AI 領域的顯著變化。API Gateway 提供了一個高性能的接口,用于安全地公開 API,同時涵蓋了安全性、速率限制策略、身份驗證方法和監控等功能。沒有 API 網關,ChatGPT 的集成將面臨更多挑戰,客戶將需要自行管理身份驗證、速率限制和其他相關功能。

原文鏈接:API Gateway For ChatGPT Plugins

上一篇:

如何免費調用GPT API進行自然語言處理

下一篇:

使用 Lunar.dev 管理 AI Agent的 API 消耗
#你可能也喜歡這些API文章!

我們有何不同?

API服務商零注冊

多API并行試用

數據驅動選型,提升決策效率

查看全部API→
??

熱門場景實測,選對API

#AI文本生成大模型API

對比大模型API的內容創意新穎性、情感共鳴力、商業轉化潛力

25個渠道
一鍵對比試用API 限時免費

#AI深度推理大模型API

對比大模型API的邏輯推理準確性、分析深度、可視化建議合理性

10個渠道
一鍵對比試用API 限時免費