利用AI API增強您的應用程序

作者：szSun · 2024-09-01 · 閱讀時間：11分鐘

在最近的一篇博客文章中，我們討論了如何利用大型語言模型（LLM）來增強您的API項目。今天，我們將深入探討如何在應用程序中使用AI，特別是如何利用LLM來構建應用程序。我們還將討論在決定是構建自己的AI API還是使用第三方AI供應商API時需要考慮的關鍵因素。

您可以用AI API構建什么？

AI為應用程序開發帶來了無限的可能性。讓我們先來看一些公司如何利用LLM創建實際應用程序的例子。以下例子使用了OpenAI開發的LLM，這些模型通過OpenAI API提供。

  • 對話式客戶服務— Instacart利用OpenAI的平臺開發了一項名為“Ask Instacart”的新功能，計劃在今年晚些時候發布。客戶在創建購物清單時可以向聊天機器人提問。同樣，Shopify也推出了一款基于ChatGPT的助手，用戶可以就廣泛話題與其聊天。
  • 自動生成編程代碼— 在最近的漢諾威工業博覽會上，西門子宣布與微軟達成合作，涉及利用ChatGPT和Azure AI服務增強自動化工程。公司展示了工程師如何使用自然語言輸入生成PLC代碼。這種代碼自動化有助于節省時間并減少錯誤。
  • 醫療文書處理應用— Doximity創建了一款基于ChatGPT的應用程序，讓醫療提供者可以根據庫中的提示或創建新提示來生成文檔。例如，醫生可以使用該工具快速創建一封關于特定病情的必要性信函，然后使用同一工具將其數字傳真至相關保險公司。該應用通過簡化行政任務幫助醫療專業人員節省寶貴時間。
  • 自動生成個性化電子郵件— Salesforce宣布推出Einstein GPT，集成了ChatGPT，能夠自動生成用于營銷和銷售的個性化電子郵件。同時，微軟宣布推出Microsoft 365 Co-Pilot，該工具由包括GPT-4在內的多個LLM提供支持，可以生成電子郵件回復草稿并總結電子郵件線程。
  • AI驅動的虛擬導師— Khan Academy開發了Khanmigo，這是Khan Academy的AI驅動指導助手。該助手可以為學生提供一對一的輔導，并為教師提供幫助。虛擬助手由GPT-4提供支持，目前處于試點階段，已有等待名單。
  • 增強語言課程— Duolingo在其Duolingo Max產品中集成了GPT-4，引入了一個專門的對話功能和一個名為“解釋我的答案”的新功能。該功能在用戶出錯時為其提供規則解釋。
  • AI視頻腳本寫作— Waymark將GPT-3集成到其產品中，為用戶提供了一種輕松創建個性化視頻腳本的方法。AI會在幾秒鐘內生成定制的相關視頻廣告腳本，用戶可以編輯生成的腳本，而無需從頭開始創建。

雖然這些例子都使用了OpenAI的LLM，但您并不需要使用LLM來將AI功能集成到您的應用程序中。您可以找到提供小型AI模型的平臺和產品，每個模型都針對特定領域或任務而設計。此外，您還可以選擇構建自己的LLM或多個小型AI模型。

通過將AI應用于特定任務和用例，您可以創建解決現實問題的應用程序。您可以創建創新且有價值的應用程序，用戶會樂于使用！

將AI功能添加到您的應用程序中

如果您想在應用程序、平臺或系統中添加AI功能，通常需要使用API。添加AI功能到應用程序中通常涉及兩個部分：

  • AI— 一個執行特定任務或功能的AI模型或一組AI模型。
  • API— 將AI功能集成到您的應用程序中的接口。

您可以選擇在內部構建AI API，或購買現有的供應商API。或者，您可以采取混合方法，部分AI功能由內部創建，部分從第三方購買。

構建自己的AI解決方案

無論您決定是構建還是購買AI解決方案，都有許多因素需要考慮——這些因素太多，無法在這篇博客文章中全部涵蓋。不過，如果您考慮開發自己的AI解決方案，請記住以下幾點：

  • 開發AI的初始和持續成本— 在內部構建AI解決方案需要大量的時間和資金投入。除了適當的基礎設施和計算能力，您還需要AI專業知識、領域知識和訓練數據。您還需要訓練和重新訓練模型，等等。像GPT-3這樣的LLM訓練成本可能超過400萬美元。
  • 構建AI所需的人才— 構建AI解決方案需要AI人才。近年來，AI人才一直非常短缺。隨著LLM的流行，想要構建它們的公司需要找到具備深度學習和自然語言處理（NLP）等專業技能的人才。您還需要記得“提示工程師”這個角色，負責為LLM模型創建有效的提示！
  • 模型訓練數據— AI模型需要大量高質量的訓練數據。大多數LLM至少需要數GB的訓練數據。您將從哪里獲得模型的訓練數據？如果您從Common Crawl等開放存儲庫獲取數據，這些數據集往往嘈雜且包含不需要的內容，您還需要有人能夠清理和準備這些數據以進行模型訓練。
  • 確保AI模型的質量— 確保質量控制在開發AI模型時至關重要，特別是LLM，因為它們有時會產生不可預測的結果！您需要確保能夠充分驗證所有的AI模型，以確保它們可靠地執行任務。

以上只是冰山一角！在創建自己的AI模型時需要考慮的因素非常多。如果您決定為應用程序構建AI，還需要創建一個API來集成它。

構建自己的AI API

一旦您確定了如何構建AI解決方案，就需要解決如何為其構建API的問題。在構建自己的API時，需要考慮以下幾個因素：

  • API設計方法— 我們建議采用API設計優先的方法，因為它可以幫助您以成本效益高且節省時間的方式生產一致且可靠的API。考慮使用OpenAPI等API規范，在編寫代碼之前確定API的細節。
  • 開發者體驗— 無論API是僅供內部使用還是面向外部消費者，開發者體驗始終重要。您需要確保開發者擁有成功實現“Hello World”所需的工具。這些工具可能包括開發者指南。
  • __API實現這一目標。您可能需要考慮實施API治理計劃。治理有助于確保組織中所有API的一致性。
  • 協作工具— 您需要與所有API利益相關者進行有效協作，及時獲得關鍵設計決策的反饋。Stoplight的Discussions等工具可以幫助您改善利益相關者之間的溝通，并支持異步協作。

如果構建自己的AI API讓您感到有些望而卻步，可以通過第三方AI解決方案為您的應用程序添加AI功能。然而，開發自己的AI API提供了一些關鍵優勢，包括：

  • 控制權— 當您構建自己的AI API時，您可以控制其設計和開發的各個方面。您可以控制用于訓練AI模型的數據。您不必遵守AI供應商的服務條款或限制。因為這是您的AI和API，所以您可以為它們設置規則和標準。
  • 可見性— 大多數AI供應商不會向您提供有關訓練其模型的數據細節或數據預處理的見解。當您自己構建模型時，您知道數據的來源以及如何處理這些數據。您可以確保模型獲得多樣化的訓練數據，有助于減少模型輸出中的偏差。

如果您想嘗試AI或希望更快地為您的應用程序添加AI功能，考慮購買一個帶有API的AI解決方案。

是否應該使用AI供應商？

使用第三方API為您的應用程序添加AI功能通常比構建自己的AI API更簡單、更快捷。您不必從頭開發AI解決方案或API，因為供應商已經為您完成了這些工作。您也不必擔心維護AI和API基礎設施。

盡管如此，使用AI供應商也有一些缺點，例如：

  • 您受限于他們的服務條款，而這些條款可能會隨時更改。您還可能遇到API速率限制問題。
  • 許多LLM是“黑箱”。您無法了解訓練數據的來源或模型的訓練過程，這意味著模型可能會在輸出中出現偏見或缺乏代表性。
  • 您經常會看到復雜的定價或基于不同使用方式的定價，這可能導致意外的高昂成本。例如，您可能會有LLM提示、完成或令牌的使用定價，以及API訪問的單獨訂閱費用。
  • 沒有哪個平臺能完全免于停機。您的AI供應商一旦出現停機，可能會暫時拖慢或中斷您的應用程序。
  • AI供應商最終可能會倒閉或被大企業收購。構建自己的AI解決方案和API可以在長期內確保更大的控制和穩定性。

雖然使用第三方AI API有一些缺點，但這選項可能非常適合您的情況。如果您想開發一款由LLM驅動的應用程序，您可以選擇越來越多的商業和開源選項。例如，您可以從OpenAI、AI21和Cohere等公司找到商業LLM API選項。以上三家公司均提供免費試用。

Hugging Face是一個AI社區和開源模型與數據集的存儲庫。您可以在Hugging Face上找到各種開源AI模型，包括LLM。BLOOM是一種開源自回歸LLM，可在Hugging Face上獲取。您可以將開源AI模型與Hugging Face托管推理API集成，該API有免費和付費訂閱層級。

文章來源：Superpower Your Applications with AI APIs