2018 年，MuleSoft 創始人 Ross Mason 鼓勵公司將人工智能大腦“從罐子里拿出來”。Ross解釋說，孤立的數據存儲和企業應用程序之間缺乏連接，嚴重限制了人工智能影響其周圍數字生態系統的能力，使其只不過是一個相當昂貴的罐子里的大腦。
時光飛轉到 2024 年，人工智能的快速發展現已將其推向主流。憑借突破性的大語言模型（LLM），人工智能行業在大腦智能化方面取得了長足進步。但沒有改變的是讓人工智能與周圍世界互動的挑戰?，F在就好像我們只是擁有更昂貴的“罐子里的大腦”。
企業要想釋放生成式人工智能的威力，就必須在整合和保護人工智能大腦周圍的數據資產方面進行投資。然而，采用人工智能的最大障礙之一是將現有系統整合在一起，更不用說額外的安全和隱私問題了。
在人工智能計劃中，集成將在三個關鍵領域發揮重要作用：
集成不僅有助于匯集每種功能所需的數據，還能確保企業數據的保密性和完整性，同時維護客戶數據的隱私性和合規性。
LLM 通過多種訓練技術進行學習，包括預訓練、微調和人類反饋強化學習 (RLHF)。大多數 LLM 都會針對特定任務（如客戶服務或法律審查）進行預先訓練。
但是，要使 LLM 有效，就必須根據企業的業務數據進行微調。這就好比手機從出廠包裝中取出后，將您的喜好加載到手機中的過程。
企業在向當地法律管理者提供來自其企業系統的最新數據方面面臨挑戰。這方面最大的問題之一是，能否以符合企業所在轄區相關安全和隱私法律的方式向當地法律管理機構提供信息。
大多數國家都有獨特的隱私法，規定如何處理和存儲個人信息。例如，歐盟的《通用數據保護條例》（GDPR）賦予個人訪問、更正和刪除其個人數據的權利。如今，要從 LLM 中刪除或混淆信息非常困難。哪怕是一項從LLM中刪除信息的請求，都需要對LLM進行代價高昂的再培訓。在知識產權和LLM領域也存在類似的挑戰。
API 和可組合架構為企業數據提供了一個治理層。該治理層通過編輯數據集中的個人身份信息（PII）來發揮作用。
此外，當數據從系統中流出并進入目標 LLM 時，您還可以將規則應用到 API，以審計跨物理和地理邊界的數據流。這樣，企業就能以符合當地和聯邦法規的方式與模型進行交互。
一旦使用符合要求的數據對 LLM 進行了微調，我們現在就可以開始使用它來支持我們的客戶方案。這可以通過提示 LLM 來實現。當我們提示 LLM 時，我們并不改變模型，而只是對模型的請求進行結構化，使模型在響應時更加具體。
更好的提示數據意味著 LLM 更好的響應。這就是集成的作用所在。在創建提示時，您可能希望將 SAP 的產品所有權記錄等結構化信息與客戶的電子郵件等非結構化信息整合在一起。
客戶面臨的另一個挑戰是 LLM 的訪問控制和數據泄漏。為了讓 LLM 準確地響應提示，我們可能需要利用不同保密級別的信息對模型進行微調。
雖然可能有必要利用機密信息對模型進行微調，但限制模型在提示時放棄這些機密的能力卻很有限–LLM 并不提供細粒度的訪問控制。
理論上，只要提示正確，任何用戶都可以訪問任何數據。應用程序接口管理層可以圍繞 LLM 提供一個安全框架，以控制訪問并防止知識產權泄漏給未經授權的各方。
雖然當今的 LLM 在本質上是對話式的，但它們正迅速向自主代理發展。自主代理有望增強人工智能的一個關鍵業務優勢：自動化。
Einstein Copilot 是一種新的生成式人工智能對話助手，適用于所有 Salesforce 應用程序。服務代理或銷售代表可以使用 Einstein Copilot 顯示優化的工作計劃。展望未來，Einstein Copilot 將努力實現該日程表中許多任務的自動化。成為自主代理的關鍵在于訪問和使用工具的能力。集成再次發揮了作用。
我們今天使用的大多數基于網絡的工具–從制圖軟件到支付引擎–都可以通過應用程序接口（API）訪問。如果我們指導LLM如何通過應用程序接口使用工具，并將這種工具訪問與工作流程功能相結合，LLM就能夠自動執行日常任務。本地聯絡員不僅能看到我的日程表，還能解決出現的沖突，并根據我過去的行為做出最佳選擇的智能決策。
當 LLM 有疑問時，它可以作為解決沖突的提示浮出水面。這一點非常重要，因為 GDPR 還賦予了個人反對自動決策的權利。這些人工回復會立即成為未來背景數據集的一部分；這是人類和機器如何合作簡化業務并為公民和消費者改善結果的一個例子。
一個裝在罐子里的大腦，需要把它從罐子里拿出來。通過整合企業系統，根據不斷變化的業務數據對它進行微調?，F在，大腦已經了解了你的業務，你可以向它詢問見解。從您的企業數據中獲取豐富的背景信息，最后讓您的大腦通過訪問工具和工作流程將這些見解付諸行動，從而實現企業內部功能的自動化。
原文鏈接：How Does Integration Enable AI? 3 Things You Need to Know