一旦我們的圖表標(biāo)準(zhǔn)完成,我們就可以看到以折線圖形式呈現(xiàn)的結(jié)果圖表。這將使我們能夠直觀地了解用戶 AI API 使用趨勢。

線圖

或者,如果您正在尋找一種更簡單的方法來查看確切的數(shù)字,您可能希望以表格形式查看結(jié)果,您可以通過選擇圖表窗格左上角的表格視圖選擇器來實現(xiàn)。以下是上述數(shù)據(jù)以表格形式顯示的示例。

表格視圖

跟蹤唯一用戶或公司的使用情況

就像按 API 調(diào)用量查看使用數(shù)據(jù)一樣,我們將再次使用 Moesif 中的時間序列圖表,通過單擊屏幕左上角的 + 新建按鈕來分析按唯一用戶或公司劃分的使用情況。

同樣,我們將為想要探索的特定 AI API 路由添加一個過濾器,并可能向過濾器添加其他條件,例如 HTTP 動詞/方法、響應(yīng)狀態(tài)代碼等。設(shè)置過濾器后,我們將指標(biāo)下拉菜單設(shè)置為唯一值 > 唯一用戶或唯一值 > 唯一公司,具體取決于我們想要查看哪個指標(biāo)。這意味著圖表上顯示的指標(biāo)將是在設(shè)定的時間段內(nèi)訪問我們 API 的唯一用戶或公司總數(shù)。以下是可能的示例:

獨立用戶

一旦我們的圖表標(biāo)準(zhǔn)完成,我們就可以在折線圖中看到結(jié)果,其中顯示了訪問 API 的唯一用戶或公司的數(shù)量。這將使我們能夠直觀地了解 AI API 使用趨勢。下圖顯示了過去七天每天的唯一用戶數(shù)量。

線圖

通過選擇表格視圖,我們可以將相同的數(shù)據(jù)以表格的形式查看,如果您想更輕松地查看精確的數(shù)字,這樣可以更容易地查看。

表格視圖

通過輸入/輸出令牌跟蹤使用情況

就像查看我們的其他示例一樣,為了分析輸入和輸出令牌的使用情況,我們將再次使用 Moesif 中的時間序列圖表,方法是單擊屏幕左上角的 + 新建按鈕。

這次,我們將為想要探索的特定 AI API 路由添加一個過濾器,并可能向過濾器添加其他標(biāo)準(zhǔn),例如 HTTP 動詞/方法、響應(yīng)狀態(tài)代碼等。與以前的圖表不同,此圖表將包含三個指標(biāo):一個用于輸入令牌,一個用于輸出令牌,一個用于總令牌。我們將單擊“指標(biāo)”下拉菜單并選擇“選擇字段…”選項來添加我們的指標(biāo)。從這里,我們將:

  1. 選擇代表所消耗的輸入令牌的 API 響應(yīng)元素。這將是以下案例中的 response.body.generated_text.usage.prompt_tokens 字段。
  2. 將字段的聚合設(shè)置為“sum”。這將聚合使用情況并總結(jié)所有 API 調(diào)用的總使用情況。
  3. 單擊添加指標(biāo)按鈕。
  4. 與輸入令牌一樣,選擇 API 響應(yīng)中表示所用輸出令牌的字段,并將聚合設(shè)置為“總和”。
  5. 再次單擊添加指標(biāo)按鈕,然后從選項中選擇輸入公式…。
  6. 在公式字段中,添加“a + b”。這將采用指標(biāo)“a”(我們的輸入標(biāo)記),將其添加到指標(biāo)“b”(我們的輸出標(biāo)記)并將它們相加。
  7. 或者,您可以通過單擊省略號并選中自定義名稱來為每個指標(biāo)添加自定義名稱。

以下是一個示例,其中包括每個字段的自定義名稱:

自定義名稱

一旦我們的圖表標(biāo)準(zhǔn)完成,我們就可以在折線圖中看到結(jié)果,其中顯示了 API 用戶消耗的輸入令牌、輸出令牌和總令牌數(shù)。這將使我們能夠直觀地了解我們的 AI API 令牌使用趨勢。下圖顯示了過去七天使用的令牌數(shù)量。

輸出標(biāo)記

與其他示例一樣,這些指標(biāo)也可以以圖表形式查看,以便于閱讀準(zhǔn)確的數(shù)字。

圖表視圖

至此,我們展示了在 Moesif 中跟蹤 AI API 使用情況的三種常見方法。當(dāng)然,您可以進(jìn)一步探索數(shù)據(jù),并使用 Moesif 通過我們今天展示的精確指標(biāo)將您的 API 貨幣化

結(jié)論

在當(dāng)今世界,了解 API 的使用方式至關(guān)重要。通過跟蹤 AI API 的使用情況,您可以獲得有關(guān)成本管理、性能監(jiān)控、用戶行為等方面的寶貴見解。這些見解可讓您做出數(shù)據(jù)驅(qū)動的決策、優(yōu)化資源并為 AI 計劃取得成功做好準(zhǔn)備。

原文鏈接:https://www.moesif.com/blog/technical/api-development/How-to-Track-the-Usage-of-AI-APIs-The-Ultimate-Guide/

上一篇:

智譜大模型有了首個免費API

下一篇:

基于自定義數(shù)據(jù)集微調(diào)LLama 2模型
#你可能也喜歡這些API文章!

我們有何不同?

API服務(wù)商零注冊

多API并行試用

數(shù)據(jù)驅(qū)動選型,提升決策效率

查看全部API→
??

熱門場景實測,選對API

#AI文本生成大模型API

對比大模型API的內(nèi)容創(chuàng)意新穎性、情感共鳴力、商業(yè)轉(zhuǎn)化潛力

25個渠道
一鍵對比試用API 限時免費

#AI深度推理大模型API

對比大模型API的邏輯推理準(zhǔn)確性、分析深度、可視化建議合理性

10個渠道
一鍵對比試用API 限時免費