降低AI開發成本:最全免費大模型API匯總

作者:weixin02 · 2024-11-20 · 閱讀時間:5分鐘

隨著大模型LLM的爆火和編程門檻的降低,越來越多的獨立開發者開始探索如何將大模型LLM集成到自己的項目中。然而,高昂的API費用往往成為開發者前進路上的障礙。盡管token的價格一降再降,低成本/零成本開發仍舊是我們這樣剛上手獨立開發的開發者所需要的。

今天,我為大家整理了一些目前市場上免費大模型API,不僅能幫你輕松上手AI開發,還能有效降低成本。為了穩定開發并投入生產使用,只整理了合法API渠道,沒有逆向的API。下面列出的API提供商按照免費額度推薦程度排序:

Groq

Groq是一家專注于構建語言處理單元(LPU)的AI加速器專用集成電路(ASIC)及相關硬件的人工智能公司,旨在加速AI工作負載的推理性能。它家提供的免費額度最高,且推理速度快,推薦使用。

  • 免費模型llama, llama3, gemma, llava, mixtral,還有其他語音轉文字模型
  • 免費額度:14400次api調用/天,語音轉文字2000次/天
  • 請求速率限制:2w token/min
  • 網址https://console.groq.com/playground

SambaNova

SambaNova 是一家致力于為企業快速部署AI能力的公司,其專為企業打造的AI平臺成為下一代AI計算的技術核心。免費使用額度不詳,推理速度聲稱超過Groq

HuggingFace

HuggingFace不用多說,有著豐富的開源模型可選,而且可以選擇自己搭建,自己host,免費額度很大

Google AI Studio

Google官方提供的API,提供的模型是google自己的Gemini系列

  • 免費模型:Gemini系列模型
  • 免費額度:1500次API調用/天
  • 請求速率限制:不同模型限制不一樣
  • 網址https://aistudio.google.com

OpenRouter

OpenRouter是一家大模型聚合api提供商,提供了豐富的模型選擇,其中免費的模型和額度如下

  • 免費模型:Gemma, Llama3.1, Mistral, Mythomist, OpenChat, Qwen2等等
  • 免費額度:200次API調用/天
  • 網址https://openrouter.ai

CloudFlare Workers AI

CloudFlare業界絕對良心,量大管飽,免費額度看起來非常的多,如果有用過的開發者可以分享一下好不好用。

Mistral

Mistral來自法國的開源模型,曾經有一段時間爆火

Cerebras

Cerebras需要申請加入waitlist,目前只支持8k context

文章轉自微信公眾號@獨立開發