LiteLLM
Winter 2023活動中あらゆるLLM APIをOpenAIのように呼び出す【100以上のLLMに対応】
- サマリー
- 企業向けに、100以上のLLM APIをOpenAI形式で利用できるLLM Gatewayを提供する
- 課題
- LLMごとに異なるAPI仕様へ個別に対応する必要がある
- 解決策
- open-sourceのPython SDKとFastAPI Serverで、各種LLM APIをOpenAI形式に統一して呼び出せるようにする
AI による要約
- 所在地
- San Francisco, CA, USA
- チーム規模
- 10 人
事業内容
LiteLLMは、GitHubで5万以上のスターを獲得し、Rocket Money、Samsara、Lemonade、Adobeなどの企業に利用されているオープンソースのLLM Gateway。オープンソースのPython SDKとPython FastAPI Serverを提供し、Bedrock、Azure、OpenAI、VertexAI、Cohere、Anthropicなど100以上のLLM APIをOpenAI形式で呼び出せるようにする。 Y Combinator、Gravity Fund、Pioneer Fundから160万ドルのシードラウンドを調達。