BricksAI
Summer 2022停止企業向けLLMアプリケーション管理を効率化
- サマリー
- 企業向けに、複数LLMの利用管理を効率化するオープンソースAI gatewayを提供する
- 課題
- 各サービスが異なるLLM providerを利用する際、アクセス権限やコスト、利用状況を一元管理しにくい
- 解決策
- API keyのレート・支出・期限制限とSSO、RBAC、コストやtoken数の詳細な利用 metricsを提供する
AI による要約
- 所在地
- San Francisco, CA, USA
- チーム規模
- 2 人
事業内容
BricksAIは、各サービスから異なるLLMプロバイダーへの呼び出しを管理できる、オープンソースのAI gateway。レート制限、利用額の上限、有効期限を設定したAPI keyを作成し、それらを使って複数のLLMにリクエストを送信できる。SSO dashboardでは、(1) role-based access control、(2) API keyごとのコスト、リクエスト数、トークン数などの詳細なメトリクスも確認できる。