Pipeshift
Summer 2024活動中リアルタイムワークロード向けの超低レイテンシー推論クラウド
- サマリー
- エンジニアリングチーム向けに、リアルタイム推論を本番環境で実行する基盤を提供する
- 課題
- 本番のリアルタイム推論で、求められるレイテンシー・スループットをコスト効率よく維持するのが難しい
- 解決策
- 最適化ランタイムと基盤オーケストレーションで、複数クラウド・リージョン間の推論を自動拡張・振り分けする
AI による要約
- 所在地
- San Francisco, CA, USA
- チーム規模
- 10 人
事業内容
Pipeshiftは、エンジニアリングチームによる本番環境でのリアルタイム推論の実行を支援する。レイテンシーとスループットのSLAを満たす最適化ランタイムに加え、クラスターやリージョンをまたいでワークロードを自動的にスケール・ルーティングするインフラオーケストレーションを、コスト効率の高い料金で提供する。