nCompass Technologies
Winter 2024活動中GPUのパフォーマンスを最適化 — 10倍高速化
- サマリー
- GPUシステム開発者向けに、性能ボトルネック分析と最適化コード実装を自動化するAI agentを提供する
- 課題
- GPU性能のボトルネック特定と解決策の立案に、コード修正の4〜8倍の時間がかかる
- 解決策
- CPU-GPU間からGPU kernelsまで分析し、CursorやClaude Codeと連携して最適化の推論と実装を自動化する
AI による要約
- 所在地
- New York City, NY, USA; Remote
- チーム規模
- 3 人
事業内容
パフォーマンスのボトルネックを特定し、解決策を考える作業には、実際に修正コードを書く作業の4〜8倍の時間がかかる。私たちは、inference engineなどのGPUシステムを、CPUとGPUの相互作用からGPUカーネルまで、スタックのあらゆるレベルで分析する専門agentを開発している。 このagentをCursor / Claude Codeと組み合わせることで、パフォーマンス最適化における推論とコード実装の両方を自動化できる。これまで数週間かかっていた作業を、数日で完了できるようになる。 AI agentに加えて、system trace間のdiff実行機能や共有・コラボレーション機能も提供する。これにより、当社のVSCode extensionはパフォーマンス最適化に取り組むための最も強力な方法となる。