Superagent
Winter 2024活動中AI-native開発者のためのセキュリティ
- サマリー
- AI-native開発者向けに、AIエージェントの安全性を検証・制御するSecurityを提供する
- 課題
- AIエージェントが生成・実行する変更や動作を信頼し、安全だとユーザーに示すことが難しい
- 解決策
- coding agentとGitHub上で変更検査、実行境界の制御、red teamingを行う
AI による要約
- 所在地
- San Francisco, CA, USA
- チーム規模
- 2 人
事業内容
Superagentは、AI-nativeな開発者がマージする変更を信頼し、エージェントの動作を制御し、ユーザーに安全性を示せるよう支援する。 コーディングエージェントとGitHub上で利用できる。 - 変更を信頼する：マージ前に、すべてのPull Requestをチェック - 実行環境で制御する：エージェントが見たり、発言したり、実行したりできる範囲を制限 - リリース前に破る：実際に運用する環境を対象にレッドチームテストを実施 オープンソース向けは無料。