Fabraix

事業内容

Fabraixは、顧客向けAIのセキュリティ脆弱性を継続的に検出する、最先端のAIレッドチームエージェントを開発している。製品のNyxは、すでに数十社のFortune 500企業のエージェントから脆弱性を発見している。攻撃型AIセキュリティの主要ベンチマークであるAgentHarmでは、Nyxが78%の攻撃成功率を達成し、GPT-5.6 Solの67%を上回った。 AIエージェントは、チームがテストできる頻度を超えて変更されることがある。新しいモデル、プロンプト、ツール、権限、データソースによって、アプリケーションコードが変わらなくてもエージェントの動作は変化する。さらにAIによって、企業が開発するソフトウェアの量も、変更の頻度も増えている。Fabraixは、AIエージェントのレッドチームテストに必要な作業を自動化するためにNyxを開発した。Nyxは設計段階からマルチモーダルに対応し、Fabraixが管理するSaaS製品やWebサイトの制御されたレプリカを介して対象と間接的にやり取りする。Webページ、ドキュメント、ファイル、メッセージ、ツールの出力に悪意のあるペイロードを仕込み、さまざまな条件下でエージェントがどのように動作するかを検証する。 Nyxは、最初の脆弱性を数日や数週間ではなく、数分から数時間で発見することが多い。テスト工程を完全に自動化しているため、企業は変更のたびにテストを繰り返せる。7桁ドル規模の一時的なレッドチーム契約と比べ、はるかに低いコストで実施できる。 Fabraixは、ACE（Adversarial Cost to Exploit）の開発チームでもある。ACEは、攻撃者がAIシステムを破るために必要なコストによってAIセキュリティを測定するベンチマークであり、合理的な攻撃者がシステムの悪用にどれほど意欲を持つかを理解するためのゲーム理論的なフレームワークを提供する。