Energent AI
Summer 2023活動中AIを監査するAI——出荷前にハルシネーションを検出
- サマリー
- Engineering・Financeチーム向けに、AIのデータ作業と出力監査を行うAI teammateを提供する
- 課題
- AIが誤った数値を自信を持って出力し、EngineeringやFinanceで高い損失につながる
- 解決策
- Secure desktop上で作業し、独立エージェントが原資料と照合して根拠のない主張を検出する
AI による要約
- 所在地
- San Francisco, CA, USA
- チーム規模
- 10 人
事業内容
AIツールは、間違った数字を自信満々に提示することがある。エンジニアリングや金融の現場では、数字の間違いが大きなコストにつながる。 Energent.aiは、セキュアなデスクトップ環境でデータ業務を行うAIチームメイト。文書や設計図を読み取り、乱雑なデータを整理し、コードを記述し、チャートを作成する。さらに、別の独立したエージェントが元のソースファイルと照合して出力を監査し、根拠のない主張をすべて指摘する。社内評価では、モデル単体と比べて約3倍多くのハルシネーションを検出している。 エンジニアリングチームは、図面一式を発行前にチェックする。金融チームは、数字をソースまで突き合わせる。優れたチームは、自社のチェック基準を再利用可能なルールとして組み込み、自社のやり方で検証できるようにする。