自信に満ちた高度なRAGシステム
評価とGuardrailsは、モジュール式の評価フレームワークでRAGアプリケーションを評価、トラブルシューティング、強化します。SearchAIは、本番環境におけるLLMの安全で効率的かつ倫理的な使用を保証します。
ガードレール
主な特徴
- 中間ステップ、変換、計算を含む詳細なデバッグ情報の取得
- モデルがどのように入力を処理するか、考慮する文脈、および答えの生成に影響を与える要因を観察する。
- クエリーの改良、パラメーターの調整、データ処理の変更の実施
- 事実の照合、確認、修正
- 偏り、有害性、毒性のチェック
- 危険な回答や安全違反の可能性をフィルタリングする
- コンテキスト精度は、検索された情報内の関連する詳細と関連しない詳細の割合を計算する。
- コンテキスト・リコールは、知識ソース全体からLLMに送られた関連情報の割合を測定する。
- 事実の正確さと検索された文脈への忠実さを評価する。
