アルゴリズム・アセスメントは、AIシステムの潜在的なリスクや意図しない結果をビジネス全体で特定し、対処するための技術的な評価であり、AIの意思決定をめぐる信頼感を醸成し、サポート体制を構築するためのものです。
ユースケースにはまず優先順位がつけられ、最も高いリスクと影響のあるケースを評価し、改善することができます。
優先順位が定義されると、AI開発の進度に応じて、質的・量的の両面からアルゴリズム・アセスメントでの評価がおこなわれます。評価は4つの主要なステップで構成されています。
- エンドユーザーを考慮して、システムの公正な目的に沿った目標を設定する。
- 潜在的な結果の格差や様々なユーザーやグループにおける偏りの原因を測定し、発見する。
- 提案された修正戦略を用いて、意図しない結果を軽減する。
- AIシステムの進化に合わせて、将来的な格差や不平等にフラグを立て、解決するプロセスを備えたシステムを監視・管理する。