公共調達におけるAI倫理：主要国の政策動向と政策立案への示唆
公共調達におけるAI倫理の重要性
近年、人工知能（AI）技術の社会実装が急速に進展する中で、公共部門においても行政サービスの効率化や質の向上を目的としたAIシステムの導入が進められています。自動化された意思決定システム、予測分析、市民対応チャットボットなど、その用途は多岐にわたります。
しかしながら、公共部門におけるAIシステムの導入は、民間部門とは異なる特有の倫理的課題やリスクを伴います。例えば、公平性、透明性、説明責任、プライバシー保護、セキュリティといった基本的な倫理原則の確保は不可欠です。特に、税金の利用、市民の権利や義務に関わる意思決定への影響を考慮すると、これらの原則が侵害された場合の影響は甚大となる可能性があります。
公共調達のプロセスは、AIシステムが公共部門で利用される上での最初の、そして最も重要なゲートウェイの一つです。この段階で倫理的考慮事項やリスク管理の視点が適切に組み込まれなければ、その後に続く開発、導入、運用段階での問題発生を防ぐことは困難となります。そのため、公共調達の枠組みの中で、いかにAI倫理を実効的に担保するかが、各国の政策立案者にとって喫緊の課題となっています。
本記事では、主要国・地域における公共調達におけるAI倫理に関する政策動向を比較分析し、我が国の政策立案に資する示唆を得ることを目的とします。
主要国・地域における公共調達AI倫理の政策動向
主要国・地域では、公共部門におけるAIの利用、特に調達プロセスにおける倫理的配慮の重要性が認識され、様々な政策やガイドラインが策定・検討されています。ここでは、いくつかの事例を比較分析します。
欧州連合（EU）
EUでは、AIに関する包括的な法規制である「人工知能法案（AI Act）」の成立が進められています。AI Actは、AIシステムをリスクレベルに応じて分類し、高リスクと判断されるAIシステムに対しては厳格な規制を課すものです。公共部門で利用されるAIシステムの多くは、その性質上、市民の基本的権利や安全に影響を与える可能性が高いため、高リスクに分類される可能性が高いと見られています。
AI Actにおいては、高リスクAIシステムの提供者および利用者に様々な義務が課されます。公共調達の文脈では、調達者（公共機関）はシステムの「利用者」として、AI Actが定めるリスク管理システム、データガバナンス、技術文書の作成、人間の監督、正確性・堅牢性・サイバーセキュリティの確保といった要件がベンダーによって満たされているかを確認し、自らの運用においてもこれらの要件を遵守する責任を負うことになります。また、AI Actの成立前からも、欧州委員会や各加盟国レベルで、公共部門におけるAI利用に関する倫理ガイドラインや推奨事項が示されています。これらの多くは、公平性、透明性、説明責任といった基本的なAI倫理原則を公共部門のAI利用に適用することの重要性を強調しています。
米国
米国では、特定の包括的なAI法は存在しないものの、大統領令や各省庁のガイダンスを通じて、公共部門におけるAIの倫理的かつ責任ある利用を推進しています。2023年10月に発出された「安全、堅牢かつ信頼できる人工知能の開発と利用に関する大統領令」では、連邦政府機関がAIシステムを調達・利用する際の新たな基準を設けることが指示されました。
この大統領令に基づき、行政管理予算局（OMB）は、政府機関がAIの利用に伴うリスクを特定・評価し、緩和策を講じるための拘束力のあるガイダンスを策定中です。また、米国国立標準技術研究所（NIST）が発行した「AIリスク管理フレームワーク」は、組織がAIのライフサイクル全体を通じてリスクを管理するための自主的なフレームワークとして広く参照されており、公共部門によるAI調達においてもその考え方が適用されることが期待されます。米国の政策アプローチは、リスクベースのアプローチを基盤としつつ、各機関の柔軟性をある程度許容する特徴があると言えます。
英国
英国では、内閣府（Cabinet Office）などが公共部門向けのAI活用に関するガイダンスを発行しています。これらのガイダンスは、政府機関がAIシステムを検討・導入する際の倫理的、技術的、法的な考慮事項を示しています。特に、データ倫理イノベーションセンター（CDEI）は、公共部門におけるAIの利活用に関する調査や提言を行っており、リスク評価、倫理的影響評価、調達における透明性の確保などの重要性を指摘しています。
英国のアプローチは、具体的なツールキットやチェックリストを提供することで、現場の担当者が調達プロセスで倫理的課題に実際に対処できるよう支援することに重点を置いている側面があります。また、既存のデータ保護法（GDPRに基づく国内法）や公共サービス提供に関する既存の法的義務との整合性を重視しています。
カナダ
カナダ政府は、自動化された意思決定システム（Automated Decision-Making, ADM）の利用に関する「指令（Directive）」を発行しており、これは連邦政府機関によるADMシステムの開発・導入・利用に適用されます。この指令は、システムの潜在的な影響度に応じて厳格性を増すリスクベースのフレームワークを採用しています。
指令では、ADMシステムの調達に際して、影響度評価（Impact Assessment）の実施、アルゴリズムに関する情報の透明化、人間の監督の必要性、決定の説明可能性、データセットの質といった要件を課しています。特に、国民に対するサービスの提供や権利・義務に影響を与えるADMシステムについては、より高い透明性や説明責任が求められます。カナダの指令は、公共部門の特定のタイプのAI利用に焦点を当て、具体的な遵守事項を比較的明確に示している点が特徴です。
政策立案への示唆
主要国・地域の公共調達におけるAI倫理に関する政策動向の比較からは、我が国の政策立案に資するいくつかの示唆が得られます。
第一に、リスクベースのアプローチは多くの国で採用されており、システムの潜在的な影響度に応じて倫理的・ガバナンス上の要件の厳格性を調整することは合理的です。公共部門で利用されるAIシステムは、その性質上、市民生活への影響が大きいため、高リスクシナリオを想定した厳格な基準を設けることが重要となります。
第二に、調達プロセスの早期段階からの倫理的考慮事項の組み込みが不可欠です。要件定義の段階で倫理原則やリスク評価の視点を盛り込み、ベンダー選定基準にも倫理的側面を含める必要があります。単に技術仕様だけでなく、AIシステムのライフサイクル全体における倫理、安全性、セキュリティへの配慮をベンダーに求めることが有効です。契約においても、これらの遵守義務を明確に規定することが考えられます。
第三に、既存の法的枠組みとの整合性を確保することが重要です。公共調達法規、個人情報保護法、行政手続法など、関連する既存の法律や規制との間で、AI倫理に関する新しい政策が矛盾なく機能するように設計する必要があります。
第四に、具体的なガイダンスやツールキットの提供は、現場の調達担当者が実際に政策を実行する上で非常に有効です。抽象的な倫理原則だけでなく、リスク評価の方法、契約書に盛り込むべき条項の例、倫理的影響評価の手順などを具体的に示すことで、政策の実効性を高めることができます。
第五に、国際的な動向や標準化の取り組みを注視し、可能な範囲で国際的なベストプラクティスや共通の理解を取り入れていくことも、将来的な国際連携や相互運用性の観点から有益であると考えられます。
まとめ
公共部門におけるAIシステムの調達は、その影響力の大きさと公共部門の責任の重さから、民間部門とは異なる倫理的、ガバナンス上の課題を伴います。主要国・地域では、これらの課題に対し、リスクベースのアプローチ、調達プロセスへの倫理原則組み込み、既存法規との整合性確保、具体的なガイダンス提供といった多様な政策アプローチで対応しようとしています。
これらの国際的な動向を参考に、我が国においても公共調達におけるAI倫理に関する議論を深め、実効性のある政策やガイドラインを策定していくことが求められています。公共部門におけるAIの潜在能力を最大限に引き出しつつ、市民の信頼を確保し、倫理的価値を保護するためには、調達段階からの適切なガバナンスが鍵となります。この分野の政策は進化の途上にあり、継続的な評価と見直しが必要となるでしょう。