近年、AI技術は様々な分野で活用が期待されており、アメリカ政府機関でも活用事例が増えています。例えば、麻薬犯罪捜査の支援や職員向けチャットボットの開発、移民局での職員訓練の強化、災害対応支援など幅広い分野でAIが導入されています。
しかし、AI活用には倫理的な問題や安全性への懸念も付きまといます。例えば、AIによる偏見や差別、プライバシー侵害、誤った判断による社会への影響などが指摘されています。
AI調達の安全基準を確立
今回のPREPARED For AI Actは、そうした懸念に対処し、連邦政府機関による責任あるAI導入を促すことを目的としています。この法案は、AI調達におけるリスク評価や監督体制の構築、AI利用の透明性の確保などを義務付ける内容となっています。
法案の具体的な内容
- AI導入前のリスク評価の義務付け：調達するAIシステムについて、公共の権利や安全への影響を優先しつつ、リスクレベルを評価することを義務付けます。
- 調達契約への安全・セキュリティ条項の明記：AIシステムの調達契約には、データ所有権、市民の権利と自由、プライバシー保護に関する安全・セキュリティ条項を盛り込むことを求めています。
- AI導入後の監視体制の構築：調達後も継続的にリスクを監視し、最高AI責任者がテストと評価を監督する体制を構築することを求めています。
- AI利用の透明性の確保：政府機関は、導入しているAI技術について、国民に対して情報公開することが義務付けられます。
期待される効果：AI活用の適切な推進
この法案は、政府機関によるAI活用の透明性、説明責任、倫理的配慮を向上させることで、市民の権利や安全を守りながら、AI技術の政府機関での適切な活用を促すことが期待されます。
具体的には、以下の効果が期待できます。
- AIによる偏見や差別、プライバシー侵害などのリスクを低減
- AIシステムの誤った判断による社会への影響を回避
- AI技術の適切な運用と管理
- 国民への情報公開による信頼の向上
まとめ
PREPARED For AI Actは、今後、上院で審議される予定です。法案が可決・成立した場合、政府機関によるAI調達や利用に大きな影響を与えることが予想されます。
また、この法案は、AI活用の倫理的なガイドライン策定や、AI開発・利用に関する規制強化など、アメリカにおけるAI政策の今後の方向性にも影響を与える可能性があります。
AI技術は、社会に大きな変革をもたらす可能性を秘めていますが、その活用には慎重な検討が必要です。PREPARED For AI Actが、AI技術の健全な発展と適切な利用に貢献することを期待します。
引用元：https://aibusiness.com/responsible-ai/new-bill-aims-to-safeguard-federal-agency-ai-procurement
コメント