人工知能 (AI) 技術は、商業、健康から輸送、サイバーセキュリティ、環境、そして地球に至るまで、社会と人々の生活を変革する大きな可能性を秘めています。 AI テクノロジーは、包摂的な経済成長を促進し、世界の状況を改善する科学の進歩をサポートできます。しかし、AI テクノロジは、個人、グループ、組織、コミュニティ、社会、環境、および地球に悪影響を与える可能性があるリスクももたらします。他の種類のテクノロジーのリスクと同様に、AI のリスクはさまざまな形で現れる可能性があり、長期または短期、高確率または低確率、全身的または局地的、および高影響または低影響として特徴付けることができます。
AI RMF は、AI システムを、特定の一連の目的に対して、実環境または仮想環境に影響を与える予測、推奨事項、または決定などの出力を生成できる、設計されたシステムまたは機械ベースのシステムと呼んでいます。 AI システムは、さまざまなレベルの自律性で動作するように設計されています (適応: AI に関する OECD 勧告:2019; ISO/IEC 22989:2022)。組織が従来のソフトウェアまたは情報ベースのシステムのリスクを軽減するのに役立つ無数の標準とベスト プラクティスがありますが、AI システムによってもたらされるリスクは多くの点で独特です (付録 B を参照)。たとえば、AI システムは、時間の経過とともに変化する可能性のあるデータに基づいてトレーニングされる場合があり、場合によっては大幅に予期せず変化する可能性があり、システムの機能と信頼性に理解するのが難しい方法で影響を与えます。 AI システムとそれらが展開されるコンテキストは、多くの場合複雑であり、障害が発生したときにそれを検出して対応することは困難です。
0 件のコメント:
コメントを投稿