重要な原則として、AI は、すべてのソフトウェア システムと同様に、設計時に安全で、デフォルトで安全である必要があります。これにより、システム所有者はセキュリティ リスクを上流で管理できます。これは、システム所有者が AI の安全性に対処するために採用する可能性のある他の制御および緩和戦略、およびここでは取り上げていない公平性や透明性などのその他の付随する考慮事項を補完します。"
「AI のメリットを享受するには、ユーザーは AI が設計どおりに動作し、結果が安全で確実であることを確信する必要があります。ただし、安全性のリスクに加えて、AI システムは、悪意のある行為者が AI システムを意図的に操作または欺く敵対的な攻撃に対して脆弱になる可能性があります。AI の採用により、既存のサイバーセキュリティ リスクがエンタープライズ システムに導入または悪化する可能性があります。これにより、データ漏洩やデータ侵害などのリスクが発生したり、有害な、または望ましくないモデル結果が生じたりする可能性があります。」
0 件のコメント:
コメントを投稿