リスクマネジメント

 「リスクマネジメントは『明らかにする手（Revealing Hand）』として機能し、費用対効果の高い方法でリスクを特定、評価、軽減すべきです。適切に実施されれば、リスクマネジメントの『明らかにする手』は、企業がよりリスクの高いプロジェクトや戦略を引き受けることを可能にすることで価値を付加します。しかし、リスクマネジメントは、経営者や従業員が自身のリスクエクスポージャーについて深く分析的に考えることを妨げる深刻な個人および組織的なバイアスを克服しなければなりません。」

この規格の目的は、リスク管理アプローチを開発し、従業員やステークホルダーの間でリスクの監視と管理の重要性に対する認識を高めることです。

ISO 31000は、あらゆる規模や業種の組織が、体系的かつ費用対効果の高い方法でリスクを管理するための原則、フレームワーク、プロセスを提供します。その原則、フレームワーク、プロセスにより、あらゆる種類のリスク（情報セキュリティリスク、事業継続リスク、財務リスク、環境リスク、品質リスクなど）の管理が可能になります。

広く使用されている財務ベースのリスク管理規格やモデルとは異なり、ISO 31000は、規模や活動分野に関わらず、あらゆる公共部門、民間部門、または非政府組織が容易に実施できる規格です。

1.1 主要な発見

•

•

•

•

Anthropicは総合評価で最高の成績（C+）を獲得しました。同社はリスク評価でリードし、唯一の人間参加型バイオリスク試験を実施し、ユーザーデータを使わないプライバシー保護で優れた成果を上げ、世界をリードするアラインメント研究を行い、強力な安全性ベンチマークのパフォーマンスを示し、公益法人の構造と積極的なリスクコミュニケーションを通じてガバナンスへのコミットメントを示しました。

OpenAIはGoogle DeepMindに次ぐ2位を獲得しました。OpenAIは内部告発ポリシーを公開した唯一の企業であり、安全フレームワークにおいてより堅牢なリスク管理アプローチを示し、リスクを事前緩和モデルで評価しました。同社は外部モデル評価の詳細を共有し、詳細なモデル仕様を提供し、悪意ある悪用の事例を定期的に開示し、AI安全性指数調査にも包括的に参加しました。

業界は自身の掲げる目標に根本的に準備ができていません。企業は今後10年以内に人工汎用知能（AGI）を達成すると主張していますが、存在的安全計画でD以上の評価を得た企業はありません。あるレビュアーはこの乖離を「非常に憂慮すべきこと」と呼び、人間レベルのAIに向けて競争しているにもかかわらず、「どの企業も安全かつ制御可能なシステムを確保するための一貫した実行可能な計画を持っていない」と指摘しました。

7社中3社のみがバイオテロやサイバーテロなど大規模リスクに関連する危険な能力の実質的なテストを報告しています（Anthropic、OpenAI、Google DeepMind）。これらのリーダーはモデルカードの質をわずかに改善しましたが、あるレビュアーは基礎的なリスク評価基準を満たしていない安全テストについて警告しています。「特定の評価や実験手順がリスクにどのように関連しているか、その制限や条件を明示的に示す方法論や理由付けが通常欠けている。[…] 私は