AI リスク

 

多くの観察者が人工知能が壊滅的なリスクをもたらす可能性について懸念を抱いていますが、幸いなことに、そうした評価の根拠となる実証的な証拠はほとんどありません。そのような証拠がない中で、専門家はAIが引き起こす破滅や終末の確率（いわゆる「p-doom」）を推定するために、しばしば自身の最善の推測を用いています。主観的な専門家の評価は利用可能な最善の証拠かもしれませんが、政策立案者やリスクアナリストは確率を求めることだけに限定される必要はありません。本稿では、AIリスク評価における不確実性に対処するための追加的なツールを提案します。6面ダイスを振るよう求められたものの、3面しか見えていない状況を想像してください。1面には星が刻まれており、2面は空白で、残りの3面は不明です。結果を予測するには、ランダム性と無知の両方が関わってきます。星が出る確率を答えるよう求められた場合、見えている3面のうち1面に星があることから、1/3と答えるかもしれません。星が出るという確信度を問われた場合、星があると分かっているのは1面だけなので、1/6が妥当な答えとなるでしょう。星が出る可能性があるかどうかを問われた場合、4面に星がある可能性があるため、4/6が妥当な答えとなるかもしれません。これらの問いは似ているように見えますが、星を重視する意思決定者にとっては、その違いが重要です。AIリスクにおいては、ダイスロールとは異なり、不確実性の主な形態はランダム性ではなく無知であるため、必ずしも確率論的な手法が最善とは限りません。確率論と同等に厳密な代替数学的手法も存在します。それらは「信念（Belief）」や「妥当性（Plausibility）」といった一般的な議論で馴染みのある用語を用いるため、AIリスクに関する一般的な語彙として容易に取り入れることができます。