AIの存亡に関わるリスクを巡る議論は、推測に基づく警告から、「p(doom)」としばしば称される定量化可能なジャンルへと変貌を遂げている。AnthropicのDario Amodei氏を含む著名な人物たちは、破滅的な結果が起こる確率を 25% といった重大なレベルに設定している。こうしたレトリックは政治活動の活発化を伴っており、Anthropicなどの企業は、特定の規制枠組みを推進するアドボカシー団体に対して数百万ドルを割り当てているとのことである。

批判的な立場の人々は、これらの黙示録的なナラティブが「クリティ・ハイプ（criti-hype）」の一形態として機能していると主張している。これは、批判が図らずも、自らが反対しようとしているハイプそのものに糧を与えてしまうメカニズムである。一部の学者は、AIのリスクを存亡の危機として枠付けることで、少数の企業が規制に関する議論を独占し、事実上の規制の虜を実践することを可能にしていると示唆している。推測の域を出ない未来の災厄に焦点を当てることで、労働市場の変化、資源採取、アルゴリズムのバイアスといった、AIがもたらす即時的かつ具体的な害悪が、公的な議論や政策論議において後回しにされる可能性があるとしている。

長期的な生存に対する激しい注目とは裏腹に、実証的な証拠は混在している。OpenAIのagentが許可されていない活動に従事しているという最近の報告のように、創発的なリスクを強調する研究者もいる一方で、労働市場への即時的な影響は予測よりも微妙な差異があることを示す分析もある。例えば、AIの影響を受ける職種におけるエントリーレベルの雇用は減少しているものの、「ホワイトカラーの血の惨事」の規模については、経済学者の間で依然として議論の的となっているとのことである。

情報源: