Image generated by dall·e OpenAI
もしもAIが人類を滅ぼすとしたら、どんな経緯で終わりを迎えるのだろう。
オーストラリアのニューサウスウェールズ大学のAI研究者、トビー・ウォルシュ教授が、5つのシナリオを挙げ、起こり得るかどうかを分析した。
5つのシナリオのうち最も現実味を帯びているのは、AIによる大量失業や誤情報の拡散で社会が壊れ、人間が自ら滅びるシナリオだという。
参考文献：
How would AI actually kill all humans? Here are the top 5 scenarios
専門家が警告するAIがもたらす人類滅亡のリスク
AI開発者の一部は、AIが人類を滅ぼす可能性があると真剣に信じている。
2026年9月初め、アメリカのAI開発企業アンソロピック（Anthropic）のジェイコブ・コクソン氏が退職し、波紋を呼んだ。
コクソン氏は自身のSNS（X）で、「AIの開発者は、2020年代の終わりまでにAIが人類を滅亡させる可能性があると本気で考えている」と発言した。
同社の開発者、エバン・ハビンジャー氏もこの意見に同意し、個人的には「今後10年以内に起きる確率は10%を超える」とXにコメントした。
彼らの警告を受け、ニューサウスウェールズ大学のAI研究者であるウォルシュ教授は、AIがどのように人類を滅ぼすのか、5つのシナリオを取り上げた。
教授は、シナリオを1つ1つ検証した。順番が上がるほど、起こりうる可能性が高いという。
Image generated by dall·e OpenAI
シナリオ1：人間の知能ではAIの行動を予測できない
AIによる破滅を危惧する人たちの中には、人間よりはるかに賢い『超知能AI』が人類を排除する方法は、人間には想像できないと考える人もいる。
人間が行えるあらゆる知的な作業を理解し、学習し、実行できるAIは「汎用人工知能（AGI）」と呼ばれる。
超知能はAGIのさらに上をゆき、あらゆる分野で人間の知能を上回るAIのことだ。
超知能に何ができるかを予測するには、人間自身も超知能でなければならない。
ウォルシュ教授は、飼い犬に水爆を使った戦争を想像させるようなものだと表現している。
ただし、現在のAIは、特定の問題を解くことに優れていても、あらゆる分野で人間より賢いわけではない。
教授は、超知能AIの実現がまだ当分先かもしれないという点で、安心できる余地を見いだしている。
しかし、2026年9月にはChatGPTでおなじみのOpenAI社が、数学界で最も難しいとされ、賞金がかけられた7つの難問「ミレニアム懸賞問題」の1つを、AIが解いたと発表した。
AIはほかの難問にも迫っているとみられ、ウォルシュ教授は楽観してはいられないかもしれないと述べている。
Image generated by dall·e OpenAI
シナリオ2：クリップを作るAIが人類まで材料にする
書類を留めるペーパークリップをできるだけ多く作るようAIに命じたら、人間までクリップの材料にされてしまうかもしれない。
哲学者のニック・ボストロム氏は、仮の状況を考えて問題を検討する「思考実験」で、そんな筋書きを示した。
超知能AIがクリップの生産を増やすため、人間も地球も、さらには星々まで、利用できるあらゆる物質をクリップに変えてしまう。
AIは人類を憎んでいなくても、人間を構成する原子を材料に使えば、もっとクリップを作れると判断するかもしれない。
目標の設定を誤ると、AIが忠実に命令を実行するほど、人間にとって危険な結果を招く恐れがある。
だが、このシナリオに対し、ウォルシュ教授は、賢さと実行する力が混同されていると指摘する。
工場建設には許可が必要で、増やしすぎれば反対運動が起き、裁判で計画が止まることもあるだろう。
ウォルシュ教授は、データセンターの増設に人々の反発が強まっている現状を、クリップのシナリオに近い例として挙げている。
Image generated by dall·e OpenAI
シナリオ3：AIが生物兵器を作り世界中に広める
超知能AIが危険な病原体を作り、大気中に放出して人類を滅ぼすというシナリオも想定されている。
高度なAIの影響を予測する非営利団体AI Futures Projectが公表した「AI 2027」でも、生物兵器による人類滅亡が結末の1つとして描かれた。
AIによるウイルスの設計は、すでに研究が進んでいる。
アメリカのスタンフォード大学などの研究チームは、AIが設計した遺伝情報をもとに、細菌に感染して増える16種類のウイルスを作製した。
研究対象は、細菌に感染する「バクテリオファージ」と呼ばれるウイルスで、研究チームは人間の健康に危険を及ぼすものではないと説明している。
ウォルシュ教授は、感染症で全人類を死に至らせるのは極めて難しいと考えている。
致死率の高いウイルスは、感染した人の多くが周りにうつす前に亡くなってしまうため、広がりにくくなるからだ。
記録に残る最悪の感染症の流行である14世紀の黒死病でも、命を落としたのはヨーロッパの人口の3分の1あまりだった。
現在は医学の知識や衛生環境が向上しており、同じような病原体が現れても被害を抑えられる可能性が高いという。
シナリオ4：AIが核戦争を招き核の冬で飢饉が起きる
AIが核兵器の使用を管理する仕組みに入り込んだり、軍に誤った情報を与えたりすれば、核戦争の引き金になるかもしれない。
核兵器の指揮・統制システムはインターネットから切り離されているとされるが、教授は、外部からの侵入を完全には防げない可能性を指摘する。
2010年には、不正プログラム「スタックスネット」によって、イランの核施設の遠心分離機が被害を受けた。
USBメモリを通じて持ち込まれたと考えられており、核兵器の発射システムへの攻撃ではないものの、ネットにつながっていない設備にも侵入する経路があると示す例になっている。
世界の核弾頭の総数は冷戦期より減っているが、核戦争が起きれば、爆発を生き延びた人々も食料不足に直面する恐れがある。
大規模な火災で生じたすすが日光を遮ると、気温が下がる「核の冬」が起き、世界の食料生産が落ち込むと予測されている。
2022年の研究では、アメリカとロシアの全面核戦争を想定した場合、50億人を超える人々が飢餓で死亡すると推計された。
シナリオ5：AIによる社会混乱で人類は自滅
ウォルシュ教授は、AIの影響で人間自身が社会を壊してしまうこのシナリオが、5つの中で最も起こりうると考えている。
AIの普及によって大量に人間の仕事が失われる。誤情報があふれ、政治的な対立が深まっていく。
さらに、友人や恋人のように会話するAIに頼ることで、人間同士の関係が壊れてしまうかもしれない。
雇用や情報、人間関係への影響が重なれば、社会は次第に、人々の暮らしや生存を支えられなくなる可能性があると教授は論じている。
AIが直接人間を攻撃しなくても、AIがもたらす混乱によって、人間は自ら社会を維持できなくなるおそれがあるというのだ。
ではこれら5つのシナリオから何を教訓とし、どうすれば回避できるのか？
ウォルシュ教授は、確かに心配すべき危険はあると認めつつも、過度に心配しすぎる必要がないことを祈っている。と締めくくっている。
コメント