連載 第1回：「AI人類滅亡論」が広がる構造：事実と推論
近年、「AIが人類を滅ぼすかもしれない」という実存的リスクを巡る議論が、にわかに熱を帯びています。 2023年には、米国の非営利団体Center for AI Safety（CAIS）が「AIによる絶滅リスクの軽減を世界的優先事項とするべきだ」という声明を発表し、世界のAI開発企業のトップや著名な研究者たちがこれに署名しました。
海外では以前から（例えば2023年のCAIS声明に象徴されるように）AIによる人類滅亡のリスクが声高に議論されてきましたが、日本のメディアにおいてこの話題が突如として熱を帯び始めたのは、ごく最近のことです。この日本における急激な関心の高まりは、ニック・ボストロムやムスタファ・スレイマンといった思想家や起業家たちの近著が相次いで翻訳出版されたことや、2026年後半のGoogle DeepMindの組織再編といった出来事のタイミングと軌を一にしています。この海外と日本の間に横たわる「温度差と時間差」は、私たちが海外発の情報をどのように受け止め、どのようなプロセスを経て国内で消費していくのかという、情報の伝播構造そのものを如実に浮き彫りにしています。
なぜ、AIを推進する最前線の専門家たちが自ら、極端とも言える警告を発するのでしょうか。本稿では、表面的な技術論ではなく、「資本回収の仕組み」と「情報伝達の構造」という二つの事実から、その背後にある力学を論理的に解き明かしていきます。
結論として、AI開発における「滅亡論」は、技術的真実というよりも、過剰な資金調達による「止まれない開発競争」にブレーキをかけるための構造的手段として機能していると私は考えています。企業や開発者は巨額の投資回収システムに深く従属せざるを得ない存在であり、遠い未来の極端なリスクに耳目が集まることで、今まさに現実の課題に直面している現場の労働者や生活者へのしわ寄せが軽視される現状に、私たちは強い危機感を抱くべきです。
1. 巨額の資金調達と「だれも止まれない」投資回収の罠
巨額資金と過大な正当化
AI開発の最前線において、リスクを極大化して語ることが、実はある種の経済的機能を果たしています。
① 資金調達の正当化と止まれない構造
現代のAI開発、とりわけ大規模言語モデルの開発競争を生き抜くためには、数百億、数千億円規模の継続的な資金調達が不可欠です。しかし、これほどの巨額投資を正当化するためには、AIを単なる「便利な道具」ではなく、「人類の未来を左右する究極の技術」として定義づけなければなりません。 一度この規模の資本を受け入れてしまえば、企業は「いかにして投資を回収するか」という資本主義の強固なシステムに組み込まれます。開発企業も投資家も、このシステムの歯車となり、自らの意思では開発の歩みを止めることのできない不可逆的な状況へと追い込まれていくのです。
② ブレーキとしての「滅亡論」の真の機能
このような「だれも止まれない構造」の中で、AIの第一人者たちは深い葛藤を抱えていると推察されます。「これ以上の単純なモデル巨大化（スケーリング）競争に、果たして真の意味があるのか」——彼らは立ち止まり、思索するための猶予を求めているのではないでしょうか。 しかし、「技術的限界」や「開発の方向性の見直し」といった冷静で論理的な説明は、熱狂する投資家や社会には容易に届きません。そこで利用されるのが、不安や恐怖を刺激する情報ほど速く拡散する「アテンション・エコノミー（関心経済）」のメカニズムです。
滅亡論の必然性
「人類滅亡」という極端な言葉を用いることでしか、過熱しきったシステムにブレーキをかけることができない。これが、現在のAI開発を取り巻く悲劇的な構造なのです。
flowchart TD
A[巨額の資金調達要求] -->|正当化| B[技術の社会的意義・影響の過大強調]
B -->|アテンション経済| C[「AI滅亡論」のメディア拡散]
C -->|ブレーキとしての機能| D[開発への過度な期待とリスクへの懸念]
D -->|投資回収義務| E[止まれないAI開発競争]
E -->|さらなる競争| A表：AI開発における表面上の説明と構造的実態の乖離
| 項目 | 建前（社会・投資家への説明） | 本音（構造的インセンティブ・実態） |
|---|---|---|
| 資金調達の理由 | 人類の未来を左右する究極の技術開発のため | 競争に生き残り、過去の投資を正当化するため |
| リスクの強調 | AGIが人類を滅ぼす可能性があるため | 期待値のコントロールと、過熱した開発へのブレーキ |
| 開発の方向性 | 汎用人工知能（AGI）の早期実現 | 投資回収のためのスケーリング競争（止まれない状態） |
2. 証拠：Googleの組織再編に見る「逃れる力学」と摩擦
この「止まれない開発競争」がいかに暴力的な構造的圧力を伴うものであるかを示す証左として、Google内部で進行している動向に目を向けてみましょう。
事実確認：Google DeepMindの組織再編と人材流出
2026年後半、Google DeepMindを長年率いてきたデミス・ハサビスがCEOを退任して科学的ビジョン（基礎研究）に専念し、実務は新SVPへと引き継がれました。同時に、ジェフ・ディーンをはじめとする中核研究者たちが相次いで同社を離れるなどの再編と混乱が報道されています。（出典：各種テックメディアの組織再編・人事速報に基づく）
OpenAIなどの新興企業は、「最先端モデルの開発」そのものに企業価値を依存せざるを得ない宿命にあります。対してGoogleは、検索広告やクラウドという極めて強固な収益基盤を持っています。つまり、Googleは無理に「終わりのない開発競争のレール」に留まらずとも、モデル開発競争から降りて既存事業でのAI収益化へと舵を切る選択肢を有しているのです。
直近のGoogle内部で生じている中核人材の流出や組織再編は、単なる社内政治の枠に収まるものではありません。これは、「投資回収のためにモデル開発競争を突き進む力学」と、「そこから降りて別の道へと向かう力学」が巨大システム内で激しく衝突した結果として生じた、歴史的な摩擦であると私は捉えています。（※競争から降りたGoogleが向かう「個別最適化AI」の行方については、後日別稿にて詳述します。）
3. 極端なリスク論が生活者や現場に与える影響
私たちが最も深く憂慮すべきは、遠い未来の「人類滅亡」という極端なリスクばかりが議論の俎上に載せられることで、今この瞬間に社会を支えている人々の痛みが覆い隠されてしまうという現実です。
現実的な生活課題からの視点の逸らし 「AIが人類を滅ぼすか否か」という壮大な問いに社会の関心が集中する結果、ディープフェイクによって尊厳を傷つけられる一般市民、AI導入による雇用不安に苛まれる労働者、学習データとして知的財産を無断で搾取されるクリエイターなど、「今まさに現実の被害を受けている弱い立場の人々」を守るための法整備や倫理的議論が後回しにされています。
焦りによる現場への過度な負担 さらに、「この技術革新に乗り遅れてはならない」という市場の焦燥感は、企業に対して性急なシステム導入を強要します。結果として、実際の業務フローと乖離したAIシステムが現場に押し付けられ、従業員たちは「新しい仕組みに適応するための過酷な労働」と「いつか自分の仕事が奪われるかもしれないという根源的な不安」の二重苦を強いられているのです。
まとめと視点
これらの事実から導き出されるのは、AIの動向を読み解く際、表面的な技術の凄みや過激な言説に惑わされてはならないということです。「AIの第一人者たちでさえも巨大な資本主義のシステムに縛られ、極端な警告を発するほかない状況にある」という俯瞰的な視座が、今まさに求められています。人類はAIや富の有無に関わらず、根源的に脆く、こうした巨大な経済システムに深く従属せざるを得ない存在なのです。
そして最も恐れるべき真の危機は、物理的な滅亡や雇用の喪失そのものではありません。メディアが煽る過剰な恐怖によって、私たちの主体性が麻痺し、「AIと共に明るく素晴らしい未来を築いていこう」という夢や意志を失ってしまうことです。そのシステムの軋轢の中で不利益を被る労働者や生活者の尊厳に寄り添いながらも、私たちは決して未来への希望と主体性を手放してはなりません。
次回予告（第2回に向けて）
ここまで、AI人類滅亡論が叫ばれる背後にある「経済的な構造」について考察してきました。しかし、もしこの止まれない競争の果てに、実際に【AGI】（汎用人工知能）や【超知能】が誕生したとしたら、世界は本当に滅亡の危機に瀕するのでしょうか。
次回【第2回】では、メディアが好んで描く「単一の絶対的なAIが人類に反旗を翻す」というSF的シナリオの盲点を突きます。現実には同時多発的に複数の【AGI】が誕生し、「AI同士の同調圧力と相互干渉」によって、人間社会における勢力均衡（バランス・オブ・パワー）と同じような生態系的な秩序が生まれる——という新たな推論を展開します。
▶︎ 第2回：単一AIの暴走は起きない？ 「複数AGIの相互干渉と同調圧力」がもたらす生態系的な均衡