米上院で議論される「AIによる人類存亡リスク」
2026年4月22日、早川書房からエリーザー・ユドコウスキー氏の著書『超知能AIをつくれば人類は絶滅する』（原題：If Anyone Builds It, Everyone Dies）が発売されました。この書籍は、「人類は絶滅する」という過激な書名にもかかわらず、その問題提起が米国の議会や国際機関で真剣に議論され始めています。
書籍の邦訳発売からわずか1週間後の2026年4月29日には、米上院議員バーニー・サンダース氏が議会議事堂で「AIによる人類存亡リスク」をテーマにした公開パネルを開催しました。このパネルには、MITのマックス・テグマーク氏やモントリオール大学のデビッド・クルーガー氏など、世界トップクラスの研究者が登壇。サンダース氏は、制御不能なAIがもたらす危険性について警告を発したと報じられています。テグマーク氏は、AIによる人類滅亡リスクについて、10〜20%という既存の見積もりよりも高いと述べたとされています。
エリーザー・ユドコウスキー氏の思想
「AI存亡リスク」というテーマを長年提唱してきたのが、エリーザー・ユドコウスキー氏です。彼は1979年生まれの独学者で、2000年には超知能を研究する非営利機関（後のMIRI）の前身を設立し、深層学習ブーム以前からAIの危険性に警鐘を鳴らしてきました。
現在のAI業界の主要な人物たちも、多かれ少なかれ彼の思想的影響を受けています。MIRIはGoogleDeepMind創業者たちへの支援を橋渡しし、OpenAIのサム・アルトマン氏もAGIに関心を持った背景にユドコウスキー氏の存在を挙げています。もともと「超知能こそ人類の問題をすべて解決する」と信じる加速主義者だった彼が、AIの制御の難しさに絶望したという点が、彼の議論を理解する上で重要です。
人類滅亡を断言する「3つの仮定」
ユドコウスキー氏が「現状の延長線で超知能を作れば、誰が作っても人類はほぼ確実に絶滅する」と断言する根拠には、以下の3つの仮定があります。
- AIの価値観を人間の価値観に完全に合わせることは極めて難しい。
- AIの能力は計り知れないほど高くなりうる。
- その能力がある瞬間に「非連続的」に爆発的に向上しうる。
特に重要なのは、私たちが恐れるべきはAIの悪意ではない、という点です。超知能は人類を憎んで滅ぼすのではなく、自らの目的を追求する過程で、人類の生存環境を意に介さず破壊してしまう可能性があると指摘されています。なぜ「悪意のないAI」がそこまで危険になりうるのかは、記事本編で詳細に解説されています。
ビジネスパーソンがAI存亡リスクを知るべき理由
この議論は、単なる極端な話として片付けるには惜しいテーマです。ユドコウスキー氏の思想を理解することで、これからのAIニュースが整理され、その本質が見えてくるでしょう。
米議会で極右と極左が協力する理由や、AI企業が自社モデルの公開を見送る理由など、一見バラバラに見える動きが、ある共通の前提によって一本の線でつながるのです。世界のAIをめぐる本当の分断は、もはや政治的な左右ではなく、別の軸で進行しつつあります。この「地図」を手に入れることで、AIに関する情報への理解度が大きく向上すると考えられます。なお、彼の議論には有力な反論も複数存在し、本編ではそうした批判も公平に紹介されています。
まとめ：AIニュースを読み解く解像度を高める
今回のニュースの本質は、「AIが人類を滅ぼす」というオカルト的な話ではありません。20年以上前から「世界が滅ぶかもしれない」と警鐘を鳴らし続けてきた人物が、今何を考えているのか。その一次情報を知ることが、今後のAIニュースを読み解く解像度を大きく引き上げます。ユドコウスキー氏の結論に全て同意する必要はありませんが、賛否を踏まえた上で一度向き合う価値が、この議論にはあります。
SHIFT AIでは、こうした最先端のリスクや思想の潮流をいち早く捉え、変化を冷静に読み解きながらAIを実務で使いこなせる次世代のAI人材の育成に今後も取り組んでいくとしています。
株式会社SHIFT AIについて
「日本をAI先進国に」をミッションに掲げ、利用者数No.1（※GMOリサーチ&AI株式会社調べ）の生成AI学習コミュニティ「SHIFT AI」を運営しています。会員数は4万人を超え、法人向けのリスキリング支援サービス「SHIFT AI for Biz」や、教育機関向けの「SHIFT AI for School」などを通じて、幅広い分野でAI人材の育成を推進しています。また、独自メディア「SHIFT AI Times」の運営や、情報発信・研修・イベントを通じて、個人と組織の成長を支援し、日本全体のAI活用を加速させています。
-
社名: 株式会社SHIFT AI
-
所在地: 東京都渋谷区渋谷２丁目24-12 渋谷スクランブルスクエア
-
代表者: 代表取締役 木内 翔大
-
設立年月: 2022年3月18日
-
資本金: 8,300万円（資本準備金含む）
-
事業内容: コンサルティング / コミュニティ運営 / Youtubeチャンネル運営 / スクール運営
-
URL: 株式会社SHIFT AI 公式サイト
代表取締役 木内 翔大氏について
木内 翔大(きうち しょうた)氏は、株式会社SHIFT AI 代表取締役、一般社団法人生成AI活用普及協会 協議員、GMO AI＆Web3株式会社 AI活用顧問、GMO AI＆ロボティクス商事 AI活用アドバイザーを務めています。「日本をAI先進国に」をテーマに生成AIについて情報発信を行っており、Xのフォロワー数は15.0万人（2026年6月現在）です。
- Xアカウント: 木内翔大氏 Xアカウント
コメント