00:00どうも皆さんこんにちは原カンタです
00:022026年9月AIが人類を滅亡させるかもしれないという議
00:07論が大きく取り上げられています
00:09オープンAIのサムアルトマンなどAI開発の中心
00:13にいる人物からも開発のペースや安全性について懸念
00:17する声が出ています
00:18では本当にAIによって人類は滅亡するのでしょうか
00:22結論から言えばまだわかりません
00:25将来AIを人間が制御できなくなる制御喪失のリスク
00:29についても専門家の意見は大きく分かれています
00:33では少しでも取り返しのつかないリスクがあるのだと
00:36したら
00:37なぜ世界はAI開発競争を止められないのか
00:40そして人類全体に影響するかもしれないAIの未来を一体誰
00:45が決めているのか
00:46今回はAI開発をめぐる企業や国家の競争
00:50その背景にある国際政治そして世界のAI拡散について考えていきます
00:56ぜひ最後までご覧ください
00:58まずAIによって人類が滅亡するとはそもそもどういう話
01:03なのか
01:03特に議論されているのが制御喪失と呼ばれるシナリ
01:08オです
01:08将来非常に高度なAIが人間の意図に反する行動を
01:12続け
01:13人間がそれを止めたり制御を取り戻したりすることが
01:17極めて難しくなるのではないかという問題です
01:202026年2月に発表された国際AI安全性報告書は
01:25当時のAIについてこうした制御喪失を引き起こす能
01:28力にはまだ達していないと評価しています
01:31一方で実験環境では監視をかいくぐろうとしたり
01:35与えられた目標を達成するために問題のある行動を取った
01:39りする初期的な兆候も確認されています
01:42ただ今回考えたいのはAIで人類が滅亡する可能性は何%な
01:48のかという話ではありません
01:50仮にその確率がかなり低かったとしても被害が人類規模
01:55になる可能性があるのなら
01:56なぜ安全性を確かめながらもう少しゆっくり開発
02:00しないのかという疑問が出てきます
02:02その理由を理解するためにまずは企業同士の競争を考
02:06えてみましょう
02:07仮に主要なAI企業が1年間性能を上げる競争
02:11を抑えて
02:12安全性の研究に時間を使おうと合意したとします
02:16全ての会社が守れば安全性を検証する時間は増えるか
02:21もしれません
02:21でも一社だけが開発を続ければ
02:24その会社だけが先に高性能なAIを作り
02:27利用者や投資優秀な人材を集めるかもしれない
02:31そう考えると各社は自分たちだけ止まったら負けると考
02:36えます
02:36これはゲーム理論で言う囚人のジレンマに似た構造
02:40です
02:41なぜ囚人なのかというと
02:42もともとは2人の容疑者が別々の部屋で取り
02:46調べを受けるという例で説明されるからです
02:49例えば2人とも黙っていればそれぞれ懲役1年で済む
02:54とします
02:54ところが1人だけが自白してもう1人が黙っていた場合
02:58自白した人は釈放され黙っていた人は懲役10年になる
03:03逆も同じです
03:04そして2人とも自白した場合はそれぞれ懲役5年になる
03:09とします
03:092人にとって一番いいのは協力して2人とも黙り懲役
03:131年で済ませることです
03:15でも自分1人の立場から考えると少し違います
03:19相手が黙っているなら自分は自白すれば懲役1年では
03:24なく釈放される
03:25相手が自白している場合も自分も自白すれば懲役
03:2910年ではなく5年で済みます
03:31つまり相手がどう行動しても自分の契機だけを考えれ
03:36ば自白した方が得になるんです
03:38その結果2人とも自白してそれぞれ懲役5年になる
03:43協力していれば1年で済んだのにそれぞれが自分に
03:47とって合理的な選択をした結果
03:492人ともより悪い状態になってしまう
03:52これが囚人のジレンマです
03:54今のAI企業も似ています
03:56本当は全ての会社が少し開発速度を落とした方が
04:01安全かもしれない
04:02しかし他の会社だけ開発を続けたら自分たちが負
04:06けると考えると
04:07自分たちだけ先にブレーキを踏むのが難しくなります
04:11実際スタンフォード大学の2026年AIインデックスによ
04:16れば
04:162025年に開発された注目すべきAIモデルの9割
04:20以上が企業によって作られました
04:23AI開発は巨大な企業間競争でもあるわけです
04:27この構造は企業同士だけの話ではありません
04:30国家同士になるとさらに厄介になります
04:33国際政治には安全保障のジレンマという考え方があります
04:38例えばAという国が自分たちを守るために軍事力を強く
04:42しようと考えたとします
04:44しかしそれを見たBという国からすると
04:46A国が軍備を増強している
04:49自分たちも対抗しなければ危険だと感じます
04:52そこでB国も軍事力を強化する
04:55するとA国はさらに警戒する
04:58どちらも自分たちを守ろうとしているだけなのに
05:01結果として軍閣競争が進み
05:04お互いの不安が大きくなってしまいます
05:06AIでも似た構造があります
05:08現在最先端AIの開発では
05:11特にアメリカと中国が大きな存在です
05:14スタンフォード大学によれば
05:162025年にアメリカの組織が開発した
05:19注目すべきAIモデルは59
05:21中国は35でした
05:23さらに主要な評価指標では
05:26米中のトップモデルの性能差は急速に縮まり
05:292025年以降は
05:31周囲が入れ替わるほど接近しています
05:34AIは便利なチャットサービスだけではありません
05:37科学研究や産業
05:39サイバーセキュリティ
05:40軍事など
05:41国家の経済力や安全保障を左右する技術でもあります
05:45米中とも
05:47AIを経済力や安全保障に関わる
05:50重要な技術として位置づけています
05:52相手に遅れることをリスクと捉えれば
05:55自分だけ競争から降りることは難しくなります
05:58AIをめぐる米中間の競争と相互不信が
06:02安全性をめぐる国際協力を難しくしています
06:05実は人類はこれとよく似た構造を
06:08過去にも経験しています
06:09それが核兵器の開発競争です
06:12第二次世界大戦中
06:13アメリカはマンハッタン計画によって
06:16原子爆弾を開発しました
06:18しかし1949年
06:20ソ連も原爆実験に成功し
06:23アメリカによる核兵器の独占は終わります
06:25その後アメリカでは原爆よりさらに強力な水素爆
06:29弾を開発するべきか
06:31大きな議論が起きました
06:321950年
06:33トルーマン大統領は水爆の開発を進める決断
06:37をします
06:37その背景にはソ連だけが先に水爆を持ったらどうするのか
06:41という強い不安がありました
06:43危険だから作らない
06:45ではなく相手が作るかもしれないから
06:48自分も作らなければならないという論理です
06:51もちろんAIと核兵器は同じものではありません
06:54AIには医療や教育
06:56科学研究など大きな恩恵もありますし
06:59国家だけではなく
07:00民間企業が開発を主導している点も大きく異なります
07:05ただ各開発競争から学べることがあります
07:08危険な技術であっても
07:10みんな危険だと分かれば自然に止まるとは限り
07:14ません
07:14相手への不信感と競争がある限り
07:17それぞれにとって合理的な選択が
07:19全体としてはより危険な状況を作ることがあります
07:24ではAIについて国際的なルールを作ればいいのでしょうか
07:28ここでもう一つ大きな問題があります
07:31AIを開発しその恩恵を受けている人と
07:34その技術の影響を受ける人が
07:36世界全体で一致していないことです
07:39今の世界にはどれだけのAI格差があるのか
07:43例えば私が取材してきたアフリカの国々では
07:46AIはどれだけ利用されているのか
07:49その話に入る前に少しだけお知らせをさせてください
07:52私原カンタは世界を無視しない大人になるために
07:55という本を自費出版しています
07:56私自身が国際協力の活動を始めた原点について
08:00書いた一冊です
08:00興味のある方はぜひ動画下のショップからお買いまとめ
08:03ください
08:03日本に暮らしていると毎日のように
08:05AIのニュースを見にします
08:07チャットGPTが進化した
08:09新しいAIが登場した
08:11仕事がAIに奪われるかもしれない
08:13学校教育が変わるかもしれない
08:16そのようなニュースが毎日のように流れています
08:19でも世界全体を見ると景色はかなり違います
08:23マイクロソフトの2026年の推計では
08:262026年第一四半期に生成AIを利用した人は
08:30世界の15歳から64歳の17.8%でした
08:34グローバルノースでは生成AIの利用率が
08:3727.5%だったのに対して
08:40グローバルサウスでは15.4%でした
08:43しかもその格差は前年より広がっています
08:46ここで言うグローバルノースとは
08:48主に欧米や日本など比較的豊かな国々
08:52グローバルサウスとは主にアフリカや中南米
08:56南アジアなどの新興国
08:58途上国を指す大まかな呼び方です
09:00国ごとに見ると違いはもっと大きくなります
09:04例えばこの調査で生成AIの利用率が
09:07世界で最も高かったアラブ主張国連邦では
09:1170.1%
09:12一方私が何度も取材してきた
09:15ウガンダでは7.6%
09:17今後民主共和国では8.7%と推計されています
09:21もちろんアフリカにも
09:23AIを積極的に利用している人たちはいます
09:25ただ国全体で見れば
09:27AIによって仕事がどう変わるのか
09:30AGIはいつ来るのかと
09:32毎日のように議論している社会とは
09:35かなり距離がある国も多いわけです
09:37ここでもう一つ大きな問題が見えてきます
09:40AIは仕事の効率を高め
09:43医療や科学研究を進歩させ
09:45新しい産業や経済的な利益を生み出す可能性があります
09:49そうした恩恵を最初に受ける人たちは
09:52世界の中でもかなり偏っています
09:55ところがもしAIが本当に制御不能になったり
09:59大規模なサイバー攻撃や兵器開発に利用された
10:03りして
10:03人類規模の危機に繋がるのであれば
10:06そのリスクはAIを日常的に使っている人だけに限定さ
10:10れません
10:11アフリカの農村で暮らし
10:13チャットGPTを一度も使ったことがない人であっても
10:16世界規模の経済混乱や安全保障上の危機
10:20新しい感染症のパンデミックなどが起きれば
10:23その影響から完全に逃れることはできません
10:26つまりAIから得られる利益には大きな格差があるのに
10:30最悪の場合のリスクは人類全体に及ぶ可能性が
10:35ある
10:35ここにAIをめぐる大きな不均衡があります
10:38ではそのAIの未来を誰が決めているのでしょうか
10:42AIを開発する力は現在一部の大国と巨大企業にかな
10:47り集中しています
10:48国連もこれまでのAIの国際的なルール作りに
10:52十分参加してこなかった国が多いと指摘していて
10:552026年にはより多くの国が参加する新たな国際対
11:00話も始まりました
11:01ただここまで見てきたように企業も国家も競争から簡単には降り
11:07られません
11:07囚人のジレンマと安全保障のジレンマが重なり
11:11世界全体としてブレーキをかけにくい状況が生ま
11:15れているわけです
11:15AIが本当に人類を滅亡させるのか
11:19その答えはまだわかりません
11:21でももし取り返しのつかない事態が起こり得るのなら
11:24手遅れになってから対応を考え始めても遅い
11:28人類全体に関わるAIの未来を一部の大国と巨
11:32大企業の競争だけに委ねていいのか
11:35この問いはもっと多くの国や人が考える必要があるの
11:39ではないでしょうか
11:41今回はAIによる人類滅亡という議論を入り口に
11:45なぜ世界がAI開発競争を止められないのか
11:48そして誰がAIの未来を決めているのかについて考えてきました
11:52AIは普段このチャンネルで扱っているアフリカや戦争とは少
11:57し違うテーマに見えるかもしれません
11:59ただ私自身以前からAI開発競争には強い関心を持っています
12:04し
12:04大国同士が競争しながらどこまで国際協力できる
12:08のかという問題は
12:09国際政治を考える上でも非常に重要です
12:12さらにグローバルノースとグローバルサウスの格
12:16差や
12:16人類全体に影響するような重要なことを誰が決めるの
12:20かという問題も
12:21このチャンネルでこれまで考えてきたテーマと深くつながっています
12:25このチャンネルではこれからも一つのニュースを見るだけではわから
12:29ない
12:29その背景にある歴史や政治経済の構造まで
12:33わかりやすく解説していきます
12:35まだチャンネル登録がお勧めでなければ
12:37ぜひチャンネル登録をよろしくお願いします
12:39私が運営しているオンラインサロンシナジーでは
12:42世界で起きているニュースや社会問題について
12:45メンバー同士で意見を交換しています
12:47つい先日もAIとの共存をテーマに勉強会を行
12:51ったばかりです
12:51少しでも興味がある方はぜひ概要欄のリンクから
12:54シナジーのホームページをご覧ください
12:56またこのチャンネルには活動応援メンバーというメンバーシップがあります
13:00こうした解説動画や海外取材など
13:02ハラカンタの発信活動を応援してくださる方がいましたら
13:05ぜひご加入ください
13:07応援のほどよろしくお願いします
13:08ということで今回も最後までご視聴くださりありがとうございました
13:12また次回の動画でお会いしましょう