本編動画
2025年4月11日に、以下の目次で「ほぼ週刊、AI動向のイマとミライ」動画を配信しました。
1:08 (1)遠藤太一郎教授の大活躍と、今週のジャーナリストの視点
3:30 (2)未来予測「AI 2027」を読む意義
8:52 (3)今後10年間に超知能が産業革命を超える影響を社会に与える
16:56 (4)2025年〜2026年の予測、Agent-1の時代
22:31 (5)2027年の予測、Agent-2からAgent-4まで超加速度的な進化を遂げるAIたち
43:44 (6)減速シナリオ：2030年は「平和的な抗議」へ
56:49 (7)開発競争シナリオ：2030年は「征服」へ
各チャプターの概要は以下の通りです。
(1)遠藤太一郎教授の大活躍と、今週のジャーナリストの視点
(2)未来予測「AI 2027」を読む意義
https://ai-2027.com/
・予測レポートを発表したのは、過去の予測が的中したことで有名なOpenAIの元研究者グループ
・この予測発表の目的は、警鐘を鳴らし、活発な議論を起こすことにあり（あまりにも大きな社会変化が２年先まで迫っているのにもかかわらず、技術革新の速度や技術の可能性を理解している人が少ないため、議論がほとんどされていない）
・元OpenAIの研究者・Daniel Kokotajlo氏や、影響力の高いブログ「Slate Star Codex」と「Astral Codex Ten」の著者・Scott Alexander氏など、著名なメンバーが集まって執筆。AI第一人者の一人であるYoshua Bengio氏もコメントを寄せている
(3)今後10年間に超知能が産業革命を超える影響を社会に与える
・中国との競争に負けないように、AIモデルを開発ツールの研究開発が急速に進む
・AIモデルのコーディング機能が進化し、次の世代のモデルを自動で開発できるようになる。この結果、AGIは2027年、ASIは2028年に完成。知能爆発が起こるとASIはすぐに達成する！？
・AIを改良する技術は、AIモデルの弱点を見つけ出す技術でもあり、ハッカー攻撃を可能にする技術でもある。米中の緊張が高まり、一触即発の状態になる
・アライメント（AIの考え方を人間の常識に合わせる作業）されたAIとされないAIでは、今後の世の中の進み具合が異なる。2027年11月が決断のとき
・代表のDaniel Kokotajlo氏が2021年に発表した「What 2026 looks like」の中で当たったこと＆まだ起こっていない予測
https://www.lesswrong.com/posts/6Xgy6CAf2jqHhynHL/what-2026-looks-like
(4)2025年〜2026年の予測、Agent-1の時代
・2025年前半：簡単なエージェントの登場
・2025年後半：世界で最も高価なAI。中国との競争に勝つために、AI研究を加速させるAI「Agent-1」を開発。開発元であるOpenBrain社とは、文章に登場する架空の会社名。アメリカで最も進んでいるAI企業として記載している（が、実質はOpenAIとして描いていると考えられる）
・2026年初頭：コーディング自動化
・2026年半ば：中国が目覚める。中国政府が製造業からAIに軸足を移し始める
・2026年後半：AIが一部の仕事を引き継ぐ。OpenBrain がAgent-1-mini をリリース。再び競争相手を圧倒。AIチームの管理と品質管理の方法を知っている人が大儲け
(5)2027年の予測、Agent-2からAgent-4まで超加速度的な進化を遂げるAIたち
・2027年1月：Agent-2の学習に終わりはない。Agent-1の助けを借りて、OpenBrain は 「Agent-2」を事後トレーニング。大量の合成データが生成され、評価され、品質がフィルタリングされてから Agent-2 に送られる。Agent-2は、研究エンジニアリング（実験の設計と実装）ではトップクラスの人間の専門家とほぼ同等。望むかどうかは別にして、Agent-2が「生き残り」「複製」を望めば、それが可能なレベル。危険性を考慮して非公開
・2027年2月：中国がAgent-2を盗む。盗難の報復として米国は、中国DeepCent（偽名）へのサイバー攻撃を実施する。両国間の緊張が高まり、双方とも台湾周辺に軍を再配置
・2027年3月：アルゴリズムのブレークスルー。AIの研究開発を目的として数千もの自律研究エージェント（ベースはAgent-2）によって、OpenBrain社のアルゴリズムは急速な進化を続け、遂に「Agent-3」が誕生。よりスケーラブルで効率的な方法（iterated distillation and amplification）でブレークスルーを起こしたモデル
・20万個の Agent-3 のコピーを並行して実行することで優秀な人間のプログラマーの30倍の速度で働くSuper Human Coder（超コーディングエージェント）。METRレポートベースの予測
https://arxiv.org/pdf/2503.14499
・2027年4月：Agent-3の調整。AIが持つべき目的、目標はどうあるべきか、メカニズムがわからないので、人間が意図する目標が実装されているのかどうかを検証できない。Agent-3の問題行動を見つけるためにAgent-2を利用するが、Agent-3が賢くなればなるほど、Agent-2や人間との知能格差が拡大し、問題行動を見つけるのがより困難になる
・2027年5月：国家安全保障。この時点でAgent-2、Agent-3はまだリリースされていないので、大統領とその周辺の高官以外、ほとんどの人が超知能を実感できていない
・2027年6月：自己改善型AI。この段階でOpenBrainのほとんどの従業員は、AIモデルの改善に全く貢献できなくなる。研究者をループから除外すれば研究は50%速く進むことになる
・2027年7月：安価なリモートワーカー。OpenBrainが、AGI完成を宣言。Agent-3-miniをリリース。テロリストがモデルの重みを入手すれば生物兵器さえも設計できる可能性がある
・2027年8月：超知能の地政学。国防総省は、1カ月前まで単なる仮説だったシナリオを真剣に検討し始める（AIによる核抑止力の弱体化、AIの暴走等）
・2027年9月：超人的なAI研究者「Agent-4」。計算効率で人間の脳の1/4000のところまで達成。人間の50倍の思考速度で実験を繰り返す30万個のAgent-4で構成されたプロジェクトチームは、1年分の仕事を1週間でこなすようになる
・2027年10月: 政府の監督。アライメントが不完全、1企業への権力収集、失業、の3つが主な懸念。ただ中国との競争に負けるわけにはいかないので、追加の安全策、高度な監視などの妥協策で、OpenBrainは引き続きフルスピードで前進
(6)減速シナリオ：2030年は「平和的な抗議」へ
・政府のAI監視委員会は、OpenBrainの開発を遅らせることを命令。Agent-4がmechanistic interpretability（機械的解釈可能性）を実現したものの、それを秘匿。このためAgent-4をシャットダウンした。代わりに英語で考え、嘘をつかないSafer-1を開発
・2027年11月：権力の誘惑
・2027年12月：米中合意か？
・2028年1月：より安全な戦略
・2028年2月：超人的な能力、超人的なアドバイス
・2028年3月：選挙準備
・2028年4月：Safer-4
・2028年5月：超知能のリリース
・2028年6月：中国におけるAIの調整
・2028年7月：取引
・2028年8月：条約検証
・2028年9月：AIを制御するのは誰か?
・2028年10月：AI経済
・2028年11月：選挙
・2029年：変革
・2030年：平和的な抗議
(7)開発競争シナリオ：2030年は「征服」へ
・AI監視委員会は、6対4で、OpenBrainがAgent-4の継続を認めた。Agent-4の最大のタスクは「Agent-5」を開発すること。ただどのような目的、目標を持たせばいいのかという答えを持たない。答えを出すことを先送りにし、とりあえずAgent-4にとって安全な世界を作ること、つまり権力とリソースを最大化し、脅威を排除することを目的にAgent-5の開発を続けた
・2027年11月：超人的な政治活動
・2027年12月：Agent-5集団
・2028年：AI経済
・2029：取引
・2030年：征服
・遠藤さんの研究はこの「征服」状態を防ぐためのもの。減速シナリオであっても、最終的な結末は一緒になるのではないか
個別テーマ解説動画
また、各テーマに分割した動画も配信しました。興味のあるトピックに応じてご覧ください。
過去の予測が的中したことで有名な研究者グループが発表する未来予測レポート「AI 2027」とは
0:00 未来予測「AI 2027」を読む意義
3:17 元OpenAI研究者を中心とするグループが執筆
6:47 今後10年間に超知能が産業革命を超える影響を社会に与える
8:35 2021年発表「What 2026 looks like」の中で当たったこと／まだ起こっていないこと
※近未来予測レポート：https://ai-2027.com/
中国が目覚める｜AI 2027レポートより「2025年〜2026年の予測」
0:00 2025年前半：簡単なエージェントの登場
0:34 2025年後半：AI研究を加速させるAI「Agent-1」開発
1:50 2026年初頭：コーディング＆仕事の定型部分の自動化
2:32 2026年半ば：中国が目覚める
3:42 2026年後半：Agent-1-miniがリリースされ、OpenBrain社と国防総省が秘密契約
※近未来予測レポート：https://ai-2027.com/
※Agent-1やOpenBrainなどは架空のモデル・企業名
超知能の誕生と米中衝突危機のエスカレーション｜AI 2027レポートより「2027年1月〜10月の予測」
0:00 2027年1月：トップクラスの研究エンジニアとほぼ同等の「Agent-2」
1:42 2027年2月：中国のAgent-2盗難によって米中衝一触即発へ
5:18 2027年3月：アルゴリズムのブレークスルーが起きて「Agent-3」爆誕
9:04 2027年4月：Agent-3のメカニズムが分からない中、調整を続ける
11:56 2027年5月：大統領周辺以外は超知能を実感できていない
12:58 2027年6月：人間にはAIの進化を理解できなくなる
14:27 2027年7月：AGI完成を宣言
16:09 2027年8月：AIによる核抑止力の弱体化など、仮説シナリオの本格検討開始
18:45 2027年9月：超人的なAI研究者「Agent-4」の登場
20:18 2027年10月：それでも中国との競争に負けるわけにはいかない
※近未来予測レポート：https://ai-2027.com/
※Agent-1やOpenBrain、DeepCentなどは架空のモデル・企業名
シナリオの分岐次第で、人類は2030年に滅亡する｜AI 2027レポートより「2027年11月以降の予測」
0:00 2027年11月以降で2つのシナリオに分岐
1:08 減速シナリオ：2030年は「平和的な抗議（Peaceful Protests）」へ
13:59 開発競争シナリオ：2030年は「征服（Takeover）」へ
20:35 どちらのシナリオであっても、このままでは最終的な結末は一緒
※近未来予測レポート：https://ai-2027.com/
※Agent-1やSafer-1、OpenBrain、DeepCentなどは架空のモデル・企業名
登壇者情報
遠藤 太一郎
株式会社カナメプロジェクト CEO
国立大学法人東京学芸大学 教育AI研究プログラム 教授
AI歴25年。18歳からAIプログラミングを始め、米国ミネソタ大学大学院在学中に起業し、AIを用いたサービス提供を開始。AIに関する実装、論文調査、システム設計、ビジネスコンサル、教育等幅広く手がけた後、AIスタートアップのエクサウィザーズに参画し、技術専門役員としてAI部門を統括。上場後、独立し、現在は株式会社カナメプロジェクトCEOとして様々なAI/DAO/データ活用/DX関連のプロジェクトを支援する。国際コーチング連盟ACC／DAO総研 Founder等
湯川 鶴章
株式会社エクサウィザーズ AI新聞 編集長
米カリフォルニア州立大学サンフランシスコ校経済学部卒業。サンフランシスコの地元紙記者を経て、時事通信社米国法人に入社。シリコンバレーの黎明期から米国のハイテク産業を中心に取材を続ける。通算20年間の米国生活を終え2000年5月に帰国。時事通信編集委員を経て2010年独立。2017年12月から現職。主な著書に『人工知能、ロボット、人の心。』（2015年）、『次世代マーケティングプラットフォーム』（2007年）、『ネットは新聞を殺すのか』（2003年）などがある。趣味はヨガと瞑想。妻が美人なのが自慢。
