本編動画
2024年6月6日に、以下の目次で「ほぼ週刊、AI動向のイマとミライ」動画を配信しました。
0:35 ①OpenAIの元スーパーアライメントチームによるリーク文書を紐解く意義
4:11 ②定義によるが、思ったよりも早くAGI時代が到来しそう
15:38 ③AGIから超知能（Superintelligence）までの道のりが具体的に示される
20:37 ④超知能時代になると世界はどうなるのか？
33:07 ⑤AGI開発は民間主導ではなく、政府主導にするべきという意見
37:17 ⑥超知能との共存に向けて
42:23 ⑦AIは今後も急成長し続けるのか、それとも成長が鈍化するのか
各チャプターの概要は以下の通りです。
①OpenAIの元スーパーアライメントチームによるリーク文書を紐解く意義
・165ページのリーク文書「SITUATIONAL AWARENESS」の内容を、Geminiを通じてスライド化して解説
②定義によるが、思ったよりも早くAGI時代が到来しそう
・GPT-2からGPT-4までの4年間のAI成長速度（「幼稚園児」レベルから「優秀な高校生」レベルへの急成長）を前提にするのであれば、2027年までにAGIに到達する可能性が高い、という論調。
・AIの進化を支える3つの要因：計算能力の向上、アルゴリズム効率の向上、アンホブリング（RLHFやCoT、ツール利用などの様々な個別の技術によってAIの潜在能力が解放されて性能が飛躍的に向上している）
・アンドリーセン・ホロウィッツによると、CoT（Chain-of-Thought：思考の連鎖）が自己改良ループで使えるようになってきているとのこと。つまり、AIが自分で自分を改良できるようになってきている
・この3つの要因を根拠に2027年にAGIが実現するとしているが、AGIの「定義」によって実現時期というものは変わりうる
・主流はOpenAIのAGIの定義だが、今のAIは猫くらいの知能しかない存在がものすごい知識を持っているに過ぎないのでAGIとは言えない、という意見もある（ヤン・ルカン先生など）
③AGIから超知能（Superintelligence）までの道のりが具体的に示される
・AGIの登場は、AI研究を自動化する「知能爆発」を引き起こし、AIは超知能へと進化する
・AIによるAI研究の自動化→100万人のAI研究者（AGI群）によってより高度なAGIが開発→AI研究の加速→このサイクルが繰り返されることで超知能に近づく
・知能爆発のイメージ図でシンギュラリティのいちが明らかに？
④超知能時代になると世界はどうなるのか？
・超知能は、ロボット工学、科学技術、経済、軍事など、あらゆる分野に革命的な変化をもたらす
・複雑な問題解決、創造的な思考、高速な学習など、あらゆる知的タスクにおいて人間を凌駕する
・ロボット工学が著しく進歩し、科学技術が加速し、生産性が向上して経済成長の爆発し、そういった国は軍事力の圧倒的優位性を確保することになる
・最初に労働力が向上し、科学技術、ロボット、軍事の順番で変化がもたらされ、最後にGDPへと反映されていくイメージ
・超知能時代を生き抜くためには、AIとの共存、AIの制御、AIの倫理について真剣に考える必要がある
・超知能を持つ国が、国際政治・経済におけるルールを書き換え、新たな世界秩序、国際的な緊張、紛争のリスクが起こる可能性が高まる
・AI開発競争：アメリカ VS 中国の構図。文章の目線は完全にアメリカサイド
・サム・アルトマン解任騒動とスーパーアライメントチーム解散の背景予想
・中国のAI超大国への野望とアメリカの対応に関するまとめ。権威主義国家による超知能の利用は、監視社会、思想統制、軍事侵略など、人類の自由と安全を脅かす悪夢をもたらすかもしれない
・超知能時代において、アメリカのリーダーシップは、人類の未来を左右する重要な役割を担うという意見。具体的な行動としては、①民主主義国家によるAI開発の推進、②国際的な安全保障体制の構築、③過去の成功事例が提示されているが、一方的な決めつけの印象も拭えない
・結論として、超知能時代がどうなるかを予測するのは不可能ではないか
⑤AGI開発は民間主導ではなく、政府主導にするべきという意見
・このような背景から、政府主導によるAGI開発が必要と考えられる
・スタートアップ企業任せにするにはあまりにも重要かつ危険すぎる。スタートアップで進めると、資金力や人材の不足、セキュリティ対策の脆弱性、意思決定の不透明性等のリスク要因が考えられる
・文章では、かつて核兵器開発を成功させたマンハッタン計画のように政府が主導して国家資源を集中させる必要がある、と記載している
・全体的に、いかにアメリカが覇権を取るか、みたいな文脈
・もっとWeb3的な思想のアプローチを取り入れないと、いよいよ危険な方向に進むことになりかねない
・アメリカは、「プロジェクト」を通じて同盟国との共同開発を推進し、国際的な安全保障体制を構築することで、超知能がもたらすリスクを抑制し、人類全体の利益のために利用することを目指すとしている
⑥超知能との共存に向けて
・超知能時代を生き抜くためには、AGIリアリズム（現実的な視点に基づいたAI開発と利用）が必要であり、人類全体の利益を最優先に考えた行動が求められる
・文章全体をまとめてみると、これまでのAI脅威論等に対する話と同じと考えられる
⑦AIは今後も急成長し続けるのか、それとも成長が鈍化するのか
・進化のドライバーは「出資」。一方でウォール・ストリート・ジャーナルは「AI革命はすでに減速し始めた」というテーマの記事を配信しており、最近は多くの投資家もそこを気にし始めている
・ここ半年でOpenAIに多くのLLMが追いついてきたということは、それだけコモディティ化がすすみ、成長のペースが鈍化してきた証でもあると言える
・ウォール・ストリート・ジャーナルは「AI成長の鈍化」の他に、「AI利用料の高さ」、それから「用途の狭さ」を指摘している
・用途の狭さは日本企業のビジネスパーソンの所感からも垣間見える。ただし、GPT4 omniを利用すると、用途の広がりを実感できるかもしれない
・一方でまだまだ伸びるという意見もある
・スマホに載ってくると新しい用途が出てくるだろうから、そうなると投資回収もできるようになるかもしれない
・2年先の予想はSFの世界
個別テーマ解説動画
また、各テーマに分割した動画も配信しました。興味のあるトピックに応じてご覧ください。
汎用人工知能（AGI）の実現は【2027年】！？元OpenAIメンバーによるリーク文章が示す「根拠」とは
0:00 OpenAIの元スーパーアライメントチームによるリーク文書を紐解く意義
3:37 幼稚園児から高校生へ、AIの驚異的な進化
5:29 AIの進化を支える3つの要因
9:02 「アンホブリング」によるAI性能の飛躍
11:15 2027年、AGIは現実のものとなる
※サムネイル画像はInspiredImagesによるPixabay画像を活用
AGIが登場すると、AI研究の自動化で「知能爆発」が起き、AIは超知能へと進化する
0:00 AGIが24時間365日体制でAIを自動研究する世界
3:09 あるタイミングで発生する「知能爆発」とは
※サムネイル画像はGerd AltmannによるPixabay画像を活用
もはや軍事技術まっしぐら。「マンハッタン計画」を成功例として捉えるAI開発思考ってどうなの？
0:00 超知能がもたらす革命的な影響を考える
5:57 アメリカvs中国で捉えるAI開発競争
12:29 AGI開発は民間主導ではなく、政府主導にするべきという意見
※サムネイル画像はWolfgang EckertによるPixabay画像を活用
超知能との共存には「AGIリアリズム」が必要
0:00 超知能との共存に向けて
5:06 もはや2年先の予想はSFの世界
※サムネイル画像はGerd AltmannによるPixabay画像を活用
登壇者情報
遠藤 太一郎
株式会社カナメプロジェクト CEO
国立大学法人東京学芸大学 教育AI研究プログラム 准教授
AI歴25年。18歳からAIプログラミングを始め、米国ミネソタ大学大学院在学中に起業し、AIを用いたサービス提供を開始。AIに関する実装、論文調査、システム設計、ビジネスコンサル、教育等幅広く手がけた後、AIスタートアップのエクサウィザーズに参画し、技術専門役員としてAI部門を統括。上場後、独立し、現在は株式会社カナメプロジェクトCEOとして様々なAI/DAO/データ活用/DX関連のプロジェクトを支援する。国際コーチング連盟ACC／DAO総研 Founder等
Lucky☆TEDDY
The WAVE フェロー
The WAVEのリサーチ責任者であり、「良心」を司る存在でもある人物。左手には様々な最先端テクノロジーが詰まった福袋を、右手には幸せと豊さを呼ぶ黄金の小槌を持ち、毎日ゴキゲンに情報の荒波をサーフィンしながら、常に2歩先の未来を見据えて鋭い切り口で世の中の動向を分析する。たまに毒づくこともあるが、それも愛ある証拠。帽子には良心の「良」の文字が刻まれている。
