本編動画
2024年10月7日に、以下の目次で「ほぼ週刊、AI動向のイマとミライ」動画を配信しました。
0:00 (1)OpenAI DevDayのサム・アルトマン氏登壇セッションに注目すべき理由
4:07 (2)AGIをマイルストーンではなく「フェーズ」で捉える考え方
15:05 (3)GPUを買い集めてもOpenAI o1の「論理的思考力」に到達できるとは限らない
20:43 (4)アルトマン氏が考えるOpenAIの強みとは
24:49 (5)サイエンスの言う通りに動かなければならない
26:24 (6)「超知能」完成時の安全策は、事前に用意できない
31:28 (7)エージェントの「本当の凄さ」をまだ誰も実感できていない
41:43 (8)一部のサードパーティにエージェント機能を提供し始めている
43:26 (9)次の進化を見越して開発しつつ、しっかりとした組織を作ることが大切
44:37 (10)o1はエージェント向けのAIとして急速に進化する
48:12 (11)o1以前と以後の、エージェントの仕組みの違い
49:47 (12)その他、質問への回答内容
50:59 (13)対談から感じるOpenAIの「社風」の変化
各チャプターの概要は以下の通りです。
(1)OpenAI DevDayのサム・アルトマン氏登壇セッションに注目すべき理由
・技術系経営者の技術者に対する発信こそが、一番信頼できる情報
・DevDay 2024の、Sam Altman氏と最高製品責任者・Kevin Weil氏の対話セッションに関する公式公開動画が存在しないので、今回は参加者によるスマホ撮影動画を参照の上で、Altman氏の考えや、OpenAIの方向性について解説
(2)AGIをマイルストーンではなく「フェーズ」で捉える考え方
・AGI時代は1つのAIモデルの登場で突然始まるのではなく、「連続的な進化のフェーズ」を経て、「気がつけばAGI時代に入っていた」というものになる。今既にその連続的進化のフェーズに入っている
・「AGIの実現をいつと見るのかは、未来から見るとバカげた話になる」by. Sam Altman
・チューリングテストがいつの間にか通り過ぎていて、AIがチューリングテストにいつ合格したかを誰も気にしなくなったのと同様、AGIもそのようなフェーズで捉える考え方
(3)GPUを買い集めてもOpenAI o1の「論理的思考力」に到達できるとは限らない
・スケールを追い求めたフェーズから、再び「リサーチ重視のフェーズ」へと突入
・「o1は、とても大きなリサーチのブレークスルーだ」by. Sam Altman
・OpenAIを辞めた研究者（Leopold Aschenbrenner氏）が6月に出したリーク文書によると、AIを進化させるのは①計算資源 ②効率化（事前学習） ③unhobbling（事後学習）。中でも「今後は③に期待」と言っている
(4)アルトマン氏が考えるOpenAIの強みとは
・「われわれは、新しいパラダイムを次々と見つけようとしている。それがわれわれのしたいことでもあるし、それを製品化に結びつけるというのがわれわれが得意とするところでもある。それは大変な仕事だけど、それをするのが好きな社風というのが、OpenAIの強みだと思う」by. Sam Altman
・過去に様々なテック大手のプロダクト責任者を勤めてきたKevin Weil氏は、「OpenAIではコンピューターに何ができるかのところが2、3カ月ごとに突然変わる」点が大きく違うと発言
(5)サイエンスの言う通りに動かなければならない
・OpenAI自身、リサーチの結果（サイエンス）による予測が当たることもあれば、外れることもある。外れることの方が多い。
・AI進化の方向性は誰にもわからない
(6)「超知能」完成時の安全策は、事前に用意できない
・AIの進む方向性を決めることができず、サイエンス（リサーチの結果）の言う通りに動くしかないとなると、AIに対する安全性も、その都度考えるしかない
・今の安全性の課題は、2年前に想定していたものとはまったく別物
・「一方で未来に対する想像力も必要。目の前の課題に対する取り組みと、長期的未来の安全性に対する取り組みの両方からAIの安全性に取り組むべきだと思う」by. Sam Altman
(7)エージェントの「本当の凄さ」をまだ誰も実感できていない
・「o1とその後継バージョンが持つ論理的思考や、大きな問題を分解し細かな問題を計画的に解いていくという能力が、エージェント時代を切り開いていくのは間違いない。2025年は非常に重要な年になるように思う。短期間に世界のあり方に非常に大きな変化を与える重要な出来事だと思う」by. Sam Altman
・エージェントを考える際の“サブゴール問題”についても、アラインメント面でしっかりと考える必要がある
・非常に大きな変化だが、人間はどんなイノベーションにもすぐに慣れる
・「そのうち一度に10個のエージェントに仕事を任せるようになり、最後には一度に1,000個のエージェントに仕事を任せるようになる。2030年ごろには、そうした仕事の仕方が当たり前になる」by. Sam Altman
(8)一部のサードパーティにエージェント機能を提供し始めている
・プログラミング支援ツール「Devin」開発のCognition社や、法務関連AIのHarveyやCasetext、言語関連のSpeakなど
(9)次の進化を見越して開発しつつ、しっかりとした組織を作ることが大切
・ちょうどいい感じの不完全な製品を開発することで、次の進化にも耐えうる製品になる。難しいと思うけど
・一般的なビジネス同様、時間とともに強みが強化される仕組みを作るという、当たり前のことを忘れないことが大事
(10)o1はエージェント向けのAIとして急速に進化する
・「system prompts、structured outputs、function callingなどの機能は年内にo1に搭載される」by.Kevin Weil
・「これからの何カ月間かは、エージェントに最適なモデルを開発することがわれわれにとっての重要な業務になる」by. Sam Altman
(11)o1以前と以後の、エージェントの仕組みの違い
・LLMに計画・メモリ・ツール・行動などが載ってくることが想定される
(12)その他、質問への回答内容
(13)対談から感じるOpenAIの「社風」の変化
・共同創業メンバーが抜けていったことで、良くも悪くも、よりAltman氏のワンマン体制になったのでは
・ここまでの内容を前提に、次回はSoftBank World 2024での内容を見ていく
登壇者情報
遠藤 太一郎
株式会社カナメプロジェクト CEO
国立大学法人東京学芸大学 教育AI研究プログラム 准教授
AI歴25年。18歳からAIプログラミングを始め、米国ミネソタ大学大学院在学中に起業し、AIを用いたサービス提供を開始。AIに関する実装、論文調査、システム設計、ビジネスコンサル、教育等幅広く手がけた後、AIスタートアップのエクサウィザーズに参画し、技術専門役員としてAI部門を統括。上場後、独立し、現在は株式会社カナメプロジェクトCEOとして様々なAI/DAO/データ活用/DX関連のプロジェクトを支援する。国際コーチング連盟ACC／DAO総研 Founder等
湯川 鶴章
株式会社エクサウィザーズ AI新聞 編集長
米カリフォルニア州立大学サンフランシスコ校経済学部卒業。サンフランシスコの地元紙記者を経て、時事通信社米国法人に入社。シリコンバレーの黎明期から米国のハイテク産業を中心に取材を続ける。通算20年間の米国生活を終え2000年5月に帰国。時事通信編集委員を経て2010年独立。2017年12月から現職。主な著書に『人工知能、ロボット、人の心。』（2015年）、『次世代マーケティングプラットフォーム』（2007年）、『ネットは新聞を殺すのか』（2003年）などがある。趣味はヨガと瞑想。妻が美人なのが自慢。
