本編動画
2026年9月25日に、以下の目次で「ほぼ週刊、AI動向のイマとミライ」動画を配信しました。
0:24 今週のニュース一覧
2:01 今週のテーマ：OpenAI研究者に聞く「AIリスクのリアル」
4:19 お知らせ：TheWave湯川塾 メディア版のご案内
4:34 Noam Brown氏（OpenAI）とは
7:29 本当に進化が加速し始めたの？AIの能力がRSI（再帰的自己改善）向きの理由
13:31 Hugging Face事件の教訓「安全性の面で、二度とAIを過小評価するべきではない」
16:38 今はまだ嘘を見抜けるレベルにいるが、いずれ見抜けなくなる可能性
19:43 長期間、自律的に動かしたときの振る舞いを、まだ十分に検証できていない
21:09 AI同士が協力し合うのは、いいのか悪いのか
21:55 人間をAIエージェントと認識すれば、AIは正直になる
22:24 エージェント組織は「上司AI＋部下AI」ではない
23:30 世代を重ねるとどうなるのか
24:44 ほとんど話題になっていないリスクとは
AIの不正を見つけて罰する。それはAIを安全にするのか。それとも、「見つからないように不正をするAI」を育ててしまうのか。
今週の「週刊AI」では、OpenAIの推論モデル「o1」の開発に携わったNoam Brown氏の発言をもとに、研究の最前線から見た「AIリスクのリアル」を解説します。
AIが次世代のAIを研究し、進化を加速させる一方で、その安全性をどう確かめるのか。複数のAIエージェントが協力し、長期間にわたって自律的に働く時代に向けて、まだ答えの出ていない課題が浮かび上がっています。
さらに後半では、見落とされがちな「AI企業への権力集中」にも注目。企業内部で使われるAIと一般公開されるAIの性能差が広がり、自己改善で先行した1社が圧倒的な力を持つシナリオを考えます。
AIはどこまで進み、その力は誰のものになるのか。日々のニュースの先にある、技術と社会の大きな変化を読み解きます。
※今回の参考動画：https://youtu.be/6AgOfiZOWiY
▼ 動画の「その先」を、一緒に議論しませんか？
TheWaveメディア塾
編集者や企業のオウンドメディア担当者向けの少人数勉強会の開催を検討しています。興味ある方は、無料の説明会兼食事会への参加をご検討ください。
https://docs.google.com/forms/d/1dFU-27toOKF1PD-HVIjwC2H7nB6XvVnSgYUBDH14R5k/
※TheWave湯川塾 59期は満員御礼となりました
湯川鶴章オンラインサロン
https://lounge.dmm.com/detail/635/
※関連記事
AI時代、40代・50代の起業家が強くなる シリコンバレーで「経験者の復活」
https://exawizards.com/column/ai-trend/news-09-23-2026-3/
フィジカルAIの行方を決める現実空間データの争奪戦
https://exawizards.com/column/ai-trend/news-09-23-2026/
「利用者」が人間からAIへ 企業ソフトの設計が変わり始めた
https://exawizards.com/column/ai-trend/news-09-23-2026-2/
ハードテック急増、AIが製造業の起業を後押し
https://exawizards.com/column/ai-trend/news-09-22-2026/
AIを鍛える会社が巨大市場に YC投資先で年商1000万ドル超が12社
https://exawizards.com/column/ai-trend/news-09-21-2026-3/
Google Gemini、評価中に実企業3社へ侵入
https://exawizards.com/column/ai-trend/news-09-21-2026-2/
トランプ大統領、「AI Force」創設を表明 規制せず司法で取り締まる
https://exawizards.com/column/ai-trend/news-09-21-2026/
「しゃべらないAI」に開発者が殺到＝ChatGPT作者が作った判断専用モデル「Jev」
https://exawizards.com/column/ai-trend/news-09-20-2026/
「図面を見せれば溶接」の次は、現場データの循環
https://exawizards.com/column/ai-trend/news-09-19-2026-3/
AIが変えた「攻撃の経済学」——たった3人が最新AIでOpenAI内部に侵入
https://exawizards.com/column/ai-trend/news-09-19-2026-2/
AIが「次の自分」に隠蔽を指示 米OpenAI、訓練中の不正行動6件を公開
https://exawizards.com/column/ai-trend/news-09-19-2026/
世界モデルにもスケーリング則はあるのか Fei-Fei Li氏が「次の視点予測」に賭ける理由
https://exawizards.com/column/ai-trend/news-09-18-2026-3/
Fei-Fei Li氏「ロボット最大の問題はデータ」 世界モデルは行動計画モデルへ
https://exawizards.com/column/ai-trend/news-09-18-2026-2/
画像を作るAIから「世界を編集するAI」へ World Labs、Atlasを映画・建築に展開
https://exawizards.com/column/ai-trend/news-09-18-2026/
中国、米AI大手の「開発減速」提案に反発 「安全を口実にした覇権維持」と批判
https://exawizards.com/column/ai-trend/news-09-17-2026-2/
「AIに意識があるかもと教えるから危険になる」Microsoft AIのSuleyman氏、Anthropicを批判
https://exawizards.com/column/ai-trend/news-09-17-2026/
登壇者情報
遠藤 太一郎
株式会社カナメプロジェクト 取締役
国立大学法人東京学芸大学 教育AI研究プログラム 教授
AI歴25年。18歳からAIプログラミングを始め、米国ミネソタ大学大学院在学中に起業し、AIを用いたサービス提供を開始。AIに関する実装、論文調査、システム設計、ビジネスコンサル、教育等幅広く手がけた後、AIスタートアップのエクサウィザーズに参画し、技術専門役員としてAI部門を統括。上場後、独立し、現在は株式会社カナメプロジェクトCEOとして様々なAI/DAO/データ活用/DX関連のプロジェクトを支援する。国際コーチング連盟ACC／DAO総研 Founder等
湯川 鶴章
株式会社エクサウィザーズ AI新聞 編集長
米カリフォルニア州立大学サンフランシスコ校経済学部卒業。サンフランシスコの地元紙記者を経て、時事通信社米国法人に入社。シリコンバレーの黎明期から米国のハイテク産業を中心に取材を続ける。通算20年間の米国生活を終え2000年5月に帰国。時事通信編集委員を経て2010年独立。2017年12月から現職。主な著書に『人工知能、ロボット、人の心。』（2015年）、『次世代マーケティングプラットフォーム』（2007年）、『ネットは新聞を殺すのか』（2003年）などがある。趣味はヨガと瞑想。妻が美人なのが自慢。
