【AI研究者が解説】今、AIはどの程度安全なのか。10年前の予測と現状を専門的視点から比較(2025年9月15日配信版)

目次

本編動画

2025年9月15日に、以下の目次で「ほぼ週刊、AI動向のイマとミライ」動画を配信しました。

1:08 10年前のBostrom氏の予測と、10年後の現状
2:15 整合性問題(アライメント)の中核課題
8:57 「欺瞞・ごまかし」など望ましくない振る舞いの懸念
10:22 モデルが評価を察知して取り繕う可能性
11:26 ガバナンスの必要性
13:21 地政学・供給網リスク/社会的合意形成・危機認識
14:52 AI × 合成生物
15:25 決定的戦略優位と、急激なインテリジェンス・エクスプロージョン
16:56 全脳エミュレーション(WBE)等のルート
17:36 まとめとディスカッション

★「超知能時代を予見した哲学者が見る未来」シリーズ
https://youtu.be/Wpm8OyKXlds
https://youtu.be/ARHaDIbyIBc⁩ ③https://youtu.be/k_CiRZHwa8Q
https://youtu.be/iH64OD-1M3c  

◆関連URL
・Nick Bostrom著 – Superintelligence: Paths, Dangers, Strategies
https://amzn.asia/d/6Z47WCz

登壇者情報

遠藤 太一郎

株式会社カナメプロジェクト CEO
国立大学法人東京学芸大学 教育AI研究プログラム 教授

AI歴25年。18歳からAIプログラミングを始め、米国ミネソタ大学大学院在学中に起業し、AIを用いたサービス提供を開始。AIに関する実装、論文調査、システム設計、ビジネスコンサル、教育等幅広く手がけた後、AIスタートアップのエクサウィザーズに参画し、技術専門役員としてAI部門を統括。上場後、独立し、現在は株式会社カナメプロジェクトCEOとして様々なAI/DAO/データ活用/DX関連のプロジェクトを支援する。国際コーチング連盟ACC/DAO総研 Founder等

https://kaname-prj.co.jp/

湯川 鶴章

株式会社エクサウィザーズ AI新聞 編集長

米カリフォルニア州立大学サンフランシスコ校経済学部卒業。サンフランシスコの地元紙記者を経て、時事通信社米国法人に入社。シリコンバレーの黎明期から米国のハイテク産業を中心に取材を続ける。通算20年間の米国生活を終え2000年5月に帰国。時事通信編集委員を経て2010年独立。2017年12月から現職。主な著書に『人工知能、ロボット、人の心。』(2015年)、『次世代マーケティングプラットフォーム』(2007年)、『ネットは新聞を殺すのか』(2003年)などがある。趣味はヨガと瞑想。妻が美人なのが自慢。

https://community.exawizards.com/aishinbun

よかったらシェアしてね!

この記事を書いた人

人ひとりが自分な好きなこと、得意なことを仕事にして、豊かに生きる。 そんな社会に向けて、次なる「The WAVE」を共に探り、学び、創るメディアブランドです。

目次