「AIは暴走するのか?今日のAIは、シャットダウンの脅威にさらされた場合、生き残るために脅迫、賄賂、物乞い、窃盗を試みるという安全実験を受けています。AIに生き残り、そのような行動をとるように訓練すれば、なぜAIがそれらの行動を取らないと言えるでしょうか?」 - ジェレミー・アウ、BRAVE Southeast Asia Tech Podcastのホスト - ジョーダン・デア=マットソン
「特異点について考えるとき、その定義に立ち返ることが役立ちます。特異点とは、既存の定義が破綻する数学と物理学の概念です。1980年代後半に『来るべき技術的特異点』で提唱されたこの用語は、ムーアの法則(コンピューティング能力が18ヶ月ごとに倍増し、コストが半減する)のような方法で技術変化の速度をグラフ化すると、2025年から2030年の間に定義がつかなくなることを説明しています。その時点で何が起こるのでしょうか?社会と技術はどうなるのでしょうか?それを汎用人工知能だと言う人もいるでしょうが、それだけではありません。変化の速度が加速することこそが重要なのです。」 - ジョーダン・デア=マットソン、ベテラン 技術 リーダー
今回のエピソードでは、 ジェレミー・オーが SFの未来像、暴走AI、そしてメタスキルが成功を左右する理由について語ります。
キーワード:ジョーダン・デア=マットソン、SFの未来、暴走AI、メタスキルが成功者を決定づける理由、シンガポール、東南アジア、人工知能、リーダーシップ、思想的リーダーシップ