3月7日「Yoshua Bengio氏 来日特別講演会」が開催された。主催は東大 松尾・岩澤研究室/JDLA。会場の東大福武ホールは200名以上で参加者で満席、これに加えオンライン参加者は1300名超えの様子。プログラム前半はBengio氏が登壇、後半は東大 松尾豊教授、江間有沙准教授らを交えたＱ＆Ａセッションの構成である。

　Bengio氏は「AIがどのようにして安全に制御できるかは、現代の最大の挑戦」と語る。一部の専門家は、人間がAIの能力を超えることはないと考えているが、AGIが実現した場合、人間よりも強くなる。これは危険信号と続ける。AIの誤用や悪用の可能性は重大な懸念事項であり、AIが人間の目標と一致しない行動をとる「ミスアラインメント」や、AI自体が「自己保存の本能」を持つことが潜在的なリスクとなる可能性を指摘する。さらにAIによる心理操作の懸念も高まっており、AIの行動と人間の価値観の間の整合性を保つことや、AIが制御不能になることを防ぐためのガバナンスや規制の必要性が強調された。

　1年前に氏自身がChatGPTを使い、先のことと考えていた危機を間近に感じたという。講演中、スクリーンに繰り返し示された「檻の中の猛獣」が印象的であったが、「AIに意図はなく、報酬を最大化しようとするマシン」であり、このアナロジーにも注意を促す場面に「人間を超えるAI」を扱う困難が垣間見える。ジェフリーヒントン氏が、AIのリスクを公に語るべくGoogleを突如退社したことも記憶に新しく、人間を傷つける、あるいは人間を操るAIの脅威に直面していることが肌で感じられる講演であった。