ココロミにきみ

本と体とプログラミング

本 私たちはAIを信頼できるか

「私たちはAIを信頼できるか」インタビューと座談会

 

今まで「スマートシティ」や「メタバース」という言葉を
単に「便利な街」とか「VRの世界」と思ってたけどそうではなく、
「AIが全てをコントロールして効率的に動く」街なり世界の話だということを知った

* * *

ただ現状AIは「フレーム問題」が解決されいてない
これは何かの課題を解決する際に、「どこまでの範囲でその課題を解決するか」という問題で、今のAIにはその判断ができない

例を挙げると、たとえば「人類が一万年後まで生き延びるような社会」という課題をAIに与える
すると、10000年後まで人類が生き延びても、10000年と1日たった日にはエネルギーが枯渇するプランを出してくるかもしれない

そこで、「宇宙が続くかぎりできるだけ長く人類が存続できる社会」と課題をAIに与えると
その瞬間に人類の99.99%ぐらいが粛清されて、遺伝に問題が出ない程度の人数だけを残して、エネルギー消費量を落として人類を存続させようとするかもしれない

つまりは、フレーム問題を解決しない限り、人間が「全ての前提条件を考えぬく」必要がある(それをAIと呼ぶのだろうか)

* * *

いつかは「フレーム問題」も技術で解決する日が来るかもしれない
もしくは、知性のあり方が人間と一緒である必要はないので、人間が全然理解できない種類の「知性」がAIに出現して、何とかなるのかもしれない

後者の場合はそれこそ「信頼できるかどうか」すら判断できないけど
前者の場合でも、おそらく人間が自分たち自身の理解が進んで(そうでないとAIに実装できない)、問いかけの意味も変わってくるのかもしれない

・・・といろいろ思うのだけど、本の結論は「人間は(現状のままでも)AIを信頼してしまうだろう」と