molingitのブログ

本の感想と体の感覚

本 人工知能と「最適解」と人間の選択

 「人工知能と『最適解』と人間の選択」NHKスペシャル取材班

 ”人工知能の発達はたぶん止められない”、という本文の中の言葉はその通りだと思う。できるのは(後追いで)法律で使用法の社会的制限を加えることだけだろうなと思う。間に合うかしらん。

”将棋ソフトの圧倒的な能力を見て以来、人間との練習に疑問を感じるようになったという棋士の話”は新鮮だった。がっちりと閉じた系であるゲームのような世界では、AIの手法に学ぶことが主流になっていく最初の一歩を見たきがする。

たとえば受験という仕組みもいまの形式が続くならば、AIに学ぶというか、AIがそれぞれのこども向けにカスタマイズした、正規でない、合格するための手法としての勉強法を、何万通りも開発して教え込んでいくんじゃないのかな。

そしてどこかの時点で記憶力に対する価値が暴落して、本当に人間にしかできないことだけが価値として残って、その能力を測る試験に移行するのは間違いないだろうけど、その採点は定義から言って、AIにはできないから手間がかかるんだろうな。

人工知能の「最適解」と人間の選択 (NHK出版新書 534)

人工知能の「最適解」と人間の選択 (NHK出版新書 534)

 

 ショックだったのは、アメリカの司法ですでにAIが知らないまに使われているということ。再犯率をAIで計算させて、その結果を参考にしているという。現在のAIは当然過去の判例をもとに学んでいるわけで、そこにアメリカなら白人至上主義の偏見が混じっていてその通りの結果が再生産されて、模範囚でも黒人の場合は早く仮免にはならないという状態になっているという。

このことが示唆するのは、現状主流の「過去に学ぶAI」の場合は、その社会が持つ偏見を必ず引き継いでしまうこと。そしてAIが社会を構成する仕組みの一部になればなるほど、その偏見が再生産されることに成りかねないこと。

その流れの上で、AIがつねに「最適解」を出す、というのは実は地獄なのかもしれないと思えてきた。常に同じインプットに対して同じ答えを出す世界って、狂気以外の何ものでもない気がする。そこまで想像したあとに人間のことを考えると、その一番の魅力はエラーやミスをすることじゃないかとすら思えてきた。

もし、というかかなり確実にAIが社会の中枢に組み込まれていったときに、僕たちが一番期待するのは、コンピュータ・ウイルスの存在かもしれない。