本 人工知能はどのようにして「名人」を超えたのか？

「人工知能はどのようにして「名人」を超えたのか？」山本一成さん著。

将棋AI「ポナンザ」の作者である著者の視点による、人工知能の現状を一冊にまとめたもの。読んで思ったことを書く。

現状のAIには「論理が全然ない」というのは本当のこと。ポナンザは一兆局面分の将棋を学習して最強だけど、「この局面だったらこの手が一番確率高いよね？」ってことをディープラーニング他で学習して、勘（確率）で予測をいうことはできるけど、それが「なぜか」は知らない。「論理」を使ってないから。やたらめったら勘がよくて「結果上手くいってるからOK」なのが今あるAIの一般的傾向。

おそらく「論理」と「ディープラーニング（深層学習）」を組み合わそうという研究は鬼のようにあるんだけど、どんな「論理」をどれだけ組み合わせるか？の部分に、その研究者の限界が反映されてしまって（誰がやっても）、「ディープラーニング」単体で使ったAIのほうが成果が出てしまうのが現状なんじゃないのかな？

それは例えば、人が一生生きていく上で出会うときの判断（＝論理）をすべて最初に教え込もうとしたときに必要なルールの量と、その優先順位が想像がつかないのと同じ。

人工知能はどのようにして 「名人」を超えたのか?―――最強の将棋AIポナンザの開発者が教える機械学習・深層学習・強化学習の本質

 また、実際にAIを触ってないと伝わりにくいけど大事なのは、現在の人工知能が機能する上では「探索」と「評価」のセットが必要であり、「探索」部分は人間のプログラマが担っていて、AIが自分だけで行うのは評価の部分だけであるという話。

これは１歳児にご飯をたべさせることが比喩として近い。食材をたべやすい均等なサイズに切って、熱くもなく冷たくもなくして、口元ぴったりにスプーンで運ぶ（全部が探索）と、やっと子供（＝AI）はその食べ物（＝DATA）を食べる（評価）してくれる。

リアルな話でいうと解答用紙を自動採点させる場合、解答用紙のどこに何番に対応する答えが書いてあるかを人間が指定して、その箇所をクローズアップして、読みやすい大きさの画像に切り取り、いつもと同じ濃度に加工して、回転やズレを修正して（この全部がプログラムという探索）、やっとAIはそれを処理（評価）してくれる。

逆にいうと、その「前処理」＝「探索」のところまでAIが自分で出来るようになった瞬間に、AIは人類が全く手のとどかない何かの高みに登ってしまうだろうと思う。それは数年単位のように徐々に変わるのではなくて、ほとんど、ある日突然みたいな。

そうなったときのために、人間を守ろうとするロボット三原則のような「論理」をAIに組み込もうとするのはきっと筋目が違うだろうと思う。普通に「論理」が使えることがロボットにとって役立つから共生みたいな。