このように、現在、人工知能の開発は飛躍的に進んでいるのですが、実は同時に科学者やエンジニア達は今、少し困った状況になっています。
それは、人工知能の性能を上げるほど、なぜ性能が上がったのかを説明できなくなっているのです。
Ponanzaは私が開発したプログラムなので、細部まで私が考えて作っています。しかも私は、将棋プログラムという狭い領域のことなら、世界でもトップレベルによく理解しています。それでも、Ponanzaはすでに理論や理屈だけではわからない部分が沢山でてきています。
現在のPonanzaの改良作業は、実は真っ暗闇のなか、勘を頼りに作業しているのとほとんど変わりがありません。これは絶対うまくいく、と思った改良が成功しないことは日常茶飯事で、たまたまうまくいった改良をかき集めている、というのが実情です。たまたまうまくいった改良を集める結果から、私から見るとPonanzaはますます黒魔術化しているようにみえるのです。
以前考えてたことが、だいたい当たってた感じで嬉しいです(この日記のどっかには書いてあります)。人間以上のAIが出てきたら、そいつがやってることを理解できないだろうっていう。まぁふつうに考えたら当然のことです。理解できるってことは、そいつの全体が見えるってことです。そいつがどうやって動いてるのか説明できるってことです。そいつは自分より小さいってことです。つまり自分以下のシステム、自分のなかでエミュレート可能なシステムってことですからね。相手が自分を超えちゃったらそんなことはできません。
具体的になんで理解不能なのかはわかりません。ひとつ考えてるのは、多次元すぎるから、みたいな感じです。空間は3次元です。宙に浮いてる点をちょんとつついたら、XYZの3つの座標が変わってしまいます。うまーくやればXとYの値を変えないままZだけ変えることもできますが。でも最近のAIがディープラーニングで蓄えたデータはもっと遥かに次元数が多く、ちょんとつついただけであらゆるパラメータが変化してしまうため、もはや人間にはバランスを崩さないままにはいじれない、みたいなふう？ ふつうの人間のワーキングメモリは小さいので、そんなに一度にいっぱいのことを考慮しながら何かを足したり引いたりすることはできません。だからもしかしたら、サヴァン症候群みたいな人だったらAIが何をやってるのかわかる、みたいなことはあるのかも知れません。あるいは将来的になんかの技術で脳を増量するとかね。
もうひとつ考えてるのは、そもそも知性の形、成り立ちが人間とは異質なので、永遠に理解不能だろうという。これもあるかもなぁと思います。
以上が人工知能やPonanzaと黒魔術のお話でしたが、ここではっきりとお伝えしておきたいのは、私が黒魔術を嫌っていたり、Ponanzaが黒魔術化することを恐れているわけではないということです。なぜならPonanzaは、私よりもはるかに強い将棋のプロ棋士たちを相手に戦うために設計されているからです。今の人工知能というものはプログラマーの直感や予想された性能を逸脱することが求められています。だからPonanzaは私の理解の及ばない範囲にいてくれなければならないのです。
黒魔術を受け入れる勇気の話ですね。ブラックボックス展というのが話題になってましたが、まぁあれは関係なくって、たとえばテレビとかはぼくにはブラックボックスなわけです。なんかわからんけど映る。映るからまぁいい。そんな感じ。少なくとも、テレビが映る理由をメーカーの開発の人なら説明できます。でも、今のAIは、なんでこいつが頭いいのかを世界の誰も、作者すらも説明できない。そんな領域に入っちゃったんです。そして、今後人間は、そういうものに頼らざるを得ないわけです。政治をAIに任せたら、あるマイノリティグループに酷い負の影響がある政策を実行せよって言われるかもしれない。理屈もわからないままにそれを受け入れる勇気をぼくらは持てますかね？
"魔術"で充分なのに"黒魔術"って言っちゃうんですよね。気持ちはわかる。
