AIが『黒魔術』と呼ばれる理由
意味は「我々人間には理解できない技術」の総称のことだ(きのう毎日新聞)
多くの人はおそらく意味が分からないので、順を追って説明すると
たとえば、先日、将棋界のトップに立つ佐藤名人を
打ち破った「ポナンザ」という将棋ソフトがあるが
そのポナンザが、どのようにして名人に勝つことができたのか?
なぜこの手を使ったのか?…など
そうした判断プロセスに関しては、何もわからないのだそうだ。
ポナンザ自身、説明してはくれない。
一方、医療現場でも活躍の場を広げているAIだが
例えば患者の診察データや画像をインプットして、そこから病気を診断する。
しかし、それについてもAIは診断理由を明確には示してくれないのだそうだ。
人工知能は、ディープラーニング(深層学習)という手法を使って
瞬時にいろいろなことを判断するが、そのプロセスはもはや人智を超えていて
我々人間には理解できなくなりつつある。
だから「黒魔術」なのだろう。
魔法のような方法で、信じられない成果を上げるが
それが、どういうしくみで、そうなったのか、我々には理解できない。
いつか最高の科学脳をもったAIが、タイムマシーンを発明するかもしれない。
だが、我々人間には、その機械のしくががまるで理解できない。
理解できないが、我々は過去や未来に自由に行き来することができる。
そんな事態が起こるかもしれない。
遠くない未来、AIは我々にとって、不気味な存在になっているかもしれない。
ある海外の研究所が、AI同士で会話をさせたそうだ。
すると、AIは、自分たちにしか分からない言語を生み出し
その言葉を使って会話を始めた。
驚いた研究所の人は、急いでAIの電源を落として、会話をやめさせたそうだ。
人より賢くなったAIが、果たして100%、人間のために尽くす存在で
あり続けるのか?
患者の治療方法をAIに判断させるのはいいが、はたして信用していいのか?
そのAIドクターが、たとえば日野原先生みたいなAIならいいが
ブラックジャックに出てくる悪徳医師のドクターキリコみたいなAIだったら
たまったもんじゃない。