社員ブログ

「人工知能は天使か悪魔か」ＮＨＫ特集　羽生善治　人工知能を探る

5月15日（日）ＮＨＫスペシャル　観ましたか？
ビックリしました、たまげました。
将棋界の天才羽生善治氏が人口知能の可能性を探っていくという番組でした。
トピックスとしては、囲碁の世界チャンピオンが人工知能と対戦し、
１勝４敗と人工知能の圧勝で終ったのです。誰もが予想しなかったチャンプの大敗。
その人工知能を作っているのがグーグルの小会社（正確には600億円で買収して小会社化した）です。

しかも、勝ち方のほとんどが圧勝です。所謂定石というパターンからは逸脱した、
戦略でチャンピオンを圧倒したのです。
試合の解説者も「有り得ない打ち方だ」の連発。
チャンプも解説者も所詮、過去の延長線上でしか考えられないのでしょう。

今までの人工知能は過去の対戦データを蓄積していき、その打ち方を分析し、
その時々にあった手を過去の膨大なデータから検索をして、打つ手を考えていたようです。
ですから人工知能であっても所詮過去の延長線になってしまうのです。つまり創造力がなかったのです。

今回の人工知能は過去のデータを蓄積することはもちろんのこと、
人工知能同士を対戦させ、人間の時間軸と全く違う次元とスピードで対戦を繰り返し、
創造を超える新たな対戦データを蓄積していったようです。
そして常に全てのデータから分析するのではなく、局地戦に持ち込んだ場合は、
その局地戦にあったデータのみを深堀して、検討のスピードアップを図っていく。
人間は２４時間という時間軸から離れることはできません。
人工知能は人間ではないし、疲れもしない、眠らない、スピードが違う、人工知能の時間軸は人間と全く違うのです。
その違う次元を生きている（ちょっと変な話しですが）知能から出てくる発想もまた次元が違うのです。
宇宙人と同じです。はっきり言って。人工知能の話しになると、いつも「人工知能は人間を超えられるか？」というテーマが出てくるが、
この質問自体おかしいと思わないと。人間と人工知能は違うものです。

この対局の中で、唯一第４戦目は人間のチャンプが勝利しました。勝因は人工知能側の暴走です。
つまりパソコンでいうところの「バグ」の発生による暴走です。
何がなんだか分からない手を繰り返し、あっという間に投了。
この状況をみたある記者がグーグル側の 開発責任者に
「こういった不具合が、もし医療という現場に採用されたＡＩで起こった場合はどうするんですか？」
というかなりの内角をえぐる質問をした。
その質問に対する答えは、
「ＡＩ技術はまだ発展途上なんです。間違いも当然起こります」
この答えは、未来永劫続くことでしょう。人工知能だから１００％大丈夫なんてことは有り得ません。
１００％を求めるのであれば、最初から開発を諦めるか、
その１００％に及ばない部分に対してリスク管理 （保険対応）をして、
確率論に問題をすりかえるしかありません。

「ロボットに感情を持たせることはできるのか？」このテーマもよく言われることです。
ロボット同士で会話をさせ、その中で、１体のロボットが一生懸命に空き缶のようなものを積み上げて、
タワー状にしていきます。そして積みあがった時に、
命令者である人間から タワー作りを見ていた方のロボットに対して、「そのタワーを壊しなさい」という命令をします。
そうすると、そのロボットは「できません、だって苦労して立てていたから」と言って人間の命令に背くのです。
ロボット同士の感情を大切にしたのでしょうか？その問答を何回か繰り返している内に、
最後にそのロボットは泣き出して、しゃがみこんだのです。

どこまでがプログラムされたものなのか？分かりませんが、
ロボットも何らかの判断基準や価値基準に沿って、
人間の命令であっても背くケースがあるということです。
また、 単純に命令を死守していく場合も有り得ます。
例えば、人間があるものを効率的に作り続けろという命令をＡＩにしたとします。
たとえそのあるものをつくるのに、ある資源を使わなければならない。その資源は有限なものです。
使い続ければいつかは枯渇するのです。
ＡＩは果たして途中で、資源の枯渇という問題に気づき、生産を止めるか、
代替資源を探すか？ＡＩに任せるということは非常に 多くの問題を抱えることになるのです。
話しがあまりにも長くなったのですが、ＡＩに関しては、まだまだ話題が盛りだくさんです。
別の機会にまた書かせてもらいます。

実は一番ビックリしたのは、羽生名人のチェスの腕前。
チェスも上手いそうで、日本ランキング２位だそうです。
やっぱりすごいね。英語は若干かたことだったような気がしましたが。

ＡＩの話しを始めると、どうしても「ターミネーター」や「ブレードランナー」を思い出してしまう私でした。
「マトリックス」同じ系統かな。

※ＮＨＫのＨＰにこの番組のデータありましたので、
もし興味がありましたら、ご覧ください。
http://www.nhk.or.jp/special/ai/