AIと人間の溝について考えてみた

雑記

AIを実社会で生かしていくためにはブラックボックスの問題があるというのを大学で学んだ。それは、人工知能の判断結果が正しくとも、そこに至った理由が分からないというものだ。そこで、AIと人間の溝について自分なりに考えてみた。

 

数学的な限界がある?

ディープラーニングの限界について意見を述べるにあたって、数学者の新井紀子氏の著 書にこのようなことが書いてある。(AI Vs 教科書を読めない子供たち)

 コンピュータは計算機であり、計算機は計算しかできない。
AIがコンピュータ上で実現されるソフトウェアである限り、人間の知的活動のすべてが数式で表現できなければ、AIが人間にとってかわることはありません。
論理、確率、統計。これが4000年以上の数学の歴史で発見された数学の言葉のすべてです。そして、それが科学が使えることばのすべてです。
私たちの知能の営みは、すべて論理と確率、統計に置き換えることができるでしょうか。残念ながらそうはならないでしょう。
決定的にかけているもの、それは「意味」を記述する方法がないということです。数学は基本的に形式として表現されたものに関する学問ですから、意味としては「真・偽」の2つしかありません。

そして、ニューヨーク大学の心理学者ゲイリーマーカス教授がディープラーニングの限 界について次のようなことを語っている。

ディープラーニングは閉じた系では完璧な手法であることは認めつつ、自然言語理解や翻訳などを単なる数学的写像として捉えるのは誤りであり、その言葉の奥に潜むより高次な概念を掴み取ることが現状できていない、そのためには別の手法を研究しなければならない

両者が共通するのは、PC のソフトウェア上で動くものとして、数学的な限界があるとい うことを示していることだ。数学は、内容を理解することはできないため、表現に限りが出てきて しまう。これにより、人間社会の知識とうまく統合できないことや、結果を説明できない不透明さ、ブラックボックス化につながってしまう。

 

説明できるAIのために

もしかしたら、究極的には数学を進歩させて、数学の言葉を増やし、意味を扱えるようにすることが必要になるのかもしれない。新井紀子氏は超越数を説明することができないことを例にして、数学には人間がまだ理解できていないものがあることを示した。今の数学でさえ説明できていない理論、そもそも言葉が足りないという感覚は数学を専門としている研究者でない私たちにとっては想像もできないことではあるが。

私は人間が生物の神経回路、すなわち脳によって意味を扱うこと、そして知能を持つことができていることからなぜ、ニューラルネットがそれを再現することが理論的に不可能になってしまうのかと未熟ながら考えていたが、数学的な視点で追いつけないということを聞いて納得することができた。そもそも、実際には今のニューラルネットは人間の脳とは程遠いと大学の先生に教わったからそういう問題もあるのだろう。

しかし、数学の発展を望むのではなく、ディープラーニングの限界を超えて、説明できるAIを完成させるためには、人間が扱う言葉や知識(そこには意味がある)とコンピュータが扱う数学の言葉との溝を埋める作業、すなわち意味を定義して、それを機械が理解できるようにする必要があると考える。これは今までとは全く違う手法、そして新しいパラダイムを研究する必要が出てくる可能性がある。

だが、この数学的な視点は次のことを示すことにもなっていると私は考える。それは形式として表現できる分野、マーカス教授風に言えば閉じた系の中で、真偽の判断(これは分類・判別の問題)では、正しい解を出すことができる。そしてその中ではディープラーニングを使うことは正しいということだ。これもホワイトボックス化の方法が分からないが。

以上より、ディープラーニングの限界として、数学的な限界があり、それを超えるには機械が理解できる「意味」の定義について研究をする必要があると考える。これは自然言語処理といった工学的、言語学的な視点ではなく、理学的な全く新しい視点が必要になってくる。そして更なる進歩のためには脳そのものについて学ばなくてはならない。

 

最後に脳情報システムの授業で聞いた言葉を書こう。

「人間と同等の汎用人工知能ができるのは、まだ何十年も先の話です。でも5年か10年後には、何かしら役に立つものはできると思います。僕たちは今、梯子の1段目に上ったところです。この先10や20のブレイクスルーを起こさなければ、その梯子が全部でいったい何段あるのか、そして「知性とは何か」を解明することはできないでしょう。」
Demis Hassabis(Deep Mind創業者)

 

 

コメント

タイトルとURLをコピーしました