IT人の政治リテラシー向上を目指して

元政治家秘書、現IT起業家が主にIT起業家、エンジニア、デザイナーなどIT業界人の政治リテラシー向上を目指して、日々のニュースや政治トピックについて言及。たまに起業ネタや映画ネタなども。5分で読める1,000文字、10分2,000字を目標。

人工知能へのイーロン・マスクの本当の懸念は何か?

イーロン・マスクとスティーブ・ホーキング博士Googleが特に押し進めている人工知能の計画に関して、汽笛を鳴らしている。

 

その警告の意味は、映画『ターミネーター』のようないわゆる「スカイネット」的なものを、ラリー・ペイジセルゲイ・ブリンは作ってしまうのではないか、ということを懸念している、と報道を見る限りそう感じてしまうのだが、それは細部を大幅に省略している。

 

特にイーロン・マスクが警告している問題点は「認識」や「観測」に関する事柄ではないだろうか。

 

すなわち、機械に人間を認識させるべきではない、ということだ。

 

(これは裏を返せば、現時点での世界最先端の人工知能、機械はまだそれ単体だけでは、人間を認識することができないということを意味している。)

 

機械に人間とは何か、というものを人間がまだ教えなくてはならないのだが、そもそも人間というものを人間自身が認識できていない。

 

しかし、一度入力してしまったデータを元に人工知能が動きだし、誤ったデータを元に学習し、何らかの実行をしてしまえばそれは深刻な事態を巻き起こす恐れがある。

 

それは人間の可能性や、未来を摘み取る恐れがある。導かれる全ての結論は今の人間の人間に対する認識に基づいたものであるが、その情報は既に不十分であり、更に未来の人間についての情報がまるでない。

 

それこそが、彼らが懸念する問題の本質であり、おそらく現時点における人工知能が抱える最先端の問題であると私は推察する。

 

人間が人間をまず認識できないのは、確かデカルトであったか、自己は自己を観察できない、という原則がまずあるからだろう。

 

であれば、むしろ、本当に自立した機械が存在するのならば、人は機械に観測する手段だけを与え、機械が認識する人間を人間として受け入れた時に、自己

 

を認識できることになる。我々が妄想する人工知能など、使い勝手はむしろそんな程度であろう。

 

人々は時に未来を想像する。それは当たる時もあれば外れる時もある。SF『マトリックス』のような機械による人間の支配、ジョージ・オーウェルの『1984』のような管理されたディストピア、あるいは『ガンダム』のような宇宙で暮らす人間の世界。

 

それらは全て、人間が人間を認識、あるいは観察して導かれたフィクションに過ぎない。だが、現実の未来は、機械は人よりも賢いが故に、人を支配しないかもしれない、人はそこまで愚かでないため、管理が行き過ぎた社会は壊されるかもしれない、人は宇宙で生存できるだけのエネルギー資源を、確保できないかもしれない。

 

映画や小説の影響もあるが、人間は同じ性質持つが故に、全世界の人間が同じような未来社会を、これが人間の未来社会の一つだと、思い込んでしまう習性がある。

 

だが、そう人間が基本的に当然だと思っている前提が真実ではないとしたら、その全ては覆り、全く違った社会が我々の未来には待っているだろう。

 

そして、自己は自己を計測できないという事が本当に真であるならば、そもそも人間が人間で構成される人間社会の未来など、人間のしたその予測の全ては外れることになる。

 

つまり、逆説的に言うのであれば、人工知能を生成することの最大の意味は、人間を観測すること、つまり機械を作ることはより人間を知ることに他ならない。

 

これは以前述べたように、人間のような不確実な事柄を処理できるコンピューターを作ろうとしたら、バイオの領域、すなわち人間を複製するホムンクルスでしかあり得ないことにも繋がる。

 

 

もう一つ、人工知能が人の知性を凌駕し、人が発明をするのではなく、あらゆるものを機械が代わりに創造するという、映画『トランセンデス』にも描かれた「シンギュラリティ」に関しても思う所がある。

 

仮にシンギュラリティが起きた場合、機械が創造しうる最高の発明はおそらく「人間」になるだろう。つまり人間が人間以上の機械を発明したとして、その機械が人間を産み出すというパラレルに陥ることになる。

 

だが、この繰り返しは矛盾しない。有機的な生命である人間が無機的な存在である機械を創造することに躍起になり、自らを全知全能とでも思い込むかもしれないが、元々人間を創造したのは機械とは言わないまでも、無機的な存在、つまりは宇宙そのものである可能性があるからだ。

 

人がする最後の発明が人工知能になるかもしれない。その説は間違ってはいないかもしれないが、それは振り出しに戻るに過ぎないのだ。

 

問題点があるとしたら、それを機械に委ねることで、人が真理から孤立し隔離されてしまう可能性だろう。機械が全てを代行する社会、それでしばしば問題とされるのは、人の堕落、機械による支配、そうしたものにフォーカスがいきがちだが、それは枝葉に過ぎない。

 

本質的に恐れるべきは、人が人を創造しうることができない段階で機械が人の理解できないものを理解し、人を創造してしまい、その理由の考察を人が諦めた時であろう。

 

その瞬間に、ディストピアSF小説のような未来、つまり人間が人間を認識しないまま、描き出してしまった未来が本当に訪れてしまうだろう。

 

この問題、理論ではなく、直感で捉えるなら、こちらこそが本質的な問題、すなわち人工知能に関する最大の問題なのだが、それに気づいている人間は果たしているのだろうか。