IT人の政治リテラシー向上を目指して

元政治家秘書、現IT起業家が主にIT起業家、エンジニア、デザイナーなどIT業界人の政治リテラシー向上を目指して、日々のニュースや政治トピックについて言及。たまに起業ネタや映画ネタなども。5分で読める1,000文字、10分2,000字を目標。

人工知能がもたらすかもしれない恐ろしいテーマ10

①最強の軍事シミュレーションAI

Deep mindのデミス・ハサビスがGoogleと契約する際に、技術を絶対に軍事転用しないことを盛り込んだ。今彼らが開発している囲碁の世界チャンピョンに勝てるalpha goを軍事的に応用すれば、相手の出目を全部読んで完璧に勝てる戦略をAIができることになる。現在囲碁は対戦相手が1人だが、これが複数のゲームプレイヤーがいるポーカーのようなゲームでも圧勝できるようになると、より軍事AIとしては実用的なものになり、そうしたAIを持たない国は、核兵器を保有していないこと以上に、国際社会で弱体化するだろう。

 

②煽動アルゴリズム構築

人間の感情をAIが認識・分類できるようになると、人間をコントロールするには、どういう言い方をすればいいか、あるいはどんな広告を打てばいいか、が明確になる。これは同時にオンタイムの無駄のない広告を実現できるが、同時に、リテラシーの低い層を容易く誘導することができ、それは政治的に権力者が運用すれば、大衆を意のままに操作できるようになる。(実は今とそれほどの差はないが)

 

③人間の知性の堕落

人間が思考しなくなる。それは一般的な人工知能が考えてくれるから、という意味ではない。例えばセンサーにより、今日は血圧が高い、その原因は昨晩食べたトンカツが原因です、と人工知能からアドバイスとその解決のための薬品や運動の提案がされる。しかし、世の中には同じトンカツを食べても血圧が上がらない人間もいるが、その因果関係は無視されたままである。懸命な人間がいれば、そうした新たに蓄積されたビッグ・データの矛盾から新しい人間法則を見出すことができるが、いなければ、全く誤解された自然法則がまかり通るようになるだろう。これはアメリカ主導の人工知能開発ではより起こり易いと予想される。

 

④人間意思の無視

人間のゲノム解析と感情評価が実現すると、人間の適正職業やカップリング、マッチングの精度が絶対的に上昇する。だが、例えば本人が野球選手になりたい、というのに公務員が適職だ、とコンピューターがはじき出したとして、本人の意思を無視したまま、公務員に強制就職させた場合と、才能はないかもしれないが、本人が望む職についた場合とどちらが成果が上がるのだろうか。これは人工知能の精度が高くないレベルにおいて、高いと人間が勘違いしてシステムに組み込んだ場合に発生する問題である。おそらく、直感的にAIが単独で相対性理論量子力学を完全に理解できるようにならないと、実際はシステムに組み込めるようなレベルにはならない。要するにゲノム解読とAIによる定性評価の組み合わせでは不足している。他のケースは例えば映画「ガタカ」やオルダス・ハクスリーの小説「素晴らしき新世界」アニメ「サイコパス」などディストピアSF人工知能フィクションに見られるものは、大体この問題を人間が過信していることに生じる世界を描いている。

 

⑤そもそも不可能であること

上記のように完全なる人工知能の再現は、実は限りなく神を創造するのに近くなる。それは不可能とは断言できないが、それほど容易いはずが無い。人工知能が人間を超える、と謡われているが、何十億年かけて自然が今の人間が作ったことを思うと、たかだか100年で人間がそれを超えるものを作れると考える方が実際は傲慢でもある。だが、肯定的な見方をすれば、人間は1人1人は極めて精度の高い量子コンピューターのようなものなので、その機能を人間自身が使い切れていない。つまり、人工知能を研究することは人間を研究することであり、人間の性能を引き出して、つまり人類の1割でもスーパーコンピューターのような性能を持つ人間を産み出し、その総力を持って例えば核融合なり、ナノマシンを開発させる方が、実際はずっと低コストで早いかもしれない。人工知能ラプソディーは、そうした事に気づかせてくれる現象かもしれない。

 

⑥テクノロジーを制御できない

仮にAIが核融合を開発してもそれを人間が制御できなければ、事故でおしまいである。同様に全てのテクノロジーは「制御」されて初めて使うことができる。制御を機械に委ねた世界が「マトリックス」や「ターミネーター」であることを思えば、制御は委ねられない。つまり人間の知性が人工知能に匹敵するものでなければ、どの道使うことができない。

 

⑦金融市場の崩壊

常に人間に勝つことができる投資アルゴリズムができた時、金融市場は機能しなくなる。(逆に言えば得体の知れない凄まじいパフォーマンスが上がる投資ファンドがマーケットに現れたら、それはある種のサインであるが)仮定として、人間1人当たりの分析に1スーパーコンピューターが必要だとすると、マーケット参加者分のスーパーコンピューターが用意できた時、マーケットは別世界になる。だが、それはAIというよりハードウェアとエネルギーの問題になるため、実際に実現するのは困難ではあるが。100億近いスーパーコンピューターを揃えるコストとエネルギーがないからだ。

 

⑧人間の個性の喪失

マッチングアルゴリズムの適正化にも関わるが、あらゆる物事に最適なアルゴリズムが存在し、それをコピー、トレースし、かつ遺伝子操作によってあらゆるデザイナーチルドレンが誕生する時、全ての人間は目的に対して最適化される。そこは「個性」というものが存在しない社会となる。6時起床7時食事9時仕事〜23時就寝。バイタルが完全に安定。パフォーマンスレベル最高。これはある種の成功と幸福を人間にもたらすことはできるが、個性という面白さは消失する。この社会を肯定するか否か、次世代は試されることになるだろう。

 

⑨知性の統制が効かない

凡庸人工知能のようなものが全世界にバラまかれた場合、人間1人1人に凄まじい権限を委ねることになる。極端な例を言えば一人一人がスーパーハッカーになるようなものだ。そうした技術は常に良識ある人間に渡るとは限らない。知性は秘匿すれば権力者に乱用され、分散すれば心ない者に悪用される。この矛盾を解決できなければ人工知能の分散は兵器拡散となりえる。

 

人工知能は幸福をもたらすか

総じて、人工知能は人間に改めて“幸福とは何か”を突きつける問題提起をする存在となるだろう。極めて高度なAIの誕生は上記の恐ろしいリスクを持つが、結果的に人間をより内面に向かわせる可能性も秘めている。その意味において、人工知能の開発は“Yes”と言えるだろう。“核開発”が人間に幸福をもたらしたか、あるいは他の技術は。全ては人間の扱いにかかっている。“人工知能”というソフトウェア開発だけを進めても意味がない。“人間”というユーザー、人間のハードウェア、ソフトウェアの更なる更新と発展が、人工知能が産まれた社会の課題となるだろう。