IT人の政治リテラシー向上を目指して

元政治家秘書、現IT起業家が主にIT起業家、エンジニア、デザイナーなどIT業界人の政治リテラシー向上を目指して、日々のニュースや政治トピックについて言及。たまに起業ネタや映画ネタなども。5分で読める1,000文字、10分2,000字を目標。

人工知能的サイコパス解説(シーズン1)

※以下サイコパスの重大なネタバレを含みます※

 

 

 

===================================

 

 

 

 

シーズン1の解説

 

シーズン1の主題は「シビュラシステムとは何か?」である。

 

シビュラシステムという絶対に間違わない人工知能。潜在的な犯罪者を特定でき、万能である事をうたっているシステムが存在しているにも関わらず、そのシステムをくぐり抜けて殺人を繰り返す犯罪者が登場する。

 

システムで裁けない存在が登場するなら、そのシステムは一体なんなのだろうか?本当に100%の精度を誇るものなのか?ということが大きなテーマである。

 

結論から言うと、シビュラシステムの正体は機械の頭脳ではなく、人間の脳の集合体であった。つまり、人間を判定するのは、機械よりも人の方が優れている

(以前本ブログにも書いた、人工知能の究極の1つは人間の生成に一致するhttp://itseiji.hatenablog.com/entry/2015/09/12/175910)と同じ仮定を持った話しであった。人間の脳の集合体によって、運営されるディストピア人工知能社会の1つ、それがサイコパスで描かれた世界であった。

 

だが、これは実は新しい未来システムではなく、既存の社会システムと大差ない。現状の社会システムも、例えば日本なら、一部の権力者が、エリートとそうでない人間とを区別する仕組みを作成し(文科省を中心とした大学受験制度)一定の尺度を持って選別した優れた頭脳を持った人間たちの、合議制によって意思決定される(官僚制、普通選挙、資本主義制度)

 

システムに不備はない、と詠ってしまうことも既存の社会システムと大差はない。(専門家という間違ったことを言うはずがない、という思い込みを利用した社会システムの構築。専門家は正しい、素人は間違っているという固定観念のエンクリプション)

そして、それらシステムの維持の仕組みだけでなく、システムのアップデートの仕組みも基本的には何も変わらない。シビュラシステムは、槙島聖護という、社会のアノマリーを取り込んで、進化しようとする。

 

同じ様にこれまで人類社会は、常にその社会における最大のアノマリーを吸収することで発展してきた。

例えば、大学を中退し、既存の製品やサービスと対立や埋没をもたらす製品を開発したビル・ゲイツスティーブ・ジョブズは、権力や既存の社会構造からすれば、異端であり、反社会的であるとさえ言えた。だが、経済的に成功するや否や、それを排斥するのではなく、権力に取り込むことで、社会は新しいインフラを手に入れた。これはもっと古典的な技術である例えば紙や、鐙といったテクノロジーの導入だけでなく、あるいは、征服者が被征服民族の人材を登用するような社会制度の導入も全く同じ仕組みだと言える。(そして組み込んだはずの仕組みに逆に取り込まれてしまう。例えば、元は奴隷であったイエニチェリによって作られたオスマントルコのように)

 

更に、シビュラシステムの仕組みを秘匿(ペルソナ化)することによって、ある種の神話を産み出し、権威によって大衆を統治する仕組みは一神教や、日本で言えば皇統(天皇制度)と何ら変わることはない。

 

そして、シビュラシステムも既存の社会と同じように誤りをおかす。その意味で、サイコパスで描かれた社会は、既存の社会構造の劇的なパラダイム変更がある社会ではなく、既存の社会構造と大差ない社会の物語であり、人工知能が社会を支配しようが、今の人間社会と本質は大差ない。それが、作者が描こうとしたテーマの1つではなかっただろうか。

 

もう1つのシーズン1の大きなテーマはシビュラシステムに感知されない犯罪者、槙島聖護の物語である。彼は自らがシステムに犯罪者として感知されない理由を、自尊心が少ないからだ、と説明する。

 

これは、人間の核心の1つをついているように思える。私も特に人の知性や感情と呼ばれるものは、自尊心によって大いに妨げられると考えている。例えば、他人から間違いを指摘されると、自分がそれに自負があればある領域である程、人はそれを受け入れることを拒絶する。例えば、科学者が自分の領域で素人に誤りを指摘されても、ほとんど科学者は自分が正しいと思い込むだろう。だが、本当に過ちであれば、自己がアップデートする格好の機会であるはずだ。人はしばしば、自尊心のために自らの知性を高める道を自ら閉ざしてしまう。

(実はこの話しは無意識論と関連づけて、ディープラーニングの話しとも関係してくるのだが、それはまた別の機会にする。また、槙島的とは言わないまでも、自尊心が極めて薄い人間でなければ、ある一定の知性は獲得もできないし、すなわち人工知能のようなものを作れる知性を持ち得えない、という乱暴ながら知性に関しては、自尊心の定性評価により一定の線引きができないこともないように思える。)

 

シビュラシステムは自尊心と犯罪率を、定性評価やオントロジー統計学で結びつけて係数設定をしているが、これは科学的根拠のない作者によるフィクションであるが、統計学の嘘や欠点がストーリーでわかる好事例と言えよう。すなわち、統計はまず前提を誤っていた場合、データの全てが無意味である。(この場合、自尊心と犯罪率の相関が誤りであれば、それによって測られた犯罪係数は全て嘘であるということ。)もう1つは99.9%の観測よりも、0.01%の方が真実である可能性がある事である。(シビュラは人を殺したことのない、システムにさして害のない人間を犯罪者として認識し抹消するが、大量殺人者の槙島は認識できない。そしてその槙島は既存の社会を最も破壊できる力を持っている。)これは、現代の刑事捜査の状況証拠や自白問題、DNA鑑定の精度の問題でも全く同じテーマと言えよう。統計の嘘、欠点というのも本作の作者のテーマの1つであると思われる。(人間の自尊心、知性に関しては、作者の無意識レベルのテーマだと思われる。)

 

最近のテーマに関連づけて話せば、これが、ビッグ・データの実用化が難しい、と言われる理由の1つである。そもそも、何かを観測する目的で作られたわけでも、その情報の信憑性が担保されたわけでもないデータの集合体からデータを抽出しても意味がない、ということである。なので、幾つかの企業では、データそのものを再構築しようとしているが、その試みは正しいと思われる。(ちなみにGoogleは最初から人工知能を作るために、検索エンジンを作っている)