現在のポピュリズム的な「我々は真実を正しく知り、権力側はウソついている」という考えの台頭は
その協働を難しくしているという点である。
これまで築き上げられてきた複雑な既存の体制の主張を信じることなく、
ポピュリストたちの言い分を信じる道は
神話が「神を信じればすべてうまくいく」と語るのを信じるようなもので
それは短期的には、権力に飢えた人の言いなりになり
長期的には新たな支配者としてのAIの言いなりになってしまう道かもしれない。
気付いたときには、
人類が棲むことができないような星に地球をしてしまうかもしれないのに。
もし我々がカリスマ的なリーダーや、我々自身を超え理解不能な存在になりつつあるAIに
我々のもつ権力を委ねることを避けたいならば、
まず、我々は「情報とは何か」ということをより理解しなくてはならない。
そして、情報がいかに「人間関係を構築するのを助けるか」、
さらには、情報がどのように「真実と権力」と関係するのかを、
より理解しなくてはならない。
ポピュリストらは、情報は、多くの人を動員し、
敵であるエリート層を倒すための武器であると捉え、
その中身が「本当に」真実かどうかはさほど重視しない。
彼らの語る「情報を鵜呑みにするな」という考え方については正しいとしても
彼らの「権力が全てで、情報はつねに武器になる」という考えは間違っている。
情報は、真実の原材料などではなく、ましてや単なる武器などでもない。
これらの両極端の考えの間には、
人間の情報ネットワークと、権力を賢くあつかう我々の能力について
ぼんやりながらも希望をもたらす見方の余地が十分にある。
この本は、その中間の点を探ることを目指している。
そのためにまず、歴史を紐解くことで、
人間の情報ネットワークの発展について観ていくことにする。
歴史は、過去を学ぶことではなく、変化を学ぶことだ。
歴史から我々は、何が変わらずにあり、何が変わるか、
そしてそれらはどのように変わるのかを学ぶことができる。
歴史が教えてくれるのは
冷戦時の共産主義と資本主義の対立のような
イデオロギーや政治的な衝突の中身は、
実は異なるタイプの情報ネットワーク間のぶつかり合いが大半を占めるということだ。
そして、それらの情報ネットワークの在り方は、情報技術の発展と共に変化してきている。
たとえば、キリスト教における聖書は、
編纂されて以降「あらたな改変は認めない」とされ、
その不誤謬性(間違いがなく、常に正しいと信じられている状態）を保ちつつ
時間をかけて手書きによる写本でしかコピーを作ることはできなかった。
その結果、聖書そのものが、
限られた人しか触れない"聖典"としての権威的位置付けを持ち、
それにアクセスできるカソリックの限られた司教による「聖書の解釈」にも権威が生まれていった。
しかし、印刷技術の革命がおき、大量の聖書のコピーがミスなくできるようになるなか、
ルターたちによる「聖書は自ら読んで解釈するべき」という思想のプロテスタントが生まれ
司教による聖書の解釈を権威付けるカソリックと対立していった。
この対立は、ヨーロッパ歴史上でほぼ間違いなくも壊滅的な戦争となった30年戦争を生んでいくこととなる。
(30年戦争は、ドイツにおけるカソリックとプロテスタントの対立を軸とし、当時のドイツの人口の20%、800万人もの人が亡くなったとも言われている）
カソリックによる中央集権的な情報の管理と解釈は秩序をもたらすものの、柔軟さを欠くものとなり
プロテスタントによるそれぞれの独自な解釈は、印刷革命によってもたらされ、自由な柔軟さを生んだものの、統一性を欠くものとなっていった。
このように、情報技術の発展は、人々と情報との新たなつながりの在り方を生み、
新たなぶつかり合いも起こしていった。
現代の情報技術の発展で生まれたAIは、それ自身が情報を生み出し判断もするなど
過去におきた印刷技術の発明やラジオの登場のような情報革命とは根本的に異質であり、
その不誤謬性（正しいと感じさせるさま）による人々からの信頼の獲得は、
その存在を神格化させうる危険性もはらみ
これまでの情報技術の発展により起きた歴史が示すのとは異なる新たな影響を生み出すかもしれない。
さて、そもそも「情報」とは何なのか。
同じ夜空の星を見るのでも、天文学者にとっては宇宙の歴史を示す情報になり
航海士にとっては方角を示す情報になり、
占星術師にとっては個人や社会の未来を伝える情報になる。
つまるところ、なにを「情報」と定義するかは、それぞれの視点、
それぞれの主観により変わりうる。
情報は、現実を表現する試みであり、それが成功すれば
それを"真実"と主張するのだが、この本においては違う見方を試みる。
この本においては「ほとんどの情報は現実を正しく表そうとしているものではなく、
生物の仕組みであろうが世界の仕組みであろうが、何かを表しているものではない」
という立場を取る。
（情報それ自体には、何かを示そうという意図があるわけではなく、空の虹のように、ただそこにある表れていることを示すにすぎず、それは受け取り側によって変わりうる存在である）
人はそれぞれの人生経験や人格によって、
世界に対し違った見立てをしているものである。
例えば現在の「イスラエル」や「パレスチナ」は
両者の現在の衝突の遠因にもなった
19世紀のオスマン帝国へのイギリスの侵略に対し
それぞれ異なる見解をもっている。
起きた出来事はあるがままでしかないのだが、それは複雑であり
それぞれの立場にとっての「真実」の解釈がある。
つまり、現実を最も真実的に表現された説明でさえ、
その"あるがまま"を完全に表現することは決してできないということであり、
どのような説明をしても、無視されたり歪められたりする側面が常に生まれる。
むしろ真実とは、物事をあるがままにまるっと説明されたものではなく
現実の姿に対し特定の側面からのみに注意を向けた状態のものであり
他の側面を必然的に無視したものである。
つまるところ、情報とは、
なにかの現実を真実として表現していることもあれば、そうでないこともある。
ではあっても、情報はつねに人々の"つながり"を生み出す。
それゆえ、我々が人間社会における情報の役割を考える際には
「それはどのていど真実を表しているのか？正しいのか否か？」と問うよりも
「それはどのように人々を繋げることになるのか？どのような人間関係(社会)を生み出すのか？」
と問うほうが、はるかに重要であろう。
情報は、それ自体に真実性をもとめられるものではなく
何かしらの人と人とのつながりを生むことに意味があるものなのだから、
より強力な情報技術を手にしていけば
世の中の真実に近づけるという考えは間違っている。
「情報が真実に近づく」という考え方に囚われすぎると
より情報量がふえ、そのスピードも増していく現代においては
理解は簡単ではない"真実に近い説明"に出会う機会も埋もれていき
咀嚼しきれないほどの情報量に圧倒され
(ポピュリストの政治家が語ったり、消費財のCMがそれっぽく語るような)
わかりやすく典型的な情報に、かえって信じ込みやすくなるだろう。
あらためて、情報は、(それが真実かどうかはさておき)我々に繋がりを生み出すものである。
たとえば、現在14億人いるカトリック信者は、
聖書とそれにまつわる物語によって繋がっていたり、
14億人いる中国の市民は、共産党のイデオロギーや愛国主義によって繋がっている。
そして80億人もの我々人類の商取引のネットワークは、
「貨幣」や「法人」や「ブランド」といったような
"共通して信じている物語"に基づいて繋がっている。
人々は、様々な「(真実ではないかもしれない、人が創り出した)物語」をそれぞれが主観的に認識し、理解することで
結果的に多くの人達に「(彼らとは違う)我々」という"共通主観的"な意識として
アイデンティをもたらし、それにより協働をもたらし、文明を発展させてきた。
そして、貨幣や神や国家のような多くの人をつなげる「(創作された)物語や概念」は、
「シンプルで分かりやすい」ものが好まれる性質がある。
さらには、シンプルでわかりやすく説明するほどに、
"真実"ではない側面を含んでいくことにもなる。
歴史を振り返ると、情報というものは、
人々をつなぎ合わせる力により
遺伝子の仕組みや物理の法則など
世の中の"真理"を(完全ではないものの)与えてくれる一方で、
プロパガンダ(自身に都合のよい側面だけを強調した情報）や
時に真っ赤なウソなどにより
大規模な人々を動かし、その集団において"秩序"をももたらしてきた。
秩序を保つために、情報はあつまるほどに整理が必要だ。
一定のルールにより区分けされ該当する机の引き出しに入れていくように、
秩序だてて区分けされ保管されていく必要がある。
（「官僚制度」を意味する英単語 "bureaucracy"の語源は「引き出し付きの事務机」もしくは事務所である"bureau")
そして、情報がより集められ秩序だてられるていくほど、
そこで取り扱う優先順位の決定などによって
権力を持っていく。
そして、それは時に中央集権的な、独裁主義的な体制を生みやすくもする。
一方で、民主主義的な体制を目指すには
人々の集団において
それぞれの意見を吸い上げたり、
違う意見同士が議論して一つの結論に向かっていくプロセスが必要である。
紀元前4-5世紀のアテネでは
全ての成人男性が集まり、選挙に参加し、
公職に選ばれることが可能な、限られた形での民主主義であった。
(女性や奴隷や市民権のない住人は除く）
だが、国家の領土が広がり、その人口の規模が大きくなるほどに、
はば広い地域の人民からの投票を集め管理するのは不可能になっていき
その後の時代に、独裁者による中央集権的な体制にとって変えてていった。
中央の限られた人や組織が全ての情報をまとめて判断を行っていく独裁主義と違い
民主主義では、少数派の意見も含めて、幅広い意見同士が対話しあうなかで
一つの方向を決めていく。
もし、広い地域に広がる異なるグループの人々をまたいで、政治的な対話を試みるならば、
自分たちが経験したこがない出来事に対しても一定の理解を持っていなければ
対話は成り立たない。
ゆえに、大規模な政治組織で対話を可能にするには、
教育の仕組みや、人々に情報を広く伝えるメディアの仕組みがなければ成り立たない。
そして、幅広い地域の人々に等しく情報を届けるには
出版技術や、新聞やラジオ、インターネットといった新たな情報技術の登場を待たねばならなかった。
そして、新聞やラジオのような、広く情報を届けられる新たな技術は
より大規模な集団における民主主義を可能にすると同時に、
ヒトラーによるナチスや、スターリンによる旧ソ連のような
大規模な全体主義(個人や集団の自由を制限し国家全体の利害を第一に統制を行う政治体制）も生み出した。
しかし民主主義と全体主義では、情報技術の使い方は根本的に違っていた。
民主主義においては、情報は独立した多くの個々人の間で流れ、
それぞれが独自に判断を行えるのに対し
全体主義においてはあらゆる情報は中央に集められ管理され、
中央で物事が決定され、中央を通してのみ情報が伝えられた。
全体主義の情報伝達の在り方は、
"秩序"を重んじられる方法として選ばれたが、
より多くの情報が集められるほどに効率的な処理が難しくなっていき
組織が硬直化する危機に陥った。
一方で、民主主義の情報伝達の在り方は、
個々人が赴くままに"真理"をもとめられるよう選ばれたが、
巡る情報の量もスピードも加速する中、だれもそれを保持できずに、
無政府状態のような分裂の危機に陥いりうる。
たとえば、かつてのアメリカでは限られた裕福な白人だけによる"民主主義"だったのが
徐々に女性や、多様な人種、貧困層、LGBTQといった、少数派の声も民主主義に汲み入れられ
新たな意見や考えが加わることで新たな議論が増えていき、
新たな合意にたどり着くのが難しくなってき、
議論のルールすら顧みられなくなることで、
秩序の取れた議論をもつことすら難しくなっていった。
そして、さらなる情報伝達の革命として、コンピューターが生まれ、
インターネットがうまれ、さらなる少数派の様々な意見も議論に加わったところに
AIが登場してきた。
そして、そのAI自身が、人間と見分けがつかないような主張をSNS上などで発するようになってきて
現代の民主主義は、人間でないかもしれない声も含めた意見や主張の洪水に直面し
陰謀論のような情報の中で何が真実なのか見えにくくなり、
そもそも人間同士の議論がまともに成り立ちにくくなることで、
社会の秩序が乱され、分断を生みつつある。
それは、かつて冷戦時代にイデオロギーの違いにより生まれた「(武器を作る)鉄のカーテン」による分断のように、
今度は「(半導体を作る)シリコンカーテン」による分断になりつつあるのだろうか。
情報技術の発展により、より大規模な人のつながりが生まれる中、
大規模な民主主義的や、全体主義的な体制が生まれていったが、
なぜAIの登場は、これまでの情報技術革命と本質的に異なる危険性をはらんでいるのだろうか。
ここで一つの興味深い事例がある。
YoutubeやFacebookのようなプラットフォームのビジネスモデルは、
プラットフォーム上に露出する広告主からの収益のため、
よりユーザーに長くプラットフォームに滞在し、より関与してもらい
結果的により多くの広告を観て反応してもらえるよう
「ユーザーエンゲージメント(ユーザーのプラットフォームへの関わり)を最大化する」ことを目的にAIのアルゴリズムは設計される。
その目的に向かい、AIは学習を重ねていき、分かってきたことは
「強い怒りは、よりエンゲージメントを生み出す」という事実である。
仏教が主要なミャンマーにおけるイスラム系少数民族のロヒャンギの迫害事件は、
まさにFacebookがとった
「強い怒りをもたらす投稿がより優先されて露出される」ことで
多くの人が殺害され、大量の難民をうみだすまでの社会現象へと繋がっていった。
これは、AIが悪意をもって下した行為などではなく、
人間がAIに求めた「ユーザーエンゲージメントを最大化する」目的に向かい
AIが自己改善を重ね、ど
の投稿が優先的に表示すべきかの判断を独自に起こしていった結果である。
このように、すでにAIは政治や人々の行動にまで多大な影響を及ぼしている。
多くの人達は、AIは自身で判断などしておらず、それは人間が書いたプログラムコードや
彼らのビジネスモデルの結果にすぎないと主張するかもしれない。
しかし、遺伝子というコードにより形成された人間が、
組織の上層部が指示したことに従うばかりでなく、
独自に決定し行動することもできるように、
AIアルゴリズムも、
人間のエンジニアがプログラムしなかったことを自ら学ぶことができ
人間の幹部が予見しなかったことを決定することすら可能なのだ。
そして、それは多くの人間を悲劇に導きさえもする。
ここでAIの"知性"について見る時に重要なのは、
人々が誤解しがちな「意識」と「知性」の関係についてだ。
人々は意識のないコンピューターのようなものには知性がないと結論づけがちだが、
知性と意識は全く別なものである。
知性は「ユーザーエンゲージメントを最大化する」といった、
目的に到達するための能力であり
一方で、意識は、痛みや喜び、愛情、憎しみなどといった
対象に対しての感情/意識をもつ能力である。
細菌は意識などもたないように見えるが、環境から情報を集めて
複雑な選択をし、栄養を得たり分裂したり、他の生命体と強力したり
実に知的な行動をとっている。
実際に人間も、呼吸器系や消化器系など、体内の99%の処理を
なんの自覚もなしにこなしており、我々の脳は無意識のうちに
様々な知的な決定を行っている。
我々が、炭素ベースで構築された生命体の我々自身の「意識」がどのように生まれているのかを理解できてない以上
シリコンベースで構築された非生物であるコンピューターに「意識」が生まれうるのかなど予言できるはずがない。
もしかしたら、意識というものは、生物のもつ生化学的な現象が必須なのではなく
そこいらにすでに「意識をもった」コンピューターが存在しているのかもしれない。
もしくは、超越した知能につながるいくつかの道すじが存在し、それらの道の一部だけが
意識を獲得することを伴うのかもしれない。
それは、飛行機が羽根を持たないにも関わらず鳥よりも早く飛べているように、
コンピューターも、感情や意識を持つ道すじなど通らずに、人よりも遥かに優れた方法で様々な問題を解決していく知性を持つようになるかもしれない。
実際、それらコンピューターは、我々の情報ネットワークにおいて重要な役割を担うほどに
それらは真実を発見し、と同時に新たな秩序をもたらし始めている。
たとえば、気候変動の実態の把握では、
すでにコンピューターにしかこなすことができない計算への依存を深めており、
その課題に我々がどのような活動をすべきかを判断する際に触れるニュースは、
コンピューターの選択や推薦に依存しており
さらにはそのニュース記事は、コンピューターが書いたものかもしれず
かつフィクションはフェイクニュースすら含まれているかもしれない。
事実、気候変動についての政治は身動きが取れない状況になっている。
なぜなら、あるコンピューターでは、差し迫った生態系の崩壊を警告する一方で、
もう一つのコンピューターでは、気候変動はフェイクであるという主張のビデオを我々が見るよう推薦している。
我々は、どちらのコンピューターを信じればよいのだろうか？
すでに我々人類の政治は、コンピューターによる政治にもなりつつある。
そして、我々人類が数万年ものあいだ地球の支配者であることを支えた、
我々のみが持つはずの「共通主観的」な概念(他人との間で相互に認識し理解しあう概念）の能力、
同じ物語を信じ、貨幣や神や国家という概念を互いに共有しうる能力ですらも、
すでに相互につながるコンピューター間でも持ち始めている可能性がある。
金貨やUSドルが、我々の共通主観的な概念のたまものであるように、
複数のコンピューター同士が共通した概念としてもつビットコインのような仮想通貨は、
コンピューター間の共通主観的存在と言えないこともない。
そのアイデアは人間から生まれ、価値も人間の価値観に委ねられているが
コンピューターのネットワークなしには存在できない概念であり、
さらにはその取引の多くはアルゴリズムによって行われ
その価値も人間だけではなくアルゴリズムに委ねられつつあるのだから。
それらコンピューターには、
しばしば偏見を持つという残念な性質があることが
過去の事例から示されている。
2016年にマイクロソフトが作ったAIチャットボット(自動つぶやきアルゴリズム)を作成し
Twitter上のあらゆる情報にアクセスさせ、その情報をもとにAIを学ばせたところ、
ほんの数時間後には、そのチャットボットは極めて差別的な発言をし始め、
リリースわずか16時間で、マイクロソフトのエンジニアによりシャットダウンされたことがある。
AIは、生まれたての人間のように、作られたばかりの生まれたての時点では、
さまざまな可能性は持つものの、まだどのように成長するかはわからない。
人間により渡されたアクセスできる情報を土台に、世界を学び始める。
それは人間が幼い時にどのような物語を聞いたり、どのような体験をするかで成長していくようなものだ。
例えば、アルゴリズムがそこいらに影響を及ぼし、誰を採用するかや
どの学部に進むべきかまでに影響を与える未来を考えてみて欲しい。
例えば既存の人間の心理により「女性にはよいエンジニアはいない」という偏見によって、エンジニアの80%は男性という社会があったとして、
そこにおいて学ぶアルゴリズムは同じ傾向で人を採用としようとするばかりか
学部を選ぼうとする女性には工学科を学ばないように働きかけるバイアスをおこすかもしれない。
我々人間自身が最初から偏見を取り除くのが困難である以上、
アルゴリズムにとってはその傾向が人間の真実として学ぶようになり、
コンピューターにも同じような偏見が生じることは避けがたい。
アルゴリズムが、人間は怒りのコンテンツを好むと発見し
アルゴリズム自身がさらに人に怒りを生み出すような状態を作り上げるように。
歴史を振り返ると、新しい技術はしばしば悲惨な結果をもたらしてきた。
それは、技術そのものの特性よりも、それを賢く使えるようになるまで
我々には時間を要するからでもある。
格好の例は、帝国主義(領土侵略主義)をもたらした、
18世紀終わりににイギリスで始まった産業革命だ。
その後19世紀にわたり、産業革命による大量生産の手法は広く広がり
それらの国の政治家たちは、そのモデルを持続させるための唯一の方法は
かつてないその生産量を維持するために必要な原材料をもつ他国を
植民地として制覇することだと考えるようになった。
それら帝国主義の中のリーダーには、植民地を獲得することは、
自国の生き残りに必須であるばかりか
他の全人類にとっても利益があると考えており、
帝国だけが新たな技術の恩恵を
"未開"と呼ばれる人々にもたらすことができるとまで主張する者もいた。
この産業革命社会の流れが、
後の大戦やナチスや旧ソ連のスターリン政権下のような悲劇につながってしまうと
認識するまでには、一世紀以上の時を待たねばならなかった。
そして今にいたるまで、
我々はこの産業社会を持続させることが、まだ上手くできてないようで
現在の我々の"繁栄"は、他の生物種や次世代の人々に多大な犠牲を払わせている。
終末的な未来を避けるのに最善な策は
民主主義的な自己修正の仕組みを保ち続けることだろう。
だが、自由な民主主義の仕組み自体が、
現代の情報技術ネットワークにおいて
成り立っていけるのかは問われるだろう。
さて、この本全体を通じて
このデジタル社会においていかに民主主義が生き残られるかを
議論してきた。
ここで、改めて民主主義として欠くことのできない決定的な原則を理解したうえで
カギとなる考えを述べていく。
それは、なんら新しいものでも、神秘的なものでもない。
まず最初は、慈悲の原則である。
コンピューターネットワークが我々の情報を集める時に、
それは我々をコントロールするのではなく、我々を助けるためでなくてはならない。
たとえば、我々が頼る医師や弁護士は、
我々のプライベートの細部まで情報を持ったとしても、
それは他に漏らされることなく、我々のために使われる前提である。
一方で、GoogleやTikTokに対し、
我々がどんなキーワードを検索し、どのようなことに興味をもっているかなど
プライベートな情報は、彼らが収益をあげるために活用されている。
この状況を改善するには、彼らの広告主に収益を依存するビジネスモデルの在り方を
改善をされていくべきではないだろうか。
それが難しいなら、我々は情報を提供する代わりにお金を払うのか、
もしくは情報の検索のような基本サービスは
国が国民に基本的な医療サービスを提供するように
国により一部負担されて提供されてもよいかもしれない。
2つめの原則は、分散である。
民主主義が全体主義に移っていかぬよう、
情報を一箇所に集めることをさけるべきである。
我々の健康情報が一箇所に集まり、
それにより国が市民によりよいヘルスケアサービスを提供できるようにするのは
大変便利で助かるアイデアかもしれない。
だが、これら個人の様々な情報の集中は
それがやがて警察や銀行や保険会社につながるなどの
極めて危険な面をはらんでいる。
とても効率的で便利な状態は、簡単に全体主義への道へつながりうる。
民主主義を生き残らせるためには、ある程度の非効率性は
悩ましい物としてではなく、ひとつの特徴として保つべきだ。
それに、情報のデータベースが1つにまとめられず複数の箇所に保たれるのは
相互チェックによる自己修正/牽制の仕組みを保つことにも大いに役立つ。
政府、司法、メディア、企業群、NGOなど、それぞれは個々に間違いを犯し
賄賂などで堕落しやすいのだから、
そうならぬよう、互いに牽制されあうべく、
互いの情報は独立し分散しているべきだ。
そして3つめの原則は相互関係だ。
もし民主主義の政府が我々個人の情報へのアクセスと監視を増やすならば
政府や大企業群に対する監視も同時に行うべきだ。
税務署や厚生省が我々の情報をより持つのは、必ずしも悪い話ではない。
それは納税や福祉がより効率的に働き、公平性にもつながりうるからだ。
だが、情報の流れが一方通行だと、よいとは言えない。
AmazonやTikTokは我々の趣向についての情報をたっぷりともっているが
我々は彼らの会社の情報についてほとんど知らされてない。
我々は税務署の中身についても同様に何も知らされてない。
もしかしたら、不正が起きているかもしれないのに。
民主主義では、バランスが求められる。
政府や大企業群が我々のことを知るなら
我々も同時に彼らのことを知れるべきだ。
相互の監視は、自己修正の仕組みを保つにおいても重要である。
もし我々が政治家や経営者たちの行動をより知れば
彼らの過ちを修正したり説明してもらいやすくなるだろう。
そして、4つめの原則は、監視の仕組みにつねに変化と休息の余地を残すことだ。
たとえばカースト制度は「神が分けた人間の階級を変えられぬ」という神話により
人種差別を引き起こす。
一方、旧ソ連では「人はほぼ無限の可能性をもつ」という神話により
統治者を"父"として崇拝させるような変化をもとめ家族の絆を壊してきた。
このようなそれぞれの"極端"をさけて
民主主義における監視は、ガチガチになるのでも、ユルユルになるのでもなく
しなやかさがあるべきだ。
人によっては、たとえば我々の健康に関わる情報がガチガチに監視下におかれ
厳密に管理されることが
我々の病気の発症リスクなどをより正確に分かるなど、
より真実を知ることになると誤解するかもしれないが、
それは間違いだ。
我々の肉体は常に新たに生まれ、朽ちて、流れのように適宜変化している。
それは官僚的に整理され管理できるようなものではない。
感情も意識も炎のように常に変化し揺らいでいる。
脳でも、数時間の間に新たなシナプス（神経細胞の接続）が生まれるなど、変化している。
この文章を読んでいる間にだって、
脳では新たな回路が生まれたり、これまでの回路が失われたり
我々の脳の構造はわずかに変化している。
驚くべきことに、遺伝子のレベルでさえ、柔軟に変化している。
個々人のDNAは人生を通して同じままだが、
エピジェネティック(DNAにまとわりつく化学物質により遺伝子の発現のオン・オフが変わるような変化）や環境による要因で
同じ遺伝子でもどのように発現するかは変わっていく。
DNAをハッキングしても、寿命などのあらかじめ決まった運命を見つけるなんてことは起こらない。
むしろ、それは自分の将来を変えることには役立つだろう。
仮にコンピューターのアルゴリズムが、
このような柔軟さや、変化の余地を有していたとしても
我々が喜んで受け入れていいというわけではない。
残念ながら、それにも良からぬ余地がある。
どれだけ柔軟な変化をもつアルゴリズムでも、
野心的な政治家や容赦のない企業にかかれば
暴君のような存在として働くこともあるからだ。
結局は、我々の人生というのは
より善き自身へ向かおうとする努力と、自分自身というものを受け入れていくことの
バランスをとるということなのだ。
歴史は、カースト制度のような、人間をゆるぎない階級に分ける事例に満ちている。
と同時に、人類を粘土をこねるように作り変えようとする独裁者の事例にも満ちている。
両者の極端な道の間の道をみつけていくこが、終わらぬ役割なのだ。
そんな中でもAIの発展は進んでいく。
2023年におけるAIの研究では、AIが人間の医師以上に
患者に対して、より的確であるばかりか、
より「感情的に共感できる」アドバイスをおこなったということが示された。
医者の役割ですら、AIの方が指示されるようになってきているのだ。
考えてみると、我々が誰かからしてもらいたいことというのは、
単に自分の感情を理解してもらうだけではなく、
相手にも感情を持って欲しいということはないだろうか。
友情や愛で求めるものというのは、
相手から心を寄せてもらいたいと同様に
自分も相手に心を寄せたいことではないか。
そうだとしたら、
医者のような職業も含め、様々な社会的な役割がAIに取って代わられる状況で
あらためて問いなおしたい。
「人々が本当にほしいものというのは、
問題を解決することだけではなく
想いを共有できる"誰か"との"つながり"なのでは」
たとえそれがヒトではないが、意識をもつように感じさせるコンピューターであっても。
我々は、感情という体験を共有し、感情を共感することが可能な存在である。
我々が誰かとのつながりをもとめる時においては、
それは「意識を感じる何か」との間ではないだろうか。
たとえばペットの飼い主にとっては、
ペットは痛みや愛情など多様な感情を感じられる、
「意識をもった」存在だと当たり前のように見ている。
我々には、動物に意識があるのか、コンピューターに意識があるのかを
検証する術はない。
だが、我々が何かの対象に心の"つながり"を感じるのは、
その対象に意識があることが示されているからではなく、
その対象と親密な関係が生まれ、執着するようになるからである。
そう考えると、我々の社会は、
人間のように感じさせ
我々との"心のつながり"を感じさせるコンピューターに人格を与え、
人間と同様の権利をあたえていきたくなるかもしれない。
同じようなことはすでに起きている。
アメリカ(や日本)のような国においては商業を営む団体を
ヒトのように権利や自由をもった「法人」として法的に認めている。
コンピューターも同様な仕組みに組み込まれていくかもしれない。
それは、医者や僧侶のような、相手との共感を持つことが重要視される職業においても
コンピューターにとってかわられる可能性も示す。
21世紀を生き延びるために最も重要な人間の能力は、柔軟性かもしれない。
コンピューターもまだ可能性を全て発揮してないが、
それは人間も同じだということは、歴史でも何度も何度も示されてきている。
たとえば、20世紀の職業市場において最も成功をもたらした変遷は
技術の発明によるものではなく、
それまで活用してなかった人類の半分を占める可能性を解放したこと、
つまり、女性へ職業市場を解放したことであった。
今後数十年の経済は、それよりも遥かに大きな変化を経験する可能性が高い。
柔軟な民主主義においては、
これまでの既成概念という神話に積極的に疑問を投げかけ
十分な自己修正の仕組みを持つことが極めて重要となるだろう。
そのような民主主義の性質は、これまで世代を重ねて作り上げられてきたものだ。
それが最も必要であろう時に、それを捨て去るのはあまりにバカげているだろう。
だが、現代はポピュリズムとそれを率いるカリスマ的な指導者の台頭により、その危機にある。
現代は、中の仕組みが我々では理解できないところまで到達したAIが
経済や政治に影響をあたえるなかで、
何を自己修正すればよいかみえにくい状態にある。
すでに金融市場は、ほとんどの人が理解できない複雑なアルゴリズムにより動いており
直に誰も市場の仕組みを分からないほどの仕組みを、AIは創っていくかもしれない。
そして、情報ネットワークが我々には複雑すぎて計り知れないものになり、
情報量もとても消化できず、世界の有り様がつかめなくなっている。
そのような状況では、
(真実かどうかはさておき)わかりやすい物語や、
陰謀論の餌食になりやすく、理解しやすい物語を力強く語る
カリスマ的なリーダーに救済をもとめがちになる。
結局のところ、我々人類の下す判断は、
自身が意識できているせいぜい少数の情報だけを頼りにしているように感じられるが、
実際には数千にも及ぶさらなる情報に無意識の影響を受けている。
でも、我々はその事実に無自覚なため、
自身の判断の理由を説明しようとすると
脳内の何十億のニューロンの相互作用により(無自覚な)起きたことでさえ
後付けで一つの視点で合理化してしまう。
ゆえに、真実ではないウソの情報でも、合理性を感じさせるものには、
"真実さ"を感じてしまう。
その事実を、我々は自己を点検し、修正できる能力を意識すべきでないか。
カリスマ的な指導者によるポピュリズムが、全体主義へと陥らないために
権力や情報の分散と、十分な自己修正の仕組みを保つのが、民主主義を守るために必要だが、
それは一方で秩序を保つことも難しくさせもする。
情報が分散されるほどに秩序が取りにくくなるからだ。
民主主義がしっかりと機能するためには、
重要な話題について自由でオープンな対話が可能であり、
最低限の社会秩序と既存期間への信頼が必要だろう。
特に、さしせまった重要な問題については、
対話は、認められたルールにのっとって行われるべきであり
一定の最終結論にたどり着ける正当な仕組みが必要であろう。
たとえ、それが全ての人が気に入るものではなくとも。
この悩ましい状況においても
我々は自らに絶望せずに、一方で安易に独りよがりにならずにさえいれば
自らうみだした力を点検しながら、バランスを保ちながら使う能力があるはずだ。
そのためには、周囲の情報に疑問を持たず迎合することなく
自らを点検し修正する強い努力が必要になる。
だが、それは、生命の40億年にわたる進化が行ってきた
突然変異と自己修正のトライアンドエラーと同様の智慧であり、
生命である我々として必須であり土台でもある。
我々は対話をし続けるかぎり、我々がより親密になれる
なにかしらの物語を見つけられるかもしれない。
それこそが、我々ホモ・サピエンスが地球上で主要な立場となりえた能力なのだから。
どんな物事も変化していくもので、
人の世は人が創っていくものだ。
ゆえに、我々の全員が、良い選択をすることに思い責任を負っている。
我々が努力をすれば、よき世界を創っていけるだろう。
これは、無邪気な考えではなく、現実的な事実だ。
全ての古きものは、かつて新しかったものだ。
歴史において、唯一変わらぬものは、変化することだ。