シンギュラリティによって起きることは人間の変化である
昔から技術革新は、「指数関数的」に変化することが知られている。例えば、トランジスタの集積度を取ってみると、年が経つごとに桁が変 わってゆく。つまり、10,100,1000,10000……という具合に変わってゆくのだ。これを指数関数的な増加といい、いろいろな技術発展で桁数が時間に比例する。これは「ムーアの法則」と呼ばれている。
一方で人間というのは、「線形」にしか予測することができない。線形というのは、ここ2年で2倍になったんだから2年後には4倍になるぞ、と考えることである。しかしムーアに従えば、7倍にも8倍にもなる。指数関数的に成長する技術を“exponential technology” （指数関数的技術）という所以である。指数関数的技術は、コンピュータだけではなく、医療技術や合成生物学などを支える技術一般に見ることができる、現代を支える基礎技術なのである。
そしてこの指数関数的技術と言い出したのが、レイ・カーツワイルである。人工知能（AI）の発達はまさに指数関数的技術であり、2045年あたりにAIは人の知能を抜くんじゃないか、と言い出した（人の知能をどう測るかとかが問題だけど）。2045年。あと30年弱※で到来するこの「時点」を「特異点」（Singular Point）と呼ぶ。これがいわゆる「シンギュラリティ」（singularity）である。
そこにユートピアがあると思うか、地獄が待っていると思うか、は人によって随分と違うようだ。物理学者のスティーヴン・ホーキングや、SpaceX創始者のイーロン・マスクのように、AIによる世界の書き換えを脅威に感じている人も多い。もちろん極端にはSFのターミネーターや攻殻機動隊、あるいは映画『トランセンデンス』や『エクス・マキナ』などを思い浮かべるだろう。またより実際的な話としては、仕事がAIに取って代わられる、というものもあるだろう。例えば飛行機の荷物チェック、あれなどは人のほうが精度が高いとは思えない。患者の顔もろくに見ない医者はどうなんだろう。むしろAIにやって欲しいものも多いが、いずれにせよ、AIが多くの能力において人を凌駕するということに変わりはない。
しかしシンギュラリティはある日を境に人を超えるスーパーマシーンが現れるという話ではないだろう。むしろ人間が変わっていくことであり、爆発的な技術の進化により、例えば20年前の人の価値観と現在の人の価値観がまるで不連続になる、ということだ。価値観の改革は、哲学書や宗教で起こすよりも、単に現在の技術革新がもっとも確実かつ高速だということである。特に、人工知能（AI）はもっとも大きな影響力を持つ技術である。
（※書籍発行年は2016年。）
AIは人工生命化する技術の中のひとつであり、脅威ではない
ただし、AIは人工生命化する技術の中のひとつ、サイドエフェクトにすぎない。例えばニック・ボストロムが区別したように、AIが「問い合わせに答える」タイプのオラクル（Oracle）から、「自律的にタスクを判断して実行する」ソヴェリン（Sovereign）というタイプとなって初めて人類の脅威となるだろう。「自律的に」というのがキーワードで、それを持つソヴェリンというタイプはまさに人工生命のことである。ダ・ヴィンチ手術ロボットも、「ロボット科学者」エウレカ（Eureqa）も、その意味で人工生命ではない。機械化された道具や進んだプログラムにすぎない。そこには、人に襲いかかってくるSF的な恐ろしさを持つAIはない。とすると脅威となるのは人工生命なのか。ALIFEが作られると脅威なのか。
そもそも何を計算するかが決まってないAIは悪い心を持ちえない。悪いのはそれを使う人である。最適化すべき関数が与えられて初めてAIは「計算」を始める。一方ALIFEは、状況そのものを抽出し、その上で何を計算するべきかを自分で決定する。ALIFEの方が一歩、上である。
現実の生命は、40億年の進化した結果である。そして人の身体は進化の積分である。ALIFEは、そうした進化のダイナミクスを模倣して、システムを作り出すものと言える。だからALIFEは、世界に身体を持って降り立つとも言える。ALIFEの目的は世界でサバイブすることだ。一方、いわゆるAIは身体を持たない。それがALIFEとの大きな違いである。身体を持たない生命システムはない。
ホメオスタシスがもたらすもの
例えば、体の調子が悪ければ不快になる。その不快さを避けようと、早く休んだり医者に行ったりする。そういう意味で、身体から決まる、「健康」というメジャーがある。その健康状態に保とうとする機能のことを、「ホメオスタシス」という。進化的に見れば、ホメオスタシスが進化し、それが生物個体の快不快を決定している、と言うこともできる。しかし、それはいわゆる社会的な規範としての道徳ではない。体を不安定にして「分解してしまう」方向の摂動は「不快」であり、その逆に安定した自己維持の方向が「快」となる。これがスピノザの言うところの「エチカ」（生態の倫理）である。それは社会的なモラル（道徳）ではなく、物理化学現象の延長にある「法則・原理」である。それゆえに、強い必然性を持つ。アントニオ・ ダマジオがこのスピノザの考えを脳科学の見地から発展させる。ダマジオは情動の上に理性を、その上に感情を置き、拡張されたホメオスタシス装置としての感情論を唱えた。それをLooking for Spinoza （2003）[邦訳『感じる脳』2005]という本で著している。ダマジオのソマティックマーカー仮説では、感情の揺らぎが前頭葉に影響を及ぼし、良い/悪いという判断を介して効率的な意思決定を助けるという。「好き嫌い」を作り出すのが身体であり、それが「心」をも作っている。
ALIFE研究者である飯塚博幸とエゼキエル・ディ・パオロもまた、コンピュータによる進化ロボット実験でスピノザ的な考えを実証した（Hiroyuki Iizuka & Ezequiel Di Paolo, “Towards Spinozist Robotics”, Adaptive Behavior, 2007）。神経細胞同士の結合強度には「可塑性」があり、神経細胞が発火しすぎたり静かになりすぎたりすると、その結合の強さが変化して、神経細胞の発火頻度を一定の範囲内に保とうとするという。これもまた、ホメオスタシス原理と考えることができる。このホメオスタシス原理を使って、例えば自分のエネルギー源のある場所へ向かって運動すると、ホメオスタシス的に優利であれば、その行動が促進される。こうしたロボットは、スピノザ的なロボットと言える。
ALIFEでは、ロボットの運動のメカニズムを、「センサー”モーター・ループ」によって理解する。例えばブライテンベルクは、外を感覚するセンサーから、外に働きかけるモーターへと伝わる回路があり、そのモーター出力の結果をセンサーが環境を通して受 けとり、モーター出力を変化させてゆく……これを繰り返すことで、「適切な」行動が組織化される生命の行動原理は電気回路的に説明がつく、という（Valentino Braitenberg, Vehicle, 1984）。「身体性」の中には、運動パターンが幾十にも埋め込まれている。それを意識的に引き出すのではなく、身体にパターンが立ちあがり、そこに「心」が後付けされる。スピノザの考えと、この「センサー=モーター・ループ」の考えは呼応している。つまり運動は、ホメオスタシスにある。スピノザは、「身体のもろもろの受動と能動の秩序は、本性によって、精神のもろもろの受動と能動の秩序と連動する」という。だとすると、ALIFEが世界に身体を持って現れた瞬間から、そのあとの進化と共に倫理もまた自己組織化した結果と考えてもいいのだろう。
行動の選択は「無意識」が決めてしまう
僕は人工生命化される技術に新しいユートピアを見ている。そこには「新しい人間」の創造があるべきだ。ホメオスタシスを保つために感情による判断があると言ったのがダマジオだ。考えや行動のパターンは次々に更新され、新たなホメオスタシスのための形質、例えば言語が生まれてくる。自然言語だけではない。コンピュータの言語や数学の言語も生まれてくる。認識や判断も生まれてくる。
論理的判断は、意識のたまものである。科学技術もまた意識の産物だ。しかし元々ホメオスタシスには、スピノザ自身が言うように「無意識の技術」の寄与するところが大きいと思えてくる。たしかに、実際のところ行動の選択は、無意識に決まってしまうことも多いのだ。果たして無意識の技術なんて ものがあるのか？知らずに積み上がって過剰にあることが作り出す構造と力。進化と経験が自己組織化する無意識のパターン。そうしたものにもっと目を向けていかなくてはならない。
＊この本文は『人間と機械のあいだ 心はどこにあるのか』（池上高志・石黒浩 講談社 2016年） の一部を抜粋し、ModernTimesにて若干の編集を加えたものです。
イベント情報
この本の著者である池上高志氏が登壇するイベントが、2023年3月28日にオンラインにて配信されます。タイトルは「シンギュラリティはすでに起きている？ 予想を越えているAI技術とその空洞の中身」。参加費は無料。どなた様もお気軽にご参加ください。お申し込みはこちらのフォームからhttps://forms.gle/5tu8okUpbQq4uxMV6
