池上高志

池上高志

目つきが鋭い野生のハイイロオオカミ。カナダにて撮影。

(写真:佐藤秀明

身体をもたないAIは、人工生命化する技術の中のひとつに過ぎない

《3月28日配信》シンギュラリティはすでに起きている? 予想を越えているAI技術とその空洞の中身」では、AIの発展が人間の脅威となりうるのかどうかが論点となるかもしれない。おそらく、池上高志氏はこの論点には反対の立場をとることになるだろう。その根拠を過去の著作『人間と機械のあいだ』から紹介しておこう。

Updated by Takashi Ikegami on March, 16, 2023, 5:00 am JST

AIは人工生命化する技術の中のひとつであり、脅威ではない

ただし、AIは人工生命化する技術の中のひとつ、サイドエフェクトにすぎない。例えばニック・ボストロムが区別したように、AIが「問い合わせに答える」タイプのオラクル(Oracle)から、「自律的にタスクを判断して実行する」ソヴェリン(Sovereign)というタイプとなって初めて人類の脅威となるだろう。「自律的に」というのがキーワードで、それを持つソヴェリンというタイプはまさに人工生命のことである。ダ・ヴィンチ手術ロボットも、「ロボット科学者」エウレカ(Eureqa)も、その意味で人工生命ではない。機械化された道具や進んだプログラムにすぎない。そこには、人に襲いかかってくるSF的な恐ろしさを持つAIはない。とすると脅威となるのは人工生命なのか。ALIFEが作られると脅威なのか。

そもそも何を計算するかが決まってないAIは悪い心を持ちえない。悪いのはそれを使う人である。最適化すべき関数が与えられて初めてAIは「計算」を始める。一方ALIFEは、状況そのものを抽出し、その上で何を計算するべきかを自分で決定する。ALIFEの方が一歩、上である。

飯豊町の春
山形県飯豊町の春。瑞々しい自然が広がる。

現実の生命は、40億年の進化した結果である。そして人の身体は進化の積分である。ALIFEは、そうした進化のダイナミクスを模倣して、システムを作り出すものと言える。だからALIFEは、世界に身体を持って降り立つとも言える。ALIFEの目的は世界でサバイブすることだ。一方、いわゆるAIは身体を持たない。それがALIFEとの大きな違いである。身体を持たない生命システムはない。

ホメオスタシスがもたらすもの

例えば、体の調子が悪ければ不快になる。その不快さを避けようと、早く休んだり医者に行ったりする。そういう意味で、身体から決まる、「健康」というメジャーがある。その健康状態に保とうとする機能のことを、「ホメオスタシス」という。進化的に見れば、ホメオスタシスが進化し、それが生物個体の快不快を決定している、と言うこともできる。しかし、それはいわゆる社会的な規範としての道徳ではない。体を不安定にして「分解してしまう」方向の摂動は「不快」であり、その逆に安定した自己維持の方向が「快」となる。これがスピノザの言うところの「エチカ」(生態の倫理)である。それは社会的なモラル(道徳)ではなく、物理化学現象の延長にある「法則・原理」である。それゆえに、強い必然性を持つ。アントニオ・ダマジオがこのスピノザの考えを脳科学の見地から発展させる。ダマジオは情動の上に理性を、その上に感情を置き、拡張されたホメオスタシス装置としての感情論を唱えた。それをLooking for Spinoza (2003)[邦訳『感じる脳』2005]という本で著している。ダマジオのソマティックマーカー仮説では、感情の揺らぎが前頭葉に影響を及ぼし、良い/悪いという判断を介して効率的な意思決定を助けるという。「好き嫌い」を作り出すのが身体であり、それが「心」をも作っている。