福島真人

福島真人

(写真:pavel7tymoshenko / shutterstock

システムの自己増殖は止まらない。私たちは巨大な社会実験を目撃している

絵画や小説を機械に作らせることは誰を幸せにしているのか。これは生成AIをめぐる論点の一つである。しかし、ひとたび走り出したシステムは、それが破綻するか、他のシステムの介入を受けるまで止まることはない。生成AIの影響はテクノロジーだけを見つめていてもわかるようにはならないのだ。科学技術社会学の見地から、自己増殖するシステムの問題点を解く。

Updated by Masato Fukushima on May, 29, 2023, 5:00 am JST

社会システムは自らを作り出す、というルーマンの考え

ドイツの社会学者にルーマン(N.Luhman)という理論社会学者がいる。英米圏やフランス語圏ではそれほど人気があるとはいえないが、日本では彼の書籍の大半は翻訳が出ている。彼の議論は独、伊そして日本といった旧枢軸国でよく読まれているという冗談を聞いたことがあるが、なぜそうなのかはよくわからない。かつて彼の生前のドイツ語講義シリーズが「アウトバーン大学」という不思議な名前のカセットテープ(12巻で1セット)で販売されており、寝る前に10分ずつそれを聞くという習慣を長年続けていたら、ドイツ語が聞き取れるようになった。私のドイツ語聴取はルーマン由来である。

それはともかく、科学技術社会学(STS)の分野では、英米、そしてフランスの議論が強いせいか、ルーマンの極めて抽象度が高い理論はあまり言及されない。その理由はいくつかある。例えば、彼は近代社会においては、政治、法、経済といった分野がそれぞれ自律性をもち、その意味で内閉しているとしたが、STSではむしろ、科学技術と法や政治、経済が絡み合う、一種のアモルファスな状況により関心があるため、両者の議論はうまくかみ合わない。また後期のルーマン理論では、社会の構成要素を人間ではなく「コミュニケーション」に限定してしまったため、STSが基本的に関心をもつ科学技術の実際的、物理的な側面や、人とモノの相互作用といったテーマとの、理論的な接続も難しい。

とはいえ、彼の高度に抽象的な議論も、場面によってはその考察が興味深く感じる面もある。彼の議論の大きな筋としては、複雑な全体をどうやって縮減して操作可能にするか、という問いと、上述した諸制度(彼の用語ではサブ・システム)は、何に根拠をもって自らを存続させるかという問いが挙げられる。後者への答えが、先程あげた自閉性という話だが、これは自己産出系(autopoiesis)という生物哲学的な枠組みをベースにしており、かなり分かりにくい。長い話を短くすると、彼がいう社会システムというのは、その外側に根拠があるのではなく、自分自身にそのベースがあり、それとの関わりで自分を存続させるというものである。

サンデルが「白熱教室」で問うた、自己都合で増殖するシステムの是非

最初にこの話を聞いた時、何故か私は高校時代に読んだ、キルケゴール(S.Kierkegaard)の『死に至る病』の最初の一節を思い出した。「自己とは、ひとつの関係、その関係それ自身に関係する関係である」という話で、自己というのはそこにポツンと存在するというよりは、常に自分に回帰する関係性そのものだという意味である。この手の議論は、自己言及性という旗印のもと、一時期業界の一部で流行っていたが、ここでの関心は違う。

自分自身に根拠があるというのは、言い換えれば、経済に役立つから政治があるわけではなく、逆もまた真であるという意味である。つまりそれぞれが自分の都合に従って勝手に動く。それゆえ法というシステムは自分の都合で次から次へと法律を作り出すため、法律は増殖することになる。もちろんそのきっかけとしては、法以外の現象(経済や戦争、環境問題等)が起点になりうるが、それをいわば「法目線」でみると、それらは法的にしか対応できない。そこでこうした刺激に対して、法システムは法をつくるという形で対応することになる。その点は他の領域も同じことで、市場のグローバル化も止まらない。サンデル(M.Sandel)のような哲学者が「白熱教室」でその是非を半ば演劇的に問うたりするのもそのためである。