福島真人

福島真人

(写真:pavel7tymoshenko / shutterstock

システムの自己増殖は止まらない。私たちは巨大な社会実験を目撃している

絵画や小説を機械に作らせることは誰を幸せにしているのか。これは生成AIをめぐる論点の一つである。しかし、ひとたび走り出したシステムは、それが破綻するか、他のシステムの介入を受けるまで止まることはない。生成AIの影響はテクノロジーだけを見つめていてもわかるようにはならないのだ。科学技術社会学の見地から、自己増殖するシステムの問題点を解く。

Updated by Masato Fukushima on May, 29, 2023, 5:00 am JST

機械に小説や絵画をつくらせることは、何の欲望を反映しているのか

だがより根本的な問題は、もしテクノロジーは社会がモノになったもの、という指摘が正しいとすると、機械に小説や絵画をつくらせることは、社会の何の欲望を反映させているのかという点である。機械に表現活動(のようなもの)をさせることで、芸術生産に関して、「大幅なコスト削減、生産性の向上が見込めます」とでもいうなら、殆どキングオブコントにでも出てきそうな話である。芸術家たちが怒るのも無理はない。とはいえ、先日のAI戦略会議が典型だが、こうしたコメントをいいかねない関係者もいそうで、コントでおわるのか心もとない。

先程のルーマン風にいえば、まさにミクロのレベルで開発が自己目的化し、それが何のためという意識なく進んでいる様子が見て取れる。他方現実の話は、彼の図式的な議論よりも複雑であるのも事実である。例えば市場化、それに伴うグローバリゼーションも原則止まらないはずだが、特に国際政治的な対立がこの進展に大きくブレーキをかけつつあるという議論も少なくない。これは経済と政治という、二つの領域の争いのようにもみえるが、もともとのルーマンの議論ではこれらは相互に独立という点が強調されるので、こうした絡み合いの様子は分かりにくい。構造的カップリングという言い方で相互の連係を示唆する議論はあるものの、考察は不十分である。

テクノロジー開発が政治的な意味を持ち始めた瞬間を目撃しているのではないか

ある特定の領域の問題が、他の領域に影響をあたえ、相互作用する様子は、例えば米国における地球温暖化問題の扱いにその一つの例をみることができる。そこでは、中立的な科学的問題というよりも、対立する政党間の政治的争点として戦われるという現状がある。つまり問題が科学的領域から、政治的領域のそれに転写、翻訳され、政治争点化したのである。同様のことは生成AIをめぐる、ますます膨れ上がる懸念の勢いの中にも生じはじめている。テクノロジー開発という、当事者たちは中立的なものと楽観視している行為が、強く政治的な意味合いをもち始めたという事態を、我々は目撃しているのではないか。

前にも指摘したように、遺伝子を勝手にいじくりまわす行為に対しては、大きな社会的規制が既に存在している。同様に、現状のテクノロジー開発に関しても、いままで育んできた歴史的価値との齟齬について、人々が深刻に疑義をもち始めたといえなくもない。地球温暖化に対する政治的分裂と似た形で、こうした価値をめぐる対立が大きな政治的争点になる可能性も否定できないのである。

システムは破綻するまで止まらない、とルーマンは不気味に指摘する。その破綻を回避するために、言わば別のシステム、たとえは政治が介入するのか、そしてそれは成功するのか。一つの巨大な社会実験を我々は目撃しているといったら、言い過ぎであろうか。

参考文献
死に至る病』セーレン・キェルケゴール 鈴木祐丞訳(講談社 2017年)
社会システム理論』ニクラス・ルーマン 佐藤勉監訳(恒星社厚生閣 1993/95年)
自己言及性について』ニクラス・ルーマン  土方透・大澤善信訳(筑摩書房 2016年)
Bruno Latour (1990) Technology is Society Made Durable Sociological Review 38(1) :103-131

編集部注:記事を参照された場合は、参照元として当記事をご紹介ください