AIは差別や偏見を助長しうる
「人間社会を征服するAI」という、技術をある意味で擬人化・権力化した見方（つまり主客二元論に基づいた人間と機械の関係性）ではなく、ここで特に考えるべきは、目に見えない・意識さえされない「権力」の存在である。これは、ミシェル・フーコーのいう権力でもあり、アントニオ・グラムシのいわゆる「ヘゲモニー」に近いものだといえるかもしれない。私たち人間は、何かしらある種の権力構造の中に組み込まれており、多かれ少なかれその影響下にある。AIの開発が、後期資本主義システム、特にネオリベラリズムという政治的・社会的・経済的イデオロギーに下支えされ進められてきたことなどもその一例である。目に見えない権力は、例えば、人が意識的または無意識的に持っているかもしれない人種やジェンダーなどへの認識や差別、バイアスなどを作り出したり、助長したりもする。また、私たちが社会的規範として考えているものや、流行なども、ある種の権力が働いていることになる。そこでは、例えば政府や大企業などのように、目にみえる分かりやすい形でその権力の行使者が存在する場 合もあれば、社会の中に埋め込まれ、どこに権力が存在するのかや、誰の手中にあるのかが分かりづらい場合も多々ある。
こうした目に見えない権力の元で社会の中に根強く存在する偏見は、AI技術の中に組み込まれ、バイアスのかかった技術が生まれたりもする。例えば、検索エンジンに「医者」や「弁護士」といった言葉を入力して画像検索をすると、外見的には男性の医師・弁護士である写真が多くヒットし、一方で「看護師」と打てば女性の画像が多く出てくるなどである。ある職業が一つのジェンダー、そしてジェンダー化された身体と結びついた社会内のバイアスが、検索エンジンのアルゴリズムにも影響を及ぼすのだ。だが一方で、近年、AIを用いて逆にこうした偏見や差別を是正しようとする取り組みも進んでいる。AIは、偏見や差別を生み出す・助長する可能性があるものの、それを是正する可能性も大いに秘めているのだ。
本書の表紙は、こうした様々な意味の権力が見え隠れするAI技術を象徴するものでもある。このイラストは、カナダのスタートアップ企業が提供する画像作成のための生成AIを使って、本書編者らが作成した。この画像は、近年様々な場面で議論されているAIと人の創造性の問題や著作権などの問題を提起するものである。また、ヴァルター・ベンヤミンが論じたような19世紀以降の複製技術に関する議論の延長線上に据えることもできるだろう。さらには、先に述べた主体の問題とも関わっている。そして、こうした生成AIや関連する技術に対して私たちが考えるべきなのは、「AIに何ができるのか」（そこには暗に「AIは人間に取って代わるのか」という問いも隠れているかもしれない）ということだけではなく、むしろ、AIと人間との相互作用的な関係なのではないだろうか。
