AIは間違う。ただし、人も間違う
この技術はすでに実用に供されている。たとえば、東京国際空港（いわゆる羽田空港）や新東京国際空港（いわゆる成田空港）にはすでに顔認証ゲートが導入されており、日本国籍保持者の出入国に限っては顔認証ゲートによる「顔パス」での通過が許されている。
このAI=機械学習の動作原理はいままでのプログラミングとは全然違う。まず、人間はAI=機械学習がどうやって顔写真と人名を結びつけているかまったくわからない。それはAI=機械学習が勝手にやっていることで、人間のあずかり知らないことだ。また、ちゃんと動いていれば100％の正確な動作が保証される通常のプログラムと違い、AI=機械学習の動作精度は100％の保証はできない。他人のパスポートを持ち、変装したスパイがAIによる監視システムをくぐり抜けて、「顔パス」で絶対入国しないとは言えないのだ。どうやって顔認証し ているのかわからないのだから当然だろう。ただ、その可能性はごく少なくなるまで学習させているし、人間だったら変装して他人になりすまして入国を図るスパイを100％排除できるかというとそれだって怪しいものだから顔認証ゲートが導入されたにすぎない。
また、別の問題点として、AIが仮に間違いを犯したとしても、人間には直しようがないということだ。これもどうやって顔を区別しているのか人間にはわからないのだから当然だ。こんなことを書くととてもいい加減なシステムを導入しているように思えるかもしれないが、そもそも、人間だって「この写真を○○さんだと思う理由を言葉で説明しろ」と言われたら困るだろう。強制されれば、メガネをかけているとか、髭を生やしているとか言うだろうけど、どんなに特徴を並べ立てたところでその特徴をすべてみたす、しかし、当該人物ではない写真は必ず存在するだろう。同様に、人違いをしてしまったとき、なんで間違ったのかと説明を要求されても困るだろう。なぜその人だとわかったかと問われれば、それはそうわかったからとしか答えようがないし、なぜ人違いをしたかと問われれば、それはその人に見えたからとしか言いようがない。なんのことはない、人間だってAI=機械学習と比べて大して信用がおけるようなものではないのだ。
