田口善弘

田口善弘

(写真:Billion Photos / shutterstock

LLMは生物学で捉えられるものかもしれない

chatGPTの登場により、私たちは改めてAIとは何か、意識とは、言語とは、思考とはどのようなものなのかを考えさせられることになった。この疑問が難題となるのは、LLMが「よくわからないもの」であるからでもある。機械学習の研究者である田口善弘氏は、LLMを生物学的に捉えられないかと考えた――。

Updated by Yoshihiro Taguchi on April, 3, 2023, 5:00 am JST

生物学とLLM研究の親和性

実は、人類は、ある程度自律的に動いているが動作原理が不明なものの研究を長年行ってきた。それは生物である。生物はいまでこそ、進化の結果高度な機能を獲得したと思われているが、進化論が提出されるまでは、神という究極の知性が作ったと思われるくらい、精巧にできあがっているのだ。その生物を研究してきた長い経験が、「LLMはなぜ『穴埋め問題』や『文章の連続問題』を学んでいるだけなのに高度な知性が要ると思われる機能を実現しているのか?」を理解することに役立たないはずはない。いまでこそ人類は遺伝子とか、セントラルドグマとかそれらしい理解の枠組みを持っているが、それまでは生物というのはなんだかよく分からない物質の塊なのに高度な機能を発揮している、という以上の理解は無かったのだから、別に出発点が巨大なLLMだとしても大して変わらないだろう。

幸いにも、と言うべきか、人類は21世紀が始まって以来、生物の内部表現を理解し解釈するための膨大なツールを作り上げてきた。さっそくと言うべきか、数日前にLLMの一種であるGPT4ALLの内部状態を可視化したサイトが公開されたが、この可視化に使われたt-SNEというアプリケーションは一細胞解析というゲノム科学の最先端の解析に多用されている可視化ツールなのである。偶然にも生物学とLLM研究の親和性を象徴する出来事になった。

だから、僕は今、こんな風に思っている。LLMやその後継たる多くの生成系機械学習AIは、純然たる人間の創作物であるにも関わらず、あたかもそれ自体が自然界に存在する実在物のように扱われて、その内部が研究対象になり、LLM生物学みたいな分野が立ち上がるんじゃないかと。そしてその分野が成功すればわれわれはLLMがなんでこんな動作をするのか理解できるようになり(もっと言えばLLMに意識はあるのか、ないのかみたいな不毛な議論にも決着が付き)、そして20世紀に敗北を帰した物理学者の無念もついでに晴らしてくれるんじゃないかな、と。