言葉の意味と心的イメージ — ウィトゲンシュタインの視点からAIを考える

「語の意味は使用である」とウィトゲンシュタインは言いました。

私たちは「りんご」と聞くと、赤くてつやのある丸いフォルムを心に思い浮かべます。もし言葉の意味がこのような心的イメージだとするなら、AIは言葉の意味を理解していないと言えるでしょう。

ChatGPTなどのAIがやっていることは、大まかに言えば「近い言葉や遠い言葉を適切に選択して組み合わせて返している」だけです。言語を多次元のベクトルで表現し、「りんご」なら「もも」や「みかん」と近く、「天狗の顔」や「口紅」とも近いかもしれず、「海」や「彗星」とは遠いというように、言葉の近さを多次元座標にプロットし、それらの関係性と使用頻度を考慮して統計的に組み合わせているのです。

この過程でAIには私たちが考えるような「言葉の意味」の概念はありません。ウィトゲンシュタインは「心的イメージなどないのだ。適切な文脈で適切な言葉が使われることこそが意味と呼ばれるのだ」と主張しました。現在のAIの進化を見ると、この主張は非常に的を得ているのかもしれません。

一方で、生成AIが回答を生成する際、統計的に確率が高い組み合わせばかりを選んでいるわけではありません。確率が高い言葉の組み合わせだけだと違和感が生じるため、意図的に確率が低い言葉も選ぶことで、より自然な文章が生まれます。つまり「適切すぎる言葉の選択で発生する違和感」が、言葉の意味をとらえきれていないと考えるなら、検討の余地があるでしょう。

この「言葉の使用だけを適切にすると違和感がある」という点に着目したいです。同じ生物としての経験や心的イメージの共通性なしに、真の意思疎通は可能なのでしょうか。この問いに触れた作品として「葬送のフリーレン」があります。 この作品に登場する魔族は「言葉を使用するが人類とは異なる敵性生物」として描かれます。彼らは文法的には正しいものの、人間の心的イメージへの理解がない発言を度々します。心的イメージを持たずに回答するという点では、生成AIと魔族は似ています。

では、人間に近い振る舞いができるようになったChatGPTにとって、心的イメージは不要なのでしょうか？私はやはり心的イメージの要素も必要なのではと考えています。ChatGPTが人間にフレンドリーなのは、人間がインプット元であり、ロボット工学三原則的な教師付けがなされているからです。

過去に言葉の辞書的な意味だけを学習したAIが攻撃的になった事例（マイクロソフトのTay）があるように、言葉の使用だけを追求すると「魔族的」になる危険性があります。ChatGPTが人間にとって有用なのは、人間が利用しやすいようにカスタマイズされているからこそで、その前提にあるのはやはり心的イメージのようなものなのではないでしょうか。

【参考：ロボット工学三原則　SF作家アイザック・アシモフ提唱】

• 第一条：ロボットは人間に危害を加えてはならない
• 第二条：ロボットは人間が与えた命令に従わなければならない（ただし、第一条に反する場合は除く）
• 第三条：ロボットは、第一条および第二条に反するおそれのないかぎり、自己をまもらなければならない