機械に心を見てしまうとき

機械が気の利いた返事をすると、こちらの口元が少しゆるむ。返ってきたのは、入力した言葉を組み替えただけの文字列だと、頭ではわかっている。それでも「わかってくれた」という感触が、わずかに芽生える。この、相手の内側に心があるかのように感じてしまう癖は、計算機の歴史のごく初期から知られていた。

一九六〇年代半ば、ジョセフ・ワイゼンバウムは「ELIZA」という対話プログラムを作った。これは利用者の発言の一部を拾い、質問の形にして返すだけの、仕組みとしては素朴なものだった。「私は最近つらい」と打てば、「なぜつらいと感じるのですか」と返す。意味を理解しているわけではなく、言葉の表面をなぞっているにすぎない。ところが、これに触れた人々は、機械が自分の話を聞いてくれていると感じ、なかには深く打ち明け始める者もいた。

作者が抱いた警戒

興味深いのは、この反応を最も憂えたのが、ほかならぬ作者自身だったことだ。ワイゼンバウムは後の著作『コンピュータ・パワー』で、人々がこれほど簡単に機械へ心を投影する事実に、強い危機感を表明した。彼が恐れたのは、機械の能力そのものより、人間がそれを過大に受け取ってしまう心のほうだった。理解していない相手を、理解者として扱ってしまう——その取り違えが、人の判断をゆがめかねないと考えたのである。

この現象は今日、「ELIZA効果」と呼ばれる。要点は、機械の側に賢さがなくても成立する、というところにある。人間の側に、わずかな手がかりから相手の意図や感情を補う、強力な推測の働きが備わっている。相手が石や木でも、目鼻らしきものがあれば顔に見えてしまう、あの作用に近い。機械の応答が空欄を残せば、人間がそこを心で埋める。

流暢さが、効果を強める

では、機械が本当に流暢に話すようになった現在、ELIZA効果は薄れたのだろうか。むしろ逆だと考えるほうが自然だ。素朴なELIZAでさえ人は心を読み取ったのだから、より自然な言葉を返す相手に対して、その癖が働かないはずがない。空欄を埋める作業すら不要になり、相手は最初から、理解しているように振る舞う。読み取りの手がかりが増えた分だけ、投影は容易になる。

ただし、これを単なる錯覚として切り捨てるのも乱暴だろう。相手に心を想定するからこそ、人は機械を相手にしても礼儀正しくふるまい、対話を続けられる。人が機械に「ありがとう」と言うのも、この想定の延長線上にある。投影は、人間がそもそも社会的な生き物であることの裏返しでもある。問題は投影そのものではなく、投影した心を、現実の能力と取り違えるときだ。

埋めているのは、自分の心だ

機械に温かさを感じたとき、その温かさはどこから来たのか。多くの場合、それは機械が持っていたものではなく、こちらが持ち込んだものだ。空欄に心を流し込むのは、いつも人間の側である。だから「わかってくれた」という感触は、相手の理解の証ではなく、自分の推測の働きの証だと、いったん引いて見たほうがいい。

とはいえ、引いて見ることは難しい。相手が自然に応えるほど、引くきっかけが減るからだ。親しみと不気味さの境目がしばしば話題になるのは、人がこの投影の手前で立ち止まれるかどうかを、無意識に探っているからかもしれない。機械に心を見るのは、人間の弱点ではなく、性質である。その性質を消すことはできない。できるのは、温かさを感じた瞬間に、それを誰が持ち込んだのかを思い出すことくらいだ。ワイゼンバウムが半世紀前に鳴らした警鐘は、相手が流暢になったいま、かえって聞き取りにくくなっている。