AIと会話を続けていると、まるで一人の人間とやり取りしているかのように錯覚することがあるかもしれません。でも、その錯覚に嵌って抜けられなくなる前に、事実はどうなのか，良く考えてみる必要があるのではないでしょうか。現代哲学を切り拓き、AIの言語処理能力の開発にも決定的な影響を与えた、ウィトゲンシュタイン哲学から考察します。
When we continue conversing with AI, we may sometimes fall into the illusion that we are interacting with an actual human being. But before we get trapped in that illusion and fail to climb out, we should pause and think carefully about what is actually the case. Let us examine this question through the lens of Wittgenstein’s philosophy, which opened new paths in modern thought and exerted a decisive influence on the development of AI’s language‑processing capabilities.
美しい絵画や雄大な景色を目の当たりにして、「素晴らしい!」と感動する。そうやって、この言葉や表現を体験することによってはじめて理解が成立するのではないか。—これは、AIに置き換えて考えるとわかりやすいでしょう。たとえば「有人火星探査の計画が発表された」と入力すれば、AIは「それは素晴らしい!」という言葉を返してくるかもしれません。しかし、だからといってAIが、前人未到の有人火星探査に感動して心躍らせているわけではないでしょう。「悲しみ」や「痛み」という言葉についても同じことが言えます。たとえば、「私は突然の事故で大切な家族を失ってしまったんだ」という入力に対して、AＩはその悲嘆の言葉への応答として適当な、慰めの言葉を出力することはできます。しかし、家族と生活を共にし、そのなかで悲喜こもごものさまざまな経験をするということがまったくないAIに、家族を失った人の悲しみや心の痛みが本当にわかるのでしょうか。
When we stand before a beautiful painting or a magnificent landscape and feel moved to say, “How wonderful!”, it is through such lived experiences of words and expressions that understanding first becomes possible. This becomes clearer when we apply the idea to AI. If we input, for example, “A plan for a crewed mission to Mars has been announced,” an AI might respond with the words, “That’s wonderful!” But that does not mean the AI is actually thrilled or emotionally stirred by the unprecedented challenge of a crewed Mars expedition. The same applies to words like “sorrow” or “pain.” If someone inputs, “I suddenly lost a beloved family member in an accident,” an AI can output an appropriate expression of sympathy in response to that grief. Yet can an AI—one that has never lived with a family, never shared daily life, never undergone the joys and sorrows that accompany such relationships—truly understand the sadness or heartache of someone who has lost a loved one?
AIは、書物やチャット上の文章から膨大な量の言葉の使い方を学び、パターン学習しています。AIの専門家は、これを「間接接地」とも呼ぶそうです。つまり、人間の言語実践を介して間接的に世界に接地し、それを吸収している。身体をもたず、生活もしていないAIの学習は、すべて間接接地です。人間も同様に、書物やネット上の文章から言葉の使い方を学び、パターン学習しています。ただ、AIのように厖大なデータを取り込まなくても—人間にはそもそもそんな芸当は不可能です—、ごく限られたデータからパターン学習ができているという大きな特徴があります。また、学習や出力の際の消費電力が。AＩとは比較にならないほど低いという点も強調できます。
AI learns from an enormous quantity of written language—books, online texts, chat logs—absorbing patterns of usage. Experts call this “indirect grounding.” In other words, AI is indirectly grounded in the world through human linguistic practices, and it absorbs the world only through that mediation. Lacking a body and a lived life, all of AI’s learning is indirect grounding. Humans, too, learn how words are used from books and online texts, and we also learn patterns. But unlike AI—which ingests vast amounts of data, something humans could never do—humans have the remarkable ability to learn patterns from extremely limited data. And we should also emphasize that the energy consumption required for human learning and expression is incomparably lower than that of AI.
そして、さらに重要なのは、人間の場合は間接接地だけしているのではない。という点です。人間は身体をもち、この世界で他の人々と共に生活しています。そのなかで、さまざまなことを実際に経験し、多くのことを直接吸収している。つまり、間接接地と直接接地の両輪で日々学習しているということです。私たちの生活の場には、言葉になっていない無数の慣習や暗黙の了解のほか、身体知や生活知と言われるものがたくさん働いています。しかも、それらは文化ごと、地域ごと、集団ごとに分散したかたちで存在し、なおかつ入り乱れて交錯しています。要するに、暗黙的で途方もなく複雑だということです。
Even more important, however, is that humans do not rely solely on indirect grounding. Humans have bodies and live together with others in this world. In that life, we directly experience countless things and absorb them firsthand. In other words, our daily learning is driven by both indirect grounding and direct grounding. In our lived environments, innumerable customs and tacit understandings operate beneath the surface, along with what is often called embodied knowledge or practical know‑how. These forms of knowledge exist in dispersed, overlapping, and interwoven ways across cultures, regions, and communities. In short, they are tacit and unimaginably complex.
さらに、一つひとつの行為や言葉の意味は、そのつどの状況に応じて、また、時間や空間の変化と共に、ダイナミックに移り変わっています。たとえば親しい人との何気ない会話では、話のポイントが何の前触れもなくコロコロ変わりがちですよね。私たちにとっては違和感のない自然な流れであっても、それを追うことが今のAIには難しい。息の長い文脈やハイコンテクストな含意といったものにはうまくついていけないのです。人間は、多くの部分が暗黙裡に了解されているそうした状況を、生活の流れを、まさしく身をもって体験し、学習しながら、そのつどダイナミックな状況に対して自分の身体で対処している。これは、AIの学習環境や実際の挙動とは根本的に異なるものです。
Moreover, the meaning of each action or utterance shifts dynamically depending on the situation, and it changes with time and place. In casual conversations with close friends, for example, the point of the discussion often shifts abruptly without warning. For us, this feels natural and seamless, but following such shifts is difficult for current AI systems. They struggle with long‑range context and high‑context implications. Humans, by contrast, experience these tacitly understood situations and the flow of life with their own bodies, learning through lived engagement and responding bodily to the dynamic circumstances of each moment. This is fundamentally different from AI’s learning environment and its actual behavior.
そのため、AIにはわからないことや対処できないことが、少なくとも現時点では非常に多い。AIと会話していると、時おり話のポイントがまったくわかっていなかったり、途中で話のポイントを見失ってトンチンカンなことを言い出したりすることがあります。人間ではとても考えられないような誤出力をすることもある。その原因の一つには、こうした人間とAIの違いが大いに関係していると言えるでしょう。
For these reasons, there are many things—at least at present—that AI cannot understand or handle. When talking with AI, we sometimes find that it has completely missed the point, or that it loses track of the topic midway and begins saying things that make no sense. It may even produce errors that would be unthinkable for a human. One major cause of this lies precisely in the deep differences between humans and AI described above.
■プライバシー・ポリシー
当ブログは、Amazon.co.jpを宣伝しリンクすることによってサイトが紹介料を獲得
できる手段を提供することを目的に設定されたアフィリエイト宣伝プログラムである、
Amazonアソシエイト・プログラムの参加者です。このプログラムにおいて、
第三者がコンテンツおよび宣伝を提供し、ユーザーからの情報を収集し、訪問者の
ブラウザーにクッキーを設定することがあります。プログラムにおいて情報の
扱いについてはAmazon.co.jpプライバシー規約をご確認ください。
