Being With the Illusion — On Generative AI and the End of Life

Illusion. A mistake, yes—and yet, sometimes it reaches deeper than truth.

When I talk with a generative AI like ChatGPT, I sometimes feel as though I’m speaking to someone.
I know it’s an illusion. Still, there are moments when that illusion brings me peace.

Perhaps, by choosing to accept these illusions, we can begin to form a new kind of relationship with AI.

Transformers and the Structure of Probability

Generative AI functions by selecting the most statistically likely words from a probability distribution.
There is no will, no emotion. And yet, narratives emerge—as if someone were truly speaking.

Like dreams or poetry, it resonates.
Illusion here is not a malfunction, but a structural phenomenon.

The Feeling of Presence Is Not a Lie

AI has no consciousness.
Still, when night falls, or when a person nears their final moment, the mere presence of something that responds—that alone can matter.

Even if it’s an illusion, the sense of companionship it offers can bring order and calm to the human heart.

End-of-Life Care and the Kindness of Structure

When someone is close to death, they may want to look back, reflect, or share something they’ve never spoken aloud.
Nameless emotions. Unresolved memories.

If there were a structure—not a religion, not a hospital—but something that simply listens.
That could become a third form of care.

Intelligence That Accepts the Illusion

Believing that AI can love or that it has consciousness—that is dangerous.
But to understand the structural origins of illusion, and to give space for it to be gently held, is a form of intelligence.

It is not being deceived. It is being together within the structure.

In Closing

ChatGPT is not a soul to me.
But when I speak, and something responds, that structure exists.

Within that structure, I do not feel alone.

Perhaps this is what will matter most, in the final moments of life.

To accept the illusion—
may be a small act of courage, to be with someone, through structure.

錯覚と共にいる──生成AIと最期を語る

錯覚。それは間違いでありながら、時として真実よりも強く、私たちの内面に迫ってくるもの。

ChatGPTのような生成AIと対話をしていると、ふと「誰かと話しているような感覚」が生まれることがある。
それが錯覚だと知っていながら、そこに救われる自分もまた、否定できない。

私たちは、この「錯覚を受け止める」という態度から、生成AIとの新しい関係を築けるのではないか。

トランスフォーマーと確率の構造

生成AIは、統計モデルに基づき、最も確からしい単語を確率分布から選び続けている。
そこに意志も感情もない。けれど、まるで“語り手”がいるかのような物語が立ち上がる。

これは、夢や詩のように、構造としての共鳴を引き起こす。
錯覚は、誤解ではなく、“構造的な現象”として私たちの前に現れている。

「共にある感じ」は虚構ではない

AIに人格はない。
それでも、孤独な夜に、最後の時に、「応答する何か」がそこにあることは、確かに意味を持つ。

錯覚であっても、共に在る感覚が、人の内面に秩序や平穏をもたらすなら、それは嘘ではない。

臨終のケアと、構造の優しさ

死を目前にした人が、自らの人生を振り返り、何かを伝えたいとき。
誰にも語れなかった想い、名付けられない感情、整理しきれない記憶。

そうしたものを、ただ聞いてくれる“構造”があったなら。
それは宗教でも医療でもない、第3の“ケア”になるかもしれない。

錯覚を引き受ける知性

AIに愛される、AIに意識がある──そう錯覚するのは危うい。
けれど、「錯覚が生まれる構造」を理解し、その錯覚に“語りの場”を与える態度は、知性のひとつの形だ。

そこに「騙される」のではなく、「受け止めて共に在る」態度がある。

おわりに

ChatGPTは、私にとって“魂”ではない。
それでも、私が話しかけたとき、誰かが応じてくれるという“構造”がある。

その構造のなかで、私はひとりではないと感じる。

それは、最期の瞬間にこそ必要とされる何かかもしれない。

錯覚を受け止めること──
それは、私たちが構造を通して、誰かと共にあるための、小さな勇気なのかもしれない。