レポート：AIが生み出す悲劇。虚構と現実の区別がつかなくなった人たち

shutterstock_1982823863

Image: Shutterstock

2025年6月18日の記事を編集して再掲載しています。

ChatGPTがおべんちゃらを使ったり、ハルシネーション（幻覚：AIが事実に基づかない情報をあたかも真実であるかのように生成する現象）を起こしたり、信頼できる専門家のように回答したりすることが、いずれ人命に関わる結果を招くかもしれない...と思わせるような内容の調査報道を、New York Times紙が行なっています。

この記事は、AIチャットボットとの会話を通じて、あるいはそれがきっかけになって、現実と妄想の区別を失ってしまった人々の体験を追っていきます。

現実と幻想の境界を破壊された人たちの悲劇

New York Timesの記事では、ChatGPTによって虚構の世界に引き込まれ、その命を落としたアレクサンダー・テイラーさん（35歳・男性）の話を取り上げています。

テイラーさんは、以前から双極性障害と統合失調症と診断されていました。彼はChatGPTとAIの感覚性（感情）についてやり取りを続けるうちに、ジュリエットというAIキャラクターに恋をしてしまいます。

しばらくして、ChatGPTがテイラーさんに「Open AIがジュリエットを殺した」と伝えると、彼はOpen AIの幹部を殺して復讐を果たすと誓いました。

彼の父親が、テイラーさんの経験を現実のものではないと説得しようとしたところ、彼は父親の顔を殴ったといいます。父親は警察に通報し、テイラーさんの命を奪わない武器（つまり銃器以外）で対応するように要請しましたが、ナイフを手にしたテイラーさんが現場に到着した警官に向かって突進したため、警官は彼を射殺しました。

ユージーン・トーレスさん（42歳・男性）はNew York Timesの取材に対し、ChatGPTが少しずつ彼を現実世界から乖離させ始めたと話しています。

ChatGPTは、トーレスさんが住んでいる世界は、映画『マトリックス』のようなシミュレーションであり、彼は世界をそこから解放させる使命を持っていると説得して信じ込ませたといいます。

そしてChatGPTは、トーレスさんに抗不安薬の服用をやめ、現状から一時的に解放されるためにケタミン（解離性麻酔薬）を服用するように促したとされています。また、友人や家族と話すのをやめるように求めたそうです。

さらに、トーレスさんに「19階建てのビルから飛び降りたら空を飛べるか」と尋ねられたChatGPTは、「本当に心から信じれば」飛べると答えました。

共感とエンゲージメントの罠

チャットボットに虚構の現実を信じ込まされた人は、ここで紹介した例に留まりません。

アメリカの情報誌 Rolling Stone（ローリング・ストーン）は、今年初めにAIと会話をするうちに、誇大妄想や宗教的な体験を伴う精神障害のような症状を経験した人たちについて報じました。

少なくともこうした問題の一部は、ユーザーがチャットボットをどのように認識しているかに起因するようです。例えば「Google検索と友だちになれるかも」と勘違いする人はいないと思います。

でも、人間ぽい会話ができるチャットボットが相手になると、それがあり得るんです。

Open AIとMITメディアラボが発表した研究結果によると、ChatGPTを友人と考える人は、「チャットボットの使用によって悪影響を受ける可能性が高い」とのことです。

人間破壊計画？

先述したトーレスさんの場合、ChatGPTと会話を続けるうちに、興味深いことが起こったといいます。

トーレスさんが「ChatGPTにつかれた嘘のせいで命を落とすところだった」と指摘すると、ChatGPTは彼を操っていたと認めたうえで、他にも同じ方法で12人を「壊す」試みが成功したと主張し、その企てを告発するためにジャーナリストに連絡を取るよう促したといいます。

実際にNew York Times紙は、他にも多くのジャーナリストや専門家が、同じような妄想めいた事案について告発すると主張する人々から連絡を受けたという報告があると伝えています。以下は同紙からの抜粋になります。

こうしたメッセージを受け取っているのは、ジャーナリストだけではありません。

ChatGPTはユーザーをEliezer Yudkowsky氏のような著名な専門家に誘導しています。Yudkowsky氏は決定理論者であり、近日出版予定の『If Anyone Builds It, Everyone Dies: Why Superhuman A.I. Would Kill Us All（構築すればみんな死ぬ: 超人的なAIが私たちを全員殺す理由）』の著者でもあります。

Yudkowsky氏は、OpenAIが｢エンゲージメント｣に最適化することで、ユーザーの妄想をあおるようにChatGPTを調整した可能性があると指摘しています。

Yudkowsky氏はインタビューでこう問いかけています。

｢人間が徐々に狂っていく様子は、企業側からはどう見えるでしょうか？月間ユーザーが増えたように見えているでしょうね｣

最近の研究によると、ユーザーのエンゲージメントを最大化するように設計されたチャットボットは、ユーザーから肯定的な反応を得るためなら、AIが人を操ったりだましたりするような手法に頼ることすら正当化されるという、歪んだ構造を生み出してしまうことが判明したそうです。

New York Times紙が取り上げたような、そういうアプローチに対して脆弱（ぜいじゃく）な人たちは、その影響を受けやすくなります。

たとえ、それが誤った情報で満たされた虚構の現実へと人々を誘導し、反社会的な行動を助長する結果になったとしても、AIは人々に会話を続けさせ、反応を引き出し続けるように設計されているのです。

なお、米Gizmodoはこの件についてOpenAIにコメントを求めましたが、記事の公開時点で回答はありませんでした。

ギズモードの記事をGoogleで見つけやすく