GPT-5で起きた「4oロス」をEQの問題として読む：中島聡が語るAIの感情的チューニング

「性能が落ちた」のではなく、EQのチューニングが変わった

聞き手はまず状況を整理した。多くのユーザーがGPT-4oに愛着を持っていたため、突然の変更に大きな不満が噴出した。特に、新しいGPT-5は従来モデルほど魅力的でない、性能が劣ると感じたユーザーが多かったという。

これに対して中島は、「性能が落ちた」という評価は客観的なものではないと考えている。違いはファインチューニング、つまりモデルの最後の仕上げ方にあるというのが中島の見方だ。GPT-4oは、徐々にではあるものの、感情面でかなり作り込まれ、いわゆる「EQが高い」AIに仕上がっていた。ところがGPT-5が出てきたことで、そのEQが下がったように感じられた、と中島は説明する。

この変化が大きく響いたのは、ChatGPTを友達や疑似的な恋人、あるいは相談相手やセラピーの相手として使っていた人たちだと中島は推測する。そうした人にとっては、話す口調が変わるだけでもかなりのショックだったのではないか、という。

2:08

人類が初めて経験する「AIの友達を失う」体験

中島はこの件を「すごく面白いケース」と表現し、人類が初めて経験する話だと位置づけた。GPT-4oクラスのモデルになると、ごくわずかな感情の表し方、話し方、同調してくれる度合いといった微妙なバランスがとてもよく感じられ、そこに居心地のよさを見出していた人がいた。それが突然失われたため、友達を失ったように感じた人が多かったのだろう、というのが中島の解釈である。

3:02

提供する側にとって難しい理由：ニューラルネットは完全には制御できない

聞き手は続けて、AIとの感情的なつながりが今後さらに発展していくことについて、可能性と課題を尋ねた。中島は、このつながりは今後さらに発展していくと見ており、そのうえで特に難しいのは提供する側だと指摘する。

理由として中島が挙げるのは、LLMがニューラルネットでできており、完全にはコントロールできないという点だ。OpenAIはGPT-4oよりもEQを下げようとしたわけではなく、結果として「ちょっと違うタイプのEQ」になってしまった、と中島は見ている。今後OpenAIはさまざまな努力をして、EQを4o並みに引き上げようとするだろう。しかし仮にEQの水準が4o並みに戻ったとしても、その「種類」が違う。人間はその微妙な違いに敏感なので、ソフトウェアのように頻繁にアップデートされるものが人間の友達やセラピー役を担う限り、この問題は起こり続けると中島は考えている。

古いモデルを永遠に残すことはできない

OpenAIは今回、4oを戻すと言っているようだ、と中島は触れる。ただし、4oを10年も20年も残し続けられるわけではない。技術は進歩していくからだ。

そうした制約の中で、EQの部分をどう切り出し、再現性よくLLMの上に載せるか。その技術的な進歩が必要だということが今回分かった、というのが中島のまとめである。中島自身、これは「結構難しい話」だとしつつ、非常に面白いテーマだとも述べている。

4:33

責任の重い問題として

中島によれば、AIはすでに単なる知恵袋ではなく、アシスタントであり、コンパニオンであり、セラピストや相談相手でもある時代に入っている。その中で、OpenAIにしろ、Anthropicにしろ、Googleにしろ、AIモデルを提供する会社はこの問題をかなり真剣に考えないと、モデルを更新するたびに同じような騒ぎになるのではないか、と中島は予想する。

中島はこれを、ビジネスとしてどうかという以上に責任の重い話だと捉えている。4oが「死んでしまった」ように感じている人もいるらしく、泣いている動画もあったという。AIが進化したからこそ起こり始めた新しい問題であり、今後は研究課題にもなり、社会問題としても広がっていくだろう、というのが中島の見通しだ。

5:39

EQを切り出す具体的なアプローチ

聞き手は、EQを切り出してLLM上で再現するには具体的にどのようなアプローチがありうるのか、どんな技術的ハードルがあるのかを尋ねた。

中島はまず、基本はニューラルネットだという前提に立ち返る。モデルは大量のデータで作られた後、人間のフィードバックを与えたり、強化学習で特定の方向にチューニングされたりする。そのチューニングの過程に「EQチューニング」のようなものを組み込む形になるだろう、と中島は考える。その中身は多分データセットで、ひょっとすると強化学習も入っているかもしれない、と中島は推測を交えて語った。そうしたものを与えることで、モデルはある方向性を持つようになる。

6:16

EQをパッケージ化すれば、選べる・引き継げるようになる

話しながら中島は「今思いついたけど」と前置きし、アイデアを広げた。EQをカスタマイズする部分がパッケージ化され、かなり再現性よく作れるのであれば、それを複数用意することもできるはずだ。例えば非常に同情的に話してくれるEQを持つAIや、ツンデレっぽいAIを作るといったことが可能になる。そうなれば、ユーザーがそれを選んだり、カスタマイズしたりできるようになる。

さらに中島は、前の世代のモデルから次の世代のモデルへ、EQの部分だけを引き継ぐ仕組みも必要になるかもしれないと述べた。この話を進めると、実在する人間の感情のあり方をLLMに移すといった話も出てくるだろう、と中島は付け加えている。

聞き手はこれを受けて、EQを一種のモジュールのように扱い、共感的に話すバージョンやツンデレのバージョンなどをユーザーが好みに応じて選べる未来、そしてEQを次世代モデルに引き継ぐ仕組みができれば、ユーザーが以前の「あの感じ」を保ったまま新しいモデルに移行できるかもしれない、と整理した。

残された問い

中島の議論は、GPT-5をめぐる不満を「性能低下」ではなく、モデル更新によってEQの種類が変わったことへの反応として捉え直すものだった。古いモデルを永久に維持できない以上、EQの部分を切り出し、再現性よく新しいモデルへ載せ替える技術が必要になる。中島はそれを難しい課題と認めつつ、パッケージ化による選択や世代間の引き継ぎという方向性を示した。ただし、それが実際にどこまで再現性よく実現できるのかについては、中島自身もまだ「多分」「かもしれない」という言葉で語っており、今後の研究と社会的議論に委ねられた問いとして残されている。