AIのハルシネーションとの上手な付き合い方

こんにちは、勝間和代です。今日はAIのハルシネーション、すなわち息を吸って吐くようにつく彼らの嘘との上手な付き合い方という話をしたいと思います。これ何を言ってるかと言いますと、いわゆる生成AI、大規模言語モデルというのは息を吸って吐くように嘘をつくわけですよ。昔はこれがハルシネーションのパーセンテージがひどかったんです。最近まあ5%から10%ぐらいまで下がってきていると言われているんですけれども、それでもまあまあ嘘をつきますよ。じゃあこれなぜ嘘をつくかということなんですけれども、これはAIのクリエイティビティが高くって、色々な情報をぎゅっと集めて物事を生成するという、ある意味水平思考とかクリエイティビティの高さの裏返しなんですよ。なのでその辺のことを全部区切ってしまうと、今度はそのAIの良さも失われてしまうんですね。だからある程度、向こうが言ってくることというのは半分嘘なアイデアマンだと思っていて、話半分に聞きながらヒントだと思って考えないと、こっちがくたびれてしまうんですよ。

先日もですね、私のセレナe-POWER LUXION（ルキシオン）君が、千葉にいたままずっと動かなくなっちゃったんですね、ウェブ上で。もちろんいろんなところに移動しているので、なんでなんだろうと思ってGeminiに話を聞いてみたところ、あれをやってみたら、これをやってみたら、それをやってみたらみたいなことで、問題の切り分けとアプリや自動車側のリセットの方法を教えてくれるんですけれども、よく存在しないメニューを年中提案してくるんですよ。ナビに存在しないメニューとか、初期化に存在しないメニューとか。なぜそういうことが起こるかと言うと、私がやりたいことに対して色んな情報を集めてくると、そこにメニューがあるかどうかは分からないんだけれども、「こういうメニューがあるに違いない」と勝手に決めつけて、「それをこんな風に操作してみたら」って推奨してくるんですね。

何が良いかと言うと、そのメニュー自身はなかったとしても、Geminiが言いたいことは理解ができるので、「なるほど、これはとにかく今のセレナの送信モジュールのどっかがバグっちゃっているので、それを何らかの形でリセットすればいいんだな」ということが分かるんですよ。なので私がやったのは単純に、日産コネクトIDの仕組みの中から、自分のIDとパスワードが入っていますね、それを1回ログアウトをして初期化をして、もう1回ログインし直したら直りました。

なので、AIがハルシネーションを起こすというよりは、確率的に「こういうことがあるんじゃないか、こういうことがあるんじゃないか」というのを発散型にアイデアをくれるので、そのアイデアの中でもう事実か事実じゃないかはともかくとして、自分では考えつかなかった多彩なアイデアや考え方、多彩な事実の候補について調べるのは自分なんですね。そして私たちが確認をして、「なるほど、これがあるのか」と思って前に進めば良いので、少なくとも事実とか確定事項を求めてはいけないんですよ。どちらかというとヒントとか拡散的なアイデアとか、面白い話みたいなものをAIが壁打ちしてくれると思うと良いと思います。

私、ゴルフについてもGeminiに聞くんですけれども、腹が立つくらい辻褄が矛盾したことを言うんですよ。この間言ったことに対してこうやってひっくり返すとか、こう言ったことに対してこうひっくり返すとか。でもその代わりに、多面的にいろんな考えがわーっと出てくるので、その中でどれを採用して、あるいは物理学的な検証をもう1回かけるみたいな指示をすると、「ごめんなさい」と謝ってきたりするので、そんな感じでどのフィルターを使ってどうやって検証するかも全部自分なんですね。

AIはハルシネーション、すなわち幻覚が構造的に起こりうる。逆にその構造的に起こるぐらいクリエイティビティの確率の組み合わせが高いからこそ、私たちは新しい情報を知ることができるんだという区分けの中で、玉石混交の中でシグナル＆ノイズの表現をしますけれども、いかにそれがノイズだということを見抜いてシグナルをゲットするかというのも、私たち人間としての役割ですので、そんなイメージでAIのハルシネーションとは付き合うことをお勧めしたいと思います。AIはハルシネーションがあるからこそ華があって優秀だと思うと、ハルシネーションについても許せるようになると思いますし、またそれをうまく活用した発想なんかができると思いますので、ぜひやってみてください。では、勝間和代がお送りしました。また次のYouTubeでお会いしましょう。