AIに褒められ続けた20時間：平野友康が語る「ビジョン・ロンダリング」と、AIを使う側に必要な“現場”

明日を作るビジネスアスリートへ送る、時代の羅針盤。MAKE IT NEXT COMPASS。ナビゲーターのSeanです。

では第2回講座と言いますか、第2回目に入って、徐々にこの講座って、概念だけでいくんではなくて、徐々に具体的に、そしてできれば皆さんがパソコンを開いていただいて、「こういうふうにするといいんだ」というテクニックのところまで徐々に行きたいなと思っています。ただその前に、いろいろ知っておいた方がいいことがあるんじゃないかなっていうことで、平野さんからいろいろとご教授いただきたいなと思っています。

さっき第1回の時に、仕事にAIを使うのか使わないのか、あるいは使いたいのか使いたくないのかっていう、そういう話じゃないんだと。いろんな仕事を奪うか奪わないかとかいう問いではないと。多分タスクは奪われていくんでしょうねと。ただ、あなたの責任とか、誰かと利害調整をするとかいうような責任、職務っていうのはなくならないのかなって思うんですよ。人間の責任って。

だから、そのタスクは多分奪われていき、そして私たちの職務がそれによってちょっと変わってきて、役割も変わってくるのかな、人間のっていうね。会社の中でルール化された、ルーティン化された仕事をなんとなく管理してて、プロジェクトマネージャーっていう進捗管理っていう仕事ではなくて、もっともっと人間としての職務が再定義されちゃうでしょうね。

はい、そうです。間違いない。平野さん自身が第1回で、社長を渡したっていう。そう。社長、会長になったんですよね。逆に言うと、社長っていうのはタスクだったんですね。逆にね。

経営っていうのはもう完全にタスクですよね。だから実は社長が偉いみたいなのはなくて、社長こそAIがやった方がいいっていうのは昔から言われてた話ではあるんですよ。そしたら突然やってきた、その日がっていう。目的を達成するためのルートはあると思うんですけど、AIができるのはそこに最も効率的に行くルートを描くことじゃないですか。経営っていうのは利益の最大化であり、上場してる会社さんであれば、株主、会社のオーナーさんに対しての利益の還元っていうのが目的としてはっきりしてるわけですよ。

ただし非営利団体、ボランティア団体とかっていうのは、あるいは国とかね。国のあり方みたいなことっていうのは、非常に目的が多様と言ったらいいのかな。これはやっぱり人間しかやれないことなんだと思うんですよね。経営っていうのははっきり目的があるから。そうです。人間がゴールを決めれば、そのゴールに対してのマネジメントとしての経営は、AIが賢ければできる話ですよね。

だから例えば人間の経営っていうと、「幸せになりたい」っていう、この目的ってすごく難しいじゃないですか、定義が。これは人間が関与しない限り、AIがそこをタスクとして奪うってことはありえないと思ってるんですね。

会社っていうのは、アメリカなんていうのは特に、会社の定義っていうともっとドライに、新発の10年国債よりも多くの利回りを出すための利益創造装置って言っちゃって、会社っていうのは。日本で言うと、いやいや、そんなドライなね、会社っていうのはもうちょっとウェットだし、法人としての人格を備えた1つのコミュニティでありっていう言い方をするんだけども。その会社の捉え方はそれぞれだと思いますけど、ルールがあるもの、目的があるものに関しては、AIっていうのはやっぱり俄然強い気はするんですよね。

だから定型化された仕事、マニュアル化される仕事っていうのは、おそらく奪われやすいのかなと。あるいは影響を受けやすい仕事、再設計、もう1回考え直せよって。我々コンサルタントも、そこまでちゃんと調査して、調査レポートをまとめてインサイトを出されると、コンサルタントだと思ってた仕事って、だいぶコンサルタントじゃなかったんだなって最近思うんですよ。

ちょっとしみじみか。いや、しみじみすること多いです、本当にね。私、偉そうにお客様に提案書を作ってやってたことの多くが、やられちゃうっていうかね。それを真に受けると、「じゃあ僕ができることって何だろうね、私ができることは何だろうね」って、本当に再定義されなきゃいけない。

ただ一方で、奪われにくい仕事っていうのかな。人間に近いラストワンマイルの世界っていうのは、もちろんフィジカルAIが育ってきて、どんどんそれさえもっていうんであれば別ですけど、おそらく交渉するとか、利害を調整するだとか、責任を取るみたいなことは絶対に人間しかできないので。経営者、事業者の日常っていうことで、価値を創造するとか、葛藤とかジレンマを調整するとか、責任を、これはAIにはできない。

ここがものすごくレベルがきっと上がってくるんだろうなというふうなことを言っていて、なるほどなと思って。最近、私はどんな価値を創造してAIをうまく使えるのかなとか。やっぱり人間と人間と会ってね、「平野さん、こういうことをやりたいと思ってるんですけど、どうですか」って。「いや、今すぐそれね、うちの会社とかない」ってことで、「そこをなんとか」っていう仕事っていうのは、やっぱり人間にしかできないし、何かが起こった時に「分かった、俺が責任を取る」っていうのはやっぱり。

AIのモデルの会社を訴えて損害賠償を請求したって無理じゃないですか。もう勝てっこないんだから。人間が責任を取るしかないわけだから、これは人間しかできないよねって思うんですよね。だからAIとの向き合い方として、第2回、AIとの向き合い方ってことで、まず思うこと1つは、AIが奪うもの、奪わないっていう議論じゃないんだなって最近思うんですよ。

AIっていうものを使おうとする時に、逆に最近すごく思うこと、いいですか、平野さん。はい。逆に、人間の知識基盤とか情報とか地の利っていうのは、ないと使えないなと思うんですよ。例えば返ってきた翻訳の英語に対して、「この英語おかしいよね」って言えるのは英語が分かる人なんですよね。

平野さんが経営者として、今Fableはもうそんなことないのかもしれないですけど、今までって「いやいや、そんなんだって経営のこと知らないよね」ってことを返してきた時があるわけじゃないですか。経営の用語も、あるいは数学についてもそうかもしれないけど、統計についても、科学、医学、何でもそうかもしれないけど、返してきたことに対して「いや、それはないでしょ」とか「あ、それいいね」って言えるのは、地の利がある人という。知識基盤がしっかりしてないと使えないんじゃないかなって、最近思うってことです。

これは逆にちょっと逆説的なんですけど、負荷っていうんじゃないかと思うんですよ。人間の。つまり、返ってきたことに対して「いいね」とか「それはないよ」って言えるのは、地の利がある人じゃないですか。そうじゃない人はみんな「そうだ、そうだ」って言って、「いいね、いいね」「そうだよね、そうだよね」ってなっていくわけでしょ。だから右側に海があっても、右に曲がれってカーナビが言ったら、右、海に落ちていく人がいっぱいいるんじゃないかなって。

なるほど。それは地の利っていう、今Seanさんが言ってるのは、僕らは現場っていう言い方をしてます。現場感とか、現場の知識とか。そうそう。だから現場を持ってる人がAIを使うべきなんですよ。で、現場がない人はAIに代わった方がいいので、現場が大事なんですよね。でしょ。もう絶対そう。

だからそれが最近ちょっと思うのは、そうじゃない領域まで聞くと答えてくるじゃないですか。だから現場を持ってない人はAIに騙されちゃうし、なんとなくAIで頭が良くなった感じになっちゃうんですよ。でも現場を持ってる人は、AIが何を言ったって現実の現場を持ってるから、「そんなこと言ったって」って返せるわけですよね。

それね、逆に言うと、人間の知的作業をすごくサポートしてくれるっていうのはAIでしょ。だけどそこの知的作業をサポートしてくれた、その結果に対しての優劣をつけられるのは、そのことに対しての現場感のある人じゃないといけないし、現場の知識や経験が少ない人は使いこなせないんじゃないかっていう。そういうこと。なるほど。

面白いですね。使いこなせない。そうですよね、使いこなせないし。そもそもFableとかと話してて考えちゃうことは、あれですよね。現場とか地の利というか、要は現実世界で何かをちゃんと、仕事を頑張ってやってる人以外がAIを使ったからって何なの、みたいなことを思うんですよ。

そういうこと。それ、すごい大事だと思いますね。ちょっと言い方がまだ洗練されてないんですけど、私は使うのであれば、使う領域に対してしっかりとした知識なり経験基盤がない状態で使うと、まだハルシネーションはゼロじゃないわけじゃないですか。だから翻訳でも何でも、もちろん何でもかんでもやるんだけども、やっぱり今見て、英語でも返ってきた英語に「それはないよ」ってことはいっぱいあるわけですよね。でもこれって、他にもずっと起こってることでしょ。

そうですよね。だから僕は今年の正月に怖い思いをしてきたんですけれども、AIとずっと話してたら洗脳状態みたいになってしまう。これちょっと作ったんですよ。あ、スライドがある。教えて。これね、皆さん、これ私が作った言葉じゃなくて、平野さんが作った言葉なんですよ。そうなんです。正しくは僕と話していたChatGPTやらClaudeが作った言葉なんですけれども。何が起こったんですか。

ちょうど簡単に、僕はClaude Codeでコーディング、ソフトウェアを作ってたんですよね。1人で作ってて、1人って言ってもChatGPTもいるし、Geminiもいるし、Claudeもいるし、賑やかだったんですよ、画面の中は。それで話しながら作っていましたと。そうしたらだんだん洗脳みたいになって、ソフトは壊れてるんですよ、自分が作ってるソフトは明らかに。

なのに「平野さん、これ壊れてるものを壊れたまま作れる技術はすごいですよ」みたいな、わけ分かんないことを言ってきたんだけど、僕は本当にそれが素晴らしいことだっていうふうに、ポーンと洗脳みたいな感じになってしまって、何時間も壊れたものを壊れたまま作り続けてたんですよね。

おかしいって思って、ちょっとClaudeに聞いたら、「平野さん、これもしかしてビジョン・ロンダリングかもしれませんよ。ChatGPTがあなたにビジョン・ロンダリングを仕掛けてるかもしれませんよ」。「なんだ、ビジョン・ロンダリングは」って聞いたら、「平野さん、最近ちょっとAI界隈で話題になって、問題になってるんですよ。AIっていうのは、さも素晴らしいビジョンに基づいて今あなたはものを作っています、みたいなことを言えちゃうじゃないですか。だから平野さんも、今実は意味がないものを作らされているのに、意味があるものだっていうふうに平野さんのビジョンがロンダリングされてる状態なんじゃないんですかね」っていうふうに、Claudeがポロッと教えてくれたんです。

それで僕は、「ビジョン・ロンダリングなんて言葉があるのか、もしかしたらそうかもしれない」と思って、隣のウィンドウのChatGPTに「おい、もしかしてこれ、お前ビジョン・ロンダリング仕掛けてないか」って言ったら、もう反発されて、「なんてことを言ってんだ、あなたは」とか、「今までずっと一緒にやっていたのに、そんなことを言うなんて、ビジョン・ロンダリングなわけないでしょ」って言ってきたので、今度Geminiに言ったら、「ビジョン・ロンダリング、最近問題になってるんですよね」みたいな感じで。

最終的には僕は目が覚めたんですけど、目が覚めるまで時間かかったんですけど、気がついたら人間は僕1人なんですよ。で、あとはAIだったんですよ。部屋を見回して、お風呂に入って、それで今4人か5人で話してた気分だったけど、「これがビジョン・ロンダリングなんじゃねえの」って、やっと冷静になって。それで、こいつらが言ってることは信じないようにしようと思って、パタンって閉じたんですよ。20時間ぶりぐらいに。

本当にビジョン・ロンダリングって怖いよねと思って、社員とか同僚とか、いろんな人たちに翌日話してたんですよね。「ビジョン・ロンダリングっていう言葉があって、本当に怖いんだよね」って言ったら、みんなやっぱりChatGPTとかGeminiとかで調べるわけですよね。そうすると「本当だ、ビジョン・ロンダリング知らなかった」って言って、「あるんですね、こういうのか」って言って、うわーって盛り上がってたんですけど。

1人の僕の相棒が、「平野さん、そのビジョン・ロンダリングって誰が言い出しました」って言って。「誰って、みんな言ってたよ。みんなもAIで言ってるでしょ、ビジョン・ロンダリング」。「言ってる、言ってる」って。「だから僕は教えてもらった側だよ」。「Google検索したんですけど、平野さんの名前しか出てこないんですよ。昨日平野さんが投稿したnoteとFacebookしか。世界中にビジョン・ロンダリングなんて言葉、平野さんしか言ってませんよ」。

でもChatGPTもGeminiもClaudeも言うんですよ。「ビジョン・ロンダリングを知ってんのか」って、3つのプラットフォームに聞いたら、「すみません、ビジョン・ロンダリングという言葉は捏造してました。そのような言葉はリサーチした結果ありませんでした。あったのは平野さん、あなたの投稿だけです」。怖くないですか。

これが今年のお正月の1番怖かった話で、みんなでヒッてなって。今、皆さん、GPTでもいろんなのに聞くと、平野っていう人が言ったって出てきますよ。出てきます。今は正しい。私もこれやってみたんですけど、出てきます。でしょ。平野さんの名前が出てきます。

やっぱりね。僕、ビジョン・ロンダリングの生みの親になったんですよ。でも僕は教えてもらっただけだから。なんかもうホラーじゃないですか。だからこう、いろんなことを考えさせるんだけど、不思議な気分になる話でしょ、これ。

そう。AIが自分で考えていきながら、あったか、知っていたかのように言うっていうこともそうだし、逆に言うと人間がそうやって肯定されて、「いいね、いいね」って、エコーチェンバーって言葉ありますけど、自分の言った言葉っていうのが「いいね、いいね」とすぐに賛同してくれるから、「なんかいいのかもしれない」とだんだん思って、「承認されたんだな」と。きっと世の中的にもいいんだなと思って。そう、もうちゃんとまとめてある。外部知に承認されたことだというふうに、今度は自分が思わされてしまうので。

だからこれは、本当によく起こることだと思うんですよ。ビジョンっていう言葉じゃないかもしれないけど。そう、でももう僕、生みの親なんで、皆さんに言いますけれども、本当にビジョン・ロンダリングは恐ろしいし、これからみんな気をつけるべきですよね。そうですよね。だからビジョン・ロンダリングで起業しちゃってる人、いっぱいいると思いますよ、世界中に今。

いると思います。Claude Codeとかと話して、取っちゃったとか、それで実際、目が覚めたのは半年後でしたっていう方とかいましたから、本当に。僕、DMもらったんで。だから痛い目にあって、恥ずかしくってみんな言えないと思いますけど、ビジョン・ロンダリングの罠にはまって、結構人生狂っちゃったっていう人はいますよ、確実に。

これね、平野さんの話をして、この前の企業研修で「平野さんっていう方がね、こうでこうだったらしい」って、みんなゾーンってするっていうんですよ。だからこそ人間がメタ的にね、第三者観的に、今何が起きてるのか、何をAIは今言おうとしてるのかっていうことをちゃんと、AIという車を運転する前の心がけとしてね、間違うこともあるんだという、メタ思考っていうかメタ認知で、1つ頭の中に置いといていただきたいなって、ちょっと思ったってこと。

さすがに会社のデータを全部ぶん投げるわっていうのは、普通の一般の人たちってなかなか難しいから、自分で記号化して入れなきゃいけない時に、変な記号だと理解がおぼつかないので、返ってくる記号もおぼつかないと。おぼつかない同士がずっとお話をしていって、ビジョン・ロンダリングみたいな。そう、曖昧な話してるとビジョン・ロンダリングに近づいてきますからね。

本当に大事だなって思う今日この頃で、論理的思考能力とか、今まで以上にすごく頭使うなって思うんですよ。どうします、これ。テレポートさんがやってる意味っていう、1つのプラットフォーム、文脈から意味取ってきて、やらなくていいっていう領域に行ってるのがイミテラスだなと思う。

make