発表からわずか3日で停止した「Claude Fable 5」──何が起き、なぜ止まったのか

6月9日にFable 5がいよいよリリースされた。そのわずか3日後、6月12日に突然ですね、アメリカ政府が国家安全保障上の権限を理由にこの2つに触れさせてはならない。国防総省のブラックリストにAnthropic社が指定されるくらい揉めてました。Amazon社が政権に懸念を伝えたんじゃないかという風な話が出てます。土日にしっかり触る時間確保しようかなと思って置いておいたら6月12日にはもうすでに停止してて。

どうもこんにちは。安野貴博です。本日のテーマは、発表からわずか3日で停止された、Anthropicが発表したFable 5、Mythos 5の騒動についてお話ししたいと思います。この件はね、もういろんな説が飛び交っていて、どこが確かな話でどこが憶測なのかかなり分かりづらいんですけれども、その中でこういうこと言われている説というのをちょっとお話ししていければと思っております。

まず最初に何が起きたのかというところの振り返りからいきたいなと思うんですけれども、まず事件が起きたのは6月12日だったんですけれども、6月9日にFable 5がいよいよリリースされたということであったんですが、そのわずか3日後、6月12日に突然ですね、アメリカ政府が国家安全保障上の権限を理由に輸出管理指令と呼ばれるんですけども、これを出して、Claude Fable 5とClaude Mythos 5の2つについて、アメリカの中か外かを問わず全てですね、外国籍のユーザー、あるいはアメリカ国内にいる人であっても外国籍の従業員、ここまで含めてこの2つに触れさせてはならないという形で求めました。止まったのはね、このClaude Mythos 5とFable 5の2つだけで、同じClaudeでも他のね、OpusとかSonnetとかそういうモデルは通常通り使えてるんですけれども。

ちょっとおさらい的にお話しすると、このFable 5とMythos 5どういうモデルだったかと言うと、これ4月頃にAnthropicが発表したのが、ソフトウェア上のセキュリティの欠陥、穴ですよね。この脆弱性を見つけたり修正したりする能力が非常に強いということで、Anthropicも一時期こういうのできたんだけど、公開するのはもうごく限られたパートナーさんに限りますよという話をしていました。で、このですね、AnthropicのMythos Previewを、もうちょっとこう継続的に学習させながら危ない能力、例えばそのサイバーセキュリティの攻撃能力とか、生物学の分野なんかでも危険なDNAの配列を作るような能力っていうのがあるんじゃないかと言われてますが、そういったものの過を取った、もうちょっと安全なモデルとして一般向けにFable 5を作りました。なのですごくね、安全性について色々空したよというようなモデルを出したんですね。で、その強いセーフガードを、一部では強すぎると言われてましたけど、強いセーフガードをつけたモデルが、でも3日後にはこれはちょっと安全保障上の理由で危ないということで、アメリカ政府から止められたということです。

このですね、輸出管理指令の書面があるんですけれども、実はこの書面の中で、どういう風な懸念が具体的にあるのかっていうその中身は、詳細は不明のままでした。安全保障上の懸念がある、おそらくそのサイバーセキュリティの関連とか、その分子生物学の観点とか、いろんなね、可能性あり得ると思うんですけど、その何の理由かの詳細の説明は公開されていないんです。で、だからこそなんでこれが止まったのかということに関して、いろんな憶測が飛ぶようになりました。

で、この輸出管理指令を受けて何をしたかと言うと、外国籍の従業員、実はAnthropic社の中にもたくさんいるわけです。で、この外国の人をユーザーも含めてね、1人ずつ、あなた外国籍ですか、そうじゃないですかっていうの判別して止めるというのは無理なので、結果としてFable 5とMythos 5は完全に停止しました。全部の顧客向けに無効化しました。で、今これ撮ってんの6月27日ですけど、6月27日の今時点でもFable 5は現在利用できませんという状態が続いております。はい。ということでここまでが起きたことです。

ここまではね、結構、噂というか、ちゃんと現物を確認できるレベルの硬い話なんですけれども、で、なんでこれ止まったのかということに関してはいろんな噂が流れているんですけれども、まずちょっとそれまでの経緯として押さえておきたいことがありまして、そもそもアメリカ政府とAnthropic社は仲が悪かったという話ですね。

元々Anthropicはアメリカの軍隊にClaudeを提供していて、実際にですね、ベネズエラの話であるとかイランの話、軍事行動っていうものが起きているわけですけれども、その軍事行動の中でもClaudeが使われていると言われています。で、Claude使われているんですけれども、さらにそこに対して昔ですね、国防総省、昔っつっても今年の1月2月くらいの話ですけど、これね、アメリカ政府が元々ですね、LAWS、Lethal Autonomous Weapons Systemsっていう、自律的に殺傷する能力を持ったシステムの中でもClaudeを使えるようにして欲しいという要望をしていて、Anthropicがそれはできませんという話をしてですね、今年の頭くらいにはすでに国防総省とAnthropicは揉めてました。で、どれくらい揉めてたかって言うと、国防総省のブラックリストにAnthropic社が指定されるくらい揉めてました。かなりすごいことですよね。政府の一部門が、この企業はリスクがあるっていうことで、危険な会社リストにAnthropicを入れてたわけです。自分たちの言うこと聞かないので。

なんですが、4月にMythosが発表されると、これやっぱりそのサイバーセキュリティの能力非常に高いので、これしっかり使いながら様々な防御を固めないといけない、この能力を知らないといけないということで、国防総省のさらに1機関、部門であるNSA、国家安全保障局っていうところがあります。これちょっとね、この図上だと並列に並んでますが、実は国防総省のちょっと下にあるっていうことなんですが、これちょっとね、簡略化した図なので、あんまりめちゃめちゃ細かいとこは気にしないでいただきたいんですが、この国家安全保障局というインテリジェンス機関は、実はMythosを5月頃から使っていると。で、国防総省はブラックリストに指定していて、Anthropicと仲が悪いけれども、一部は、国家安全保障局はMythosを活用するという、このダブルスタンダードなね、状況になり、さらに5月ですね、国防総省自身も、Mythosはやっぱり使うということで、ブラックリストに指定しながらMythosを使うという状況になっていたそうです。そういう緊張関係がそもそもあったということです。

で、そんな中で今回何が理由だったんだろうっていうので、いろんなね、噂が流れてますけれども、まあまあ確からしいなというところで言うと、Amazon社です。Amazon社が政権に懸念を伝えたんじゃないかという風な話が出ております。AmazonのCEOであるアンディ・ジャシーさんが、トランプ政権の高官にAnthropicの最新モデルのセキュリティ上の懸念を伝えたという記事が色々出ていて、これね、複数の媒体、例えばロイターであるとかWIREDであるとかね、複数の媒体でこれ伝えられているので、そこそこ硬い話なのかなと思います。で、この懸念表明した相手が財務長官のスコット・ベッセントだったという報道もありますが、ここら辺の名前は結構揺れているらしいです。

で、この時にAmazonが見つけた懸念っていうのが何だったのかという話ですが、これもね、いろんな関係者の証言ベースで、中身そのものは公開されていないんですけれども、例えばAmazonの研究者の人が、このFable 5がですね、ジェイルブレイクが可能だったと。つまり特定のプロンプトでFable 5にサイバー攻撃をさせる、あるいはサイバー攻撃に使える情報を引き出すことができたんだという検証があったと言われてます。またその関係者の話として、NSAが検証に加わって、Fable 5のガードレール、安全装置を外せるんじゃないかっていうことを見つけたという噂もあります。で、他にもですね、政権のアドバイザーの1人であるデイビッド・サックスさんっていう人がいるんですけど、このデイビッド・サックスさんが投稿したところによると、信頼できるパートナーが脆弱性を突く手口を教えてくれて、政府が修正を求めたんだけれども、Anthropicがそれを拒否したために輸出管理を発動したんだというような投稿もあったそうです。なので、いろんな人がいろんなこと言ってますが、基本的にはFable 5危険なんじゃないか、懸念があるんじゃないか、そういったことがきっかけだったよとされています。

で、一方でAnthropicどう言ってるかと言うと、これ公式のブログで言われている話なんですけれども、Anthropicは、この時に問題にされたのはものすごい狭い話だったんだと。で、示された例もすごい軽微な脆弱性を見つけた程度の話で、ガードレールはちゃんと機能しているはずなんだっていう反論をしています。で、かつこの時に示されたくらいの危険性って、今公開されてるGPT-5.5であるとか他の会社のモデルも同じようなことできるよっていうことを反論してます。なので、このね、政府側の主張とAnthropic側の主張もなかなか真っ向から、危険だっていう話と、いやいやそんなことは他のモデルでもできるだろうという話が食い違っている状況です。

面白いなと思うのは、このAmazonっていうのが本当だったとすると、結構ここの関係もすごいなというところで、実はAmazonとね、Anthropicってめちゃめちゃ近い関係にあるんですよね。まずAmazon社はAnthropic社にめっちゃ出資してます。正確な数値は公表されてなかったと思いますけれども、ざっくりね、5兆円くらいAnthropicに出資をしていました。で、かつですね、AnthropicはAmazonの計算資源を使って、Amazonはね、AWS、Amazon Web Servicesっていう、大量のデータセンターを世界中に抱えていて、このデータセンターの計算資源を使いながら自分たちのモデルを学習したり、Anthropicとして提供したりするっていうのをやってますし、Amazon最近ね、半導体なんかも手を突っ込んで作っているんですけど、そういった半導体のチップも使うよというようなビジネスパートナー関係です。ただし、Anthropicのモデル自体もAWSの中に仕入れて、Amazon側がいろんな会社に売ってたりするので、かなりね、重要なパートナーシップ関係なんですが、そのAmazonがAnthropicのFable 5やばいっすよということを政府に言ったという、いろんな関係がありそうです。

はい。というわけで、起きたこと、何で止まったのか話してきましたけど、これから先どうなるのかという話です。で、正直ね、まだまだ現時点では、このFable 5再開できそうだよみたいな話はちらほら聞くんですけれども、具体的にいつどうなるかっていうのはまだ発表されていない状況です。

ある意味ですね、1つ非常に重要な分かったこととしては、アメリカの政府はいつでもフロンティアモデルの公開を止められるということです。今までね、政府が介入してAIモデルの提供を止めさせるということは起きてなかったんですけど、これ実はできるとし、もう発動した。で、これからもいつ発動してもおかしくないということです。

で、2つ目はですね、OpenAIもこれかなり影響を受けてると言われてまして、GPT-5.6、今の5.5のバージョンの次のバージョンですね。これがちょっとずつリリースされるようなことになってきました。今までみたいに一気にわーっとやるんじゃなくて、信頼できるパートナーの企業何十社からちょっとずつ段階的にやっていきますよというような、そういった形で。今までもうね、GPTも、あるいはClaudeも数ヶ月に1回ずつどんどんどんどんアップデートが続いていたわけですけれども、そのスピード感じゃなくなってきた。ちょっとね、しっかりと政権との関係を気にしながら、しっかり安全にリリースをしていくっていう形になったし、1回リリースされたものもいつモデルを止められてもおかしくないということになってきました。

私もね、4月のMythosの発表の時に、もう牧歌的なAI開発の時代っていうのは終わったんだなという話をYouTubeでもさせていただきましたが、まさにね、今回の事例というのは、その牧歌的な時代が終わった後に、どんどんどんどん次のフェーズに入ってきたなというのを感じさせる出来事でした。

個人的にはね、この6月9日から6月12日の間にFable 5をちょっと触って、お、めっちゃ賢いやんけということでテンションが上がり、ただ土日にしっかり触る時間確保しようかなと思って置いといたら、6月12日にはもうすでに停止してて。土曜日のね、午前中だったと思うんですけれども、いきなり使えなくなって、一瞬手に入れたものが奪われるとこんな気持ちになるんだなっていうのが、なんかこう新鮮な気持ちですが、早く帰ってきてくれっていうのは個人としては思いますけれども、これからね、どうなっていくのか引き続きしていきたいと思います。

ということで、本日は3日で停止したFable 5の騒動について、いろんなね、何が起きたのか、なぜ止まったのか、今後どうなりそうなのかっていうのを少しお話ししてきました。こういった話は面白いなと思った方は是非ですね、チャンネル登録と高評価をお願いいたします。では、では。