「実験」を自動化するフィジカルAI:牛久氏が語るAIロボット駆動科学と日本の現在地
ものづくり太郎チャンネルものづくり太郎チャンネルのものづくり太郎が、AIロボット協会理事の牛久氏と対談した。牛久氏はディープラーニング以前の「冬の時代」からAIを研究してきた。現在はオムロンの研究子会社であるオムロン サイニックエックス(OMRON SINIC X)に在籍しながら、自身の会社NexaScienceも創業している。対談の中心テーマは、牛久氏が「AIロボット駆動科学」と呼ぶ分野だ。フィジカルAIを物流や運搬の次にどこへ使うのか。その問いに対して牛久氏は「実験」を挙げ、実験の自動化によって研究開発のサイクルを速めるという立場から話を進めた。
物流の次に来る「エッジケース」としての実験
牛久氏によれば、AIロボットの用途として物流や病院などで「とりあえず物を運ぶ」ことから始めるのは合理的だという。そのうえで、次の段階として、ものづくりの延長にある最も難しい事例、いわば「エッジケース」として実験があると考えている。
分かりやすい先行例として牛久氏が挙げたのは創薬である。創薬では、あるタンパク質と、それに効きそうな候補物質との組み合わせを網羅的に調べていく。この工程は、液体を分注するのもロボット、しばらく置いて反応させて検査するのも自動になっている。さらに結果を取り込んで次に何を試すかを決める部分でも、今ではAIの活用が進んでいる。人間がサイクルに入らずに回せるようになってきているというのが牛久氏の説明だ。
ただし、自動化されていない部分が残る。反応後の廃棄、最初に使うタンパク質や菌、試薬をどう用意するかといった作業である。ここをロボットに担わせ、人間は材料を置いておくだけで全体が回る状態にする。牛久氏はこれもフィジカルAIの一部だと位置づけた。また、創薬は液体を扱うだけなので、実はやりやすい部類だとも付け加えている。
ロボット研究室と「冬の時代」のAI
牛久氏がAI研究者になった経緯も語られた。ドラえもん世代で、大学ではロボットをやりたいと考え、工学部の機械情報学科に進んでロボットの研究室に入った。そこは今で言うAIを研究する研究室でもあったという。
研究室には2人の教員がいた。牛久氏の表現では「大ボス」と「中ボス」である。大ボスにあたる教授は、2つのアプローチで知能を研究していた。1つは実際にロボットを作ることで、約20年前、まだASIMOが現役だった頃に、一度寝た状態から起き上がるようなダイナミックな動きのロボットを作っていた。もう1つは脳科学者と組むアプローチで、赤ちゃんサイズのロボットを作り、目の見え方や手の使い方が人間の脳の発達にどう影響するのかを調べ、脳をAIとして見ようとしていた。ものづくり太郎は、これが今のフィジカルAIやヒューマノイドの出発点につながっていると受け止めた。
牛久氏が実際に師事したのは中ボスのほうで、こちらはアルゴリズムなどソフトウェアとしてのAIを研究していた。牛久氏が研究を始めた2008〜2009年頃はディープラーニングがまだ登場しておらず、AIは使い物にならないと言われる「冬の時代」だった。牛久氏によれば、人間の脳をコンピューターに移植すれば人間らしくなるのではないかという発想は1950年頃からあったが、思うようにはいかなかった。その後、学習アルゴリズムの進化で単純なルールから複雑な文字の認識へと進んだものの、文字だけではアプリケーションが少ない、という状況だったという。そうしたなかで、この研究室はディープラーニング以前の技術で画像認識を高速かつ正確に行う技術を開発しており、牛久氏はそこに惹かれて研究を始めた。
ディープラーニングの登場と認識精度の急伸
転機は、牛久氏が博士課程2年、博士号取得の直前の時期に訪れた。画像認識の分野に初めてディープラーニングが入ってきたのである。会話の中ではAlphaGoにも触れられ、囲碁の世界と同時期に画像分野でも一種の「シンギュラリティ」が起きたと表現された。
その少し前には音声認識でもディープラーニングが革新を起こしていた。牛久氏の説明によると、従来技術では10回に2〜3回は間違えるような精度だったが、それが一気に半分程度になった。音声の聞き取りや画像に何が映っているかの判定は、それまで煮詰まっていて、これ以上エラー率は下がらないとみんなが感じていた。そこへ突然、大きな改善が現れたという。
Microsoftのインターンで見た研究とプロダクトの距離
博士課程の終盤、牛久氏はMicrosoftの研究所に2〜3カ月インターンに行った。そのきっかけとして語られたのが国際会議での体験である。論文誌への掲載には1年ほどかかるため、AI分野では審査付きの国際会議で最先端の成果をすぐ発表する文化がある。ある会議のオープニングで採択者の多い国・組織が紹介された際、1位がアメリカ、2位がドイツ、4位がイギリスで、3位には国ではなくMicrosoftが入っていたという。
当時、画像AI分野では、Microsoftにインターンに行って論文を書くことが若手研究者の登竜門になっていた。実際に行ってみると、研究開発をする人とそれをプロダクトにする人が一緒に働いていた。牛久氏は例として、ある年の国際会議で発表されていた技術が「次の年のPowerPointに載せる」と言われ、本当に搭載されたことを挙げた。企業が世界をリードしている姿を見て、まず企業に行きたいと考えたという。
NTT、大学への復帰、そしてOMRON SINIC Xへ
牛久氏は2014年にNTTの研究所に入り、画像に関する研究を行った。2016年頃、大学のポストが空き、業績と共同研究の経験があったことから、弟子として呼び戻される形で大学に戻った。
大学教員は職位が上がっていかなければ他へ移らなければならず、不安定さがある。そうしたなかで企業との共同研究も始めた。大いに世話になった企業がある一方で、安い労働力を目当てに大学と組もうとする企業があることも目の当たりにしたという。牛久氏は、もっと主体性を持って研究グループの意思決定に関わりたいと考えるようになった。
そこに現れたのが、2018年に設立されたOMRON SINIC Xだった。AIとロボットの研究を行い、研究グループを担う側として意思決定ができる。さらに研究成果をオムロンだけでなくオープンイノベーションとして他社とも進め、スピンアウトも推奨するという方針に、やりたいことをやれそうだと感じたという。社名のSINICは、立石氏が提唱したSINIC理論から取られており、それをバージョンアップさせていく意図があると紹介された。本社は京都だが研究所は東京にあり、本社から離れてAIやロボットの研究に取り組んでいる。牛久氏は2018年から約8年在籍している。
生成AIは「時代が追いついてきた」
同社でAIロボットの用途として取り組んだのが、AI for Science、つまり研究そのものの加速である。生成AIの登場で注目度は変わったかという問いに、牛久氏は「ようやく追いついてきたか」という感覚だと答えた。ディープラーニングでテキスト翻訳やセンサー情報の読み取りができるようになった時点で、その応用の1つは研究の加速だろうという話を、2018年から始めていたという。
実際に、創薬とは別分野である磁石や電極の材料の研究者と組み、研究開発を加速するAIやロボットの研究を続けてきた。ただ、こうした材料分野のイノベーションが加速しているかというと「まだまだ大変」で、圧倒的にフィジカルAIの部分がこれからだと牛久氏は述べた。
ものづくり太郎は、フィジカルAIをヒューマノイドと同一視する人が多いと指摘した。そのうえで、データを取り、マルチモーダルに認識させて言語化できるようになったことで、自分の持つフィジカルをどう当てはめるかというゲームになったとの見方を示した。牛久氏は、言語を理解できるので、ロボットの専門家でなくてもロボットを使えるようになる点が大きいと応じた。誰でもコードを書けるようになったコード生成の「ロボット版」が来ると考えているという。
運搬からマニピュレーション、そして粉体へ
応用先について牛久氏は、まず物流など単純な作業からというのが共通認識だと述べた。病院では、手術はヒューマノイドではなく、hinotoriやダヴィンチのような手術ロボットが引き続き覇権を争うだろう。一方でフィジカルAIはカルテや資料の運搬から始まるだろうという見立てである。
その先にあるのがマニピュレーション、特に手の中で物を持ち替える「インハンドマニピュレーション」のような巧みな操作だ。ものづくり太郎が製造業の多品種少量生産やロングテール品を挙げると、牛久氏はその最たる例が実験だと答えた。実験は毎回工程が違い、作り方を毎回変えなければならないからだ。
液体は分注するだけなので簡単だが、磁石やセラミックでは材料が粉である。粉を量るのは人間には何でもないように見えるが、ロボットには非常に難しい。量って、混ぜて、成形して、焼くという工程はロボットの課題の詰め合わせで、研究者としては嬉しいが、産業としてはこれから頑張らなければならない部分だという。逆に、ミリグラム単位での計量と成形のサイクルさえ物理的に回せれば、研究開発は加速するはずだと牛久氏は考えている。
実演動画:メカノケミカル反応とXRDの自動判定
牛久氏は取り組みの一例として動画を見せた。粉をロートのような部分に入れ、自動で成形する装置である。本来は混ぜた粉をロボットがすくい取って入れるべきところを、この動画では人間が入れており、牛久氏は「サボって人間が入れました」と説明した。治具のようなものがない形にできればよいとも述べている。
この実験は焼成プロセスを含まない。機械的に圧力を加えるだけでも材料が反応する「メカノケミカル反応」で合成するというコンセプトの自動化である。合成後はX線回折(XRD)でどのような構造の材料ができたかを調べる。グラフのピークから材料ができたかを判断するのは従来はプロにしかできなかったが、それをAIでプロでなくても判断でき、次に何をするかを決められるようにしているという。途中に人の手が入っている段階であることは、牛久氏自身も認めている。
もう1つの例が、乳鉢と乳棒で粉を混ぜる工程だ。工業の大量生産では行わないが、試作段階では企業でも大学でも手で混ぜる世界が続いている。人は見た目で粗さを確かめたり、振動からすり潰されてきたと感じたりしながら混ぜている。OMRON SINIC Xでは、振動とビジョンの情報から混ざったかどうかをAIに判断させ、次の工程に進むトリガーにする研究を行っているという。
FDE型の支援と企業との協業
ものづくり太郎はここで、最近のトレンドとして「FDE(フォワード・デプロイド・エンジニア)」を紹介した。企業に入り込み、目標を与えられたら実装して、うまく動くまで伴走する形態である。コンサルティングがグランドデザインと要件定義までを担うのに対し、実装後に稼働させて成果が出るまで関わる点が違う、とものづくり太郎は説明した。牛久氏もその重要性に同意した。予算があり研究開発を加速したいR&D部門を持つ日本企業には、こうした支援の余地が大きいというのがものづくり太郎の見方だ。牛久氏は、OMRON SINIC Xは研究所なので、実際のデプロイに向けて一緒に取り組める相手を募集していると述べた。
ロボットのためのAIエージェント環境をどう作るか
牛久氏が「今大変」だと強調したのが、AIエージェントがロボットに搭載されていく際の環境構築である。言葉でフィジカルAIに指示を出せる状態にするには、まずロボットをセットアップし、どんな状況でどう動かすかを設計し、ソフトウェアを組み合わせてAIのための事前設定を行う必要がある。ものづくり太郎は、ビジョンで状況を理解させるなどマルチモーダルな判断の環境も必要だと補足した。牛久氏はこれを受けて、場合によってはAIを個別にチューニングする必要がある一方で、いかにティーチングレスで自らチューニングできるかも求められると述べた。結局、言葉で操作できると言いながら、高いスキルを持つ人がフォワードデプロイしなければ価値のあるものにならない。そこをいかに簡単にするかに取り組んでいるという。
牛久氏はこれをVercelにたとえた。AIで見栄えのよいフロントエンドは作れても、本番環境で同じように動かすには高いスキルが必要だった。Vercelは、試作したものをそのまま配信ネットワーク上のサーバーに載せて使える形にし、そこを簡単にしたと牛久氏は説明する。そのロボット版、つまりAIエージェント時代にロボットやGPUを使う環境を用意しやすくすることを目指しているのが、牛久氏が創業したNexaScienceだ。同社は、AIエージェントのための基盤を自動で構築するプロダクトを開発しているという。ものづくり太郎は、ロボットメーカーも何から始めればよいか分からない状況であり、既存のシステムインテグレーターが積み上げてきたものだけでは戦えないとして、こうした支援に価値があると評価した。
足りないのは「触覚」のデータ
グローバルな課題について、牛久氏は、フィジカルAIの主流である視覚と言語から動作を生成するVision-Language-Action(VLA)モデルに足りないものがあると指摘した。それが指先などの触覚である。ビジョンや言語のデータはネットで探せば大量に取れる。中国のように大規模にデータを集める動きもある。しかし手の情報は「本当に落ちていない」。そのためマニピュレーションがうまくいかない、というのが牛久氏の問題意識だ。ものづくり太郎も、センサーのマルチモーダル化が次のブレークスルーになると同意した。
ものづくり太郎は、自身もGENIACに応募しており、製造業を巻き込み、Physical IntelligenceやScale AIといった海外企業とも協業する提案をしたと語った。日本独自だけでやろうとすれば置いていかれるというのが、ものづくり太郎の主張である。牛久氏は、AIロボット協会として、ロボット企業、GPUベンダー、データプロバイダーなど約20社を巻き込み、NEDOの補助金やGENIACを活用しながら、AIロボットを各社の事業に還元しようとしていると説明した。
動き続けるゴールポストと日本の立ち位置
最後に語られたのは、キャッチアップを続けることの難しさである。1年後には別の開発トレンドや学習方法が登場し、ゴールポストが変わってしまう。だから海外とのコラボレーションなしには難しい、という点で2人は一致した。
ものづくり太郎は、ロボットでは日本は先行していたが、フィジカルAIではもはや後発国であり、そのことが十分認識されていないと述べた。牛久氏は学会の変化を例に挙げた。かつて主流だった会議は今も日本のロボット学会と共同開催しており、そこでは日本の存在感がある。しかし主流はすでに別の場に移っているという。ものづくり太郎は、既存領域を煮詰めるのは得意だが、進化が速すぎる競争は日本が苦手とする領域だと述べ、これはあくまで自分の意見だと断った。牛久氏は、自分も同じ意見だと応じたうえで、AI分野は先にそうした状況を経験した業界だと付け加えた。
ものづくり太郎は、フィジカルAIではAIとロボットという異なる技術の融合が起きているため、さらに難しいと述べた。2人は、研究者も含めてトレンドを追い続けなければならない厳しさを共有し、対談を終えた。
どうもこんにちは。ものづくり太郎チャンネルのものづくり太郎でございます。本日は玄人AI研究。最近AI、AIうるせえわと。皆さんあんまりAIに慣れ親しんじゃなくて、いきなりAIのトレンドがぶわーって来て、うわあ、なんかAI来とるわっていう感じなんですけども、玄人AI研究者っていうことで、AIの中でずっとこのAIをやってきた、しかもフィジカルAI玄人が本日は登場するということで、フィジカルAI玄人の人が日本とかAIの現在地点をどういう風に見ているのか、AIフッドをどのように見ているかという副題をですね、添えてですね、今回対談を撮ってきました。
そんな回にスポンサードいただいたのがHAI ROBOTICSさんで、最先端のロボットソリューションで止まらない物流を実現するHAI ROBOTICSは、工程搬送や部品保管などにも対応でき、製造業の現場でも活用が広がっております。6月中にはテクニカルセンターが東京流通センターでリニューアルオープンしましたと。HaiPick Climbをはじめ、新登場のAGVなどをご覧いただけます。私も実際に足を運び、その実力を徹底取材予定でございます。リアルな現場の動きや導入イメージを分かりやすくお届けする予定です。お楽しみにと。見学のご予約はウェブサイト、概要欄からチェックお願いします。それでは玄人AI研究者と対談してきたので、現在ってどうなのかと分かりやすいと思いますので、どうぞいってらっしゃい。
どうもこんにちは。ものづくり太郎チャンネルのものづくり太郎でございます。本日はAI回ということで牛久さんとですね、対談をしていこうと思ってまして、牛久さんは前のイベントで、ロボットのイベントですよね。
そうですね。
ソフトバンクさんでしたっけ?
そう、ソフトバンクさんが東京ミッドタウン六本木のところで開催されていた中のセッションでオーガナイズをしていただいて。
ありがとうございます。
ありがとうございます。で、その際に一緒に登壇させていただいて、牛久さんに自己紹介をしていただくんですけども、AIをずっとやられてきたということで、AIの栄枯盛衰じゃないですけど、もう黎明期からずっとその中心で学会で発表もされたりですとか、この変遷をね、今日はお話しいただきたいと思って、セッションさせていただきたいと思います。よろしくお願いします。
はい、よろしくお願いします。改めて、AIロボット協会の理事を務めております牛久と申します。よろしくお願いいたします。
はい、お願いします。
AIロボット協会の理事っていうことで自己紹介したんですけど、職場を経てきたのと、今も色々名刺があってですね、よくわかんないことに自分でもなっております。まあ、ちょっとずつご紹介をできればなと思ってます。
パーソナリティから行きたいんですけども、今オムロン、オムロンの研究所であるオムロン サイニックエックスっていう、これ東京にあって、オムロンって京都の会社じゃないですか?ただ東京に研究所があるんで、親元の目を離れてAIやロボットの研究を自由にやっている会社なんですね。
素晴らしい。
こちらにもう2018年ぐらいからいてですね。
あ、もうじゃあ8年ぐらい。
8年ぐらいになりますね。最近さらに自分の会社も創業して、AIエージェントが多分ロボットにも接続されていくと僕も思ってるんですけど、そこってまだまだAIエージェントを活躍させられる環境って整ってないよね。そういうお手伝いできないかなと思って今やっている。ここですでに二足のわらじ状態なんですけど、さらにキーワードで今日ご紹介したいなと思ってたのが、AIロボット駆動科学。
そういう分野があるんですね。
AIロボットすごい流行ってる中で、何に使わすのって色々あるじゃないですか。物流とか工場とか病院とか、とりあえず物運べばいいじゃんっていうところから始まるのは合理的だと思うんですけど、その次って、ものづくりもまさにそうですけど、それのエッジケースとして実験があると思ってるんですよ。
PoCを経て、うまくいかないっていうたくさんの屍の山があってリアライズしていくものだと思うんですけど。
はい。創薬のところとかは結構自動で薬作っては試して、また作り直しては試してっていうことで、AIとかロボットも部分的に使いながら自動的に全部回るようになってるんですよ。
そうなんですか。創薬のあくまで僕のイメージなんですけど、薬を作る時どのくらい何を混ぜてみたいなのをやって、どのくらい効果あるかっていう検証をやってリアライズしていくものじゃないですか。どこが自動化されてるんですか?
基本的には何と何が効くのかっていう相性ですよね。それは殺す方も生かす方もなんですけど、相性を調べたいっていうことで、片やあるタンパク質とかが並んでいます。片やそれと相性あるんじゃねっていう候補が山ほどあって、組み合わせであるわけです。網羅的に調べてくっていうようなところがもう全部自動で、ピペットじゃないけどチュッチュするっていうのもロボットだし、その後しばらく置いといて反応させて検査することも全部自動ですし、その結果を取り入れて、じゃあ次何しようっていうところも今だとAIがどんどん活用。
マジっすか。効果が出ました、それをAIで分析するってことですか。
そうです。
フィードバックかけて、もうちょっとこうしたらいいんじゃないかっていう指令もエージェントが送って。そうそう。すごい。人間がそのサイクルに入らずにバンバン回せるようになっちゃって。
回せるようになってきてますね。ただ問題になるのは、反応させた後のこれもう廃棄するしかないですとか、最初のタンパク質とか菌とか、あと試薬とかどう用意すんのとか。
そうですね。
ここなんですよ。ここはロボットがやんないといけないよね。今ちょうどフィジカルAIだからっていう話。
そうか。ロボットにやらしちゃって、あとは人間が物を置いとけば全部回しちゃうっていうところでロボットを動かせるんじゃないか。これもフィジカルAIの一部です。
そういうことです。っていうAIロボット駆動科学。今薬の話を例にしましたけど、薬はでもやりやすい方なんですよ。
確かに閉じてますもんね。
そう。液体チュッチュするだけでいいんで。ただ。
ちなみにもっと聞きたいんですけど、AI研究者になる前はどういう?
そうですよね。AIの研究者になるきっかけ的なところで言うと、大学の時に卒論がロボットの研究室で、工学部の機械情報学科っていう真ん中じゃないですか。昔からドラえもん世代だったのもあって、それが高じて、大学入った後色々迷ったんですけど、ロボットやりたい。ロボットの学科入ってロボットの研究室入って、で、そこが今で言うAIをやってる研究室でもあって。
研究室から発祥というか、自分の系譜があるってことですね。
そうなんです。そこのところに先生がお2人いて、大ボスと中ボスがいるわけです。当時私が入った時に講師だった先生がいて、私がドクター取る時には教授になられてたっていう、そういう図だったんですけど、教授だった先生は知のAIっていうのを2つのアプローチでやってらした。1個はロボットを実際作ってみて、今もう当然なんですけど踊ったりしたりするじゃないですか。1回寝て起き上がる、そういうロボットを20年ぐらい前。
ASIMOちゃんがね、まだいらっしゃった頃です。
そうそうそう。あの頃にそんなダイナミックな、ロボット壊れるんじゃねみたいな動きをまず。1つ、おお、すごいロボットがいるみたいな。
うん。
もう1つは人間の脳を実際に見てみようということで、脳科学の先生とかと一緒に組んだり、赤ちゃんサイズのロボット作ってみて、赤ちゃんサイズのロボットの目ってどういう風に見えてて、手とか、それが実際に人間の脳の発達にどう影響してるのかなと、そういうアプローチで脳をAIとして見てみようとかやっていたのが大ボスなんですよ。
本当に今のフィジカルAIのヒューマノイドの本当の出発点というか、まさに繋がってる、本当にど真ん中をやられてきた。僕は大ボスの研究室に入ったんですけど、実際の師匠はこの中ボスの人なんですよ。この人はじゃあ何をやってたかって言うと、今で言う本当にAIのフィジカルでない、今までずっとソフトウェアとして発達してきたAIを。
アルゴリズムとかディープラーニングとかそっちですね。
やってた人で、ただ僕がその研究に入ってきた時はまだディープラーニング出てないんです、世の中に。僕が入ったのがさらに5年ぐらい前、2008年、2009年とかなって、その時ってどうなってたかっていうと冬の時代なんですよ。
冬の時代。まだAIって使いもんになんないよねみたいな、本当にそうみんな言ってて、実際に人間の脳をコンピューターに移植したら人間っぽくなるんじゃね?これ1950年ぐらいからみんな思ってたんです。思ってたんですけど、全然それが思った通りにならない、だめじゃん。途中巻き返したんですけど、20世紀ぐらいに。その時はちょっと学習するためのアルゴリズムが進化したんですよ。
ああ、なるほど。
本当に最初の頃って単純なルールみたいなのしか扱えなかったところが、もうちょっと複雑な文字とかも認識できるかなと。
へえ。でもだいぶ飛躍しましたね。
ただそれでも文字だけだとちょっとアプリケーション少ないよねみたいな感じだったところの冬の時代。ただそこの研究室では、画像認識って今だと当然できますけど、あれを当時のディープラーニングじゃない技術ですごい高速に正確にやれる技術を開発されてて、すごいなと思って。
そうですよね。自分が当事者だったらすごい。AIこんな進化する。今でこそ当たり前ですけど。
今はもうね、息を吸うようにみんなやってますけど、そういう時代だったんですね。
で、面白そうじゃんて始めた僕が博士号を取る直前、博士2年の時に、その画像認識の分野に初めてディープラーニングがやって来た。
で、AlphaGoになるんだ。囲碁の驚異的な、韓国棋士ですよね。シンギュラリティが起きたわけですね、ある意味。
そうですね。
ある意味、囲碁界のシンギュラリティみたいなのが起きたのと同時に、画像分野でもシンギュラリティが来てたし、そのちょっと前に音声でもディープラーニングが同様に革新を巻き起こしてたんですよ。
それはどんなことができるようになったんですか?
その時は簡単に言うと音声認識の精度が爆上がりしたんですよ。大体みんな同じで、画像認識の以前の技術って、10回見たら2回から3回ぐらい間違えるみたいな、ぐらいの精度だったんですよ、最新の技術で。それが半分ぐらいになった。
です。いきなり。じゃあっていう風に今使ってますけど、元々3割ぐらいしか聞き取れなかったものが5割ぐらいの精度になってきて、日本語もしくは英語で認識できるようになったっていうのがブレークスルーが。
そう、そんぐらい。それまでってだんだん煮詰まってきていて、これ以上は例えば音声の聞き取りとか、画像を見てここに何か映ってますよとか、これ以上はエラーレートって下がんないんじゃないかなって、みんなが感じてたんですけど、いきなりそういうのが出てきたと。
はい。上がったっていう、そういう時期だったんです。
その時に牛久さんはずっと研究者であったんですか?
ずっと研究者ではあります。ただ当時ですね、ドクター直前にMicrosoftの研究所に行きまして、インターンで。今めちゃくちゃ多いんですけど、企業のインターンで2、3ヶ月行って。今でこそいろんなビッグテックがAIとかでどんどん技術革新を起こし、Microsoftは昔からそれやってて。
そうですね。そこでどんなもの見たんですか?
そこで象徴的なエピソードとして2つぐらい。1個は行く前なんです。何で行くことになったか、行きたいと思ったか。国際会議で皆さんAIの発表します。研究者って論文書く人みたいなイメージあると思うんですけど、そういう人たちもいるんですけど、国際学会で最先端のものをすぐに発表するんだと。論文にするって1年とかかかっちゃうんで、そんな悠長なことをしてたら次の技術出てきちゃうよっていうことで、もっとすぐに発表できる学会に。それでも審査が実施されるんですけど、それで通り抜けてきた、選ばれた人たち、じゃあどの国が多いんでしょうかみたいなのをオープニングでやるんですよ。その時に1番はアメリカです。2がドイツ、4番目がイギリスなんですよ。
ほうほうほう。ということは3番目が。
Microsoft。
あ、日本じゃないんだ。そこでMicrosoftすげえ多いじゃんってなるわけですよね。
そうなんです。確かにめっちゃ見るんですよ、Microsoftの人。当時からMicrosoftにインターンに行っているどこどこ大学の学生さんが、そこでMicrosoftの人たちと共同で発表するとか。みんな若手の研究者、あの画像のAI分野はMicrosoftのインターン行って論文書くっていうのがAI界の登竜門的な。
一種の登竜門だったんですよ。その様子見てて、あ、行きてえなって。実際行ってみたら、研究開発をしている人たちと、それをプロダクトにしようとする人たちが一緒に働いてるんです。
はい。ああ、じゃあPoCをやりながら開発するみたいな。
そう。
ほう。リアライズが早いから進化の速度が早いです。
早いです。だからある年の国際会議で発表してた、パワポに今搭載されてる機能があるんですけど、それ発表してたの1年前ですから。次の年のパワポに載せるぜって言って本当に載ってたんで、そういう速度。やっぱそこがね、アメリカですよね。早いもんが。
企業であんだけ世界をリードしてるっていうのを見た時に、これは企業にまず行きたいかな。うん。
ああ、ていうことで企業人になったわけですね。これどちらに行かれたんですか?
NTTの研究所。
やっぱさ、エリートだよ。
いやいや。
NTTでどんなことやってたんですか?
NTTでは今で言う画像の研究みたいなのをしてたんですけど、そこから大学に戻ってこないかって。
2014年にNTT入り、2016年ぐらいに戻ってこいって。
なんで戻ってこいって言われたんですか?
ちょうどポストが空いたから。ちゃんと審査もあるんで、通りそうな業績も出てるから、かつ自分も一緒にやったことのあるちょうど良い人がっていうことで、そこは弟子として呼び戻されたって感じですね。で、行きました。
行きました。これ激動の10年じゃないですか?ここからどうだったのか、そこ聞きたい。
ポストがね、だんだん上がっていかないといけない。上がれなかったらどっか行かないといけないっていうのが大学の先生なんですよ。
不安定さが出てきた中で、じゃあ実際に企業との共同研究とかもちょっと始めてみたい。大変お世話になったんですけど、その時っていうところもあれば、そんな生煮えの状態で安い労働を目当てにとりあえず大学行ってみようかみたいな人もいるんだみたいなところも目の当たりにし、色々思ってる中で、自分自身でもっと主体性出して研究グループなりの意思決定に関わっていきたいなって思い始めた。2018年、オムロン サイニックエックスとかいう会社を作ると。AIロボットの研究するから、研究グループを担っていく側の意思決定やれるぞ。かつその時に言ってたのが、研究成果をオムロンはもちろん、オープンイノベーションとしてやりたいから、他の会社とか、あるいは自分自身の会社としてそこからスピンアウトしていくみたいなのもどんどんやっていけたらいいと思ってるから、色々やりたいことをやれそうっていうこと。
なるほどね。まさに立石さんの思いが出てるね。
オムロン サイニックエックスのサイニックっていうのは、立石さんがSINIC理論なので、立石さんの根っこの名前を真ん中に持ってきて、そこをバージョンアップさせていく。なるほど、モチベーションがあるわけね。
そういう会社として始まったのが2018年。AIロボットでじゃあ何させんのっていう時に、今かなり増えてきてるんですけど、AI for Scienceとかです。
はい。やっぱそこが創薬の話でもあったんですけど、ホットなんですね、業界じゃないですか。生成系が出てきて注目度とか過熱度って変わってるんですか?
ようやく追いついてきたかみたいな感じです。ディープラーニングが出てきた時に、テキストも翻訳できますとか、画像とかでもセンサーの情報も読み取れますとかなってきたら、それの1個は研究自身を加速するっていうことじゃないかなっていう話は2018年に始めてたんですよ。
じゃ、こういうAIを使ってイノベーションが加速するっていうことはある程度予想立てれてたんです。
そうなっていくだろうなと思って。さっき偉そうなこと言いましたけど、時代が追いついてきたから。でも本当にその頃から材料の研究をしてる人、さっきの薬の例はもうちょっと別の化学、化学なんですけど、例えば磁石とか磁極の材料とか電極の材料とか、そういうのをやっているような人たちと組んで、その研究開発を加速するAIとかロボットとか、そういう研究をしてきたんですよ。
研究開発をすごい早めてリアライズする速度を上げるAIを支援にしてるみたいな。
そうです。そうです。
これどうなんすかね?創薬はめちゃくちゃ早くなるじゃんてさっき思ったんですけど、磁石とか電極みたいなものも、これイノベーション加速するんですか?
まだまだ大変ですね。圧倒的にフィジカルAIのところがこれからっていう状況なんですよ。
フィジカルAI、僕聞きたくて。フィジカルAIって結構みんなヒューマノイドを認識してる人が多いんですけど、全部ですよ。ジェンスン・フアンじゃないけど、データが取れるわけです。さっきの創薬もそうだし、結局データを回すって話だから。で、それをマルチモーダルで認識させて、コマライゼーションできるようになってるわけじゃないですか。
だからアウトプットの取り方が今は1対1だったんだけども、そうじゃなくてマルチモーダルで、今こうアウトプットになるよっていうことを言語化できるようになったから、自分の持ってるフィジカルをどう当てはめてくかっていうゲームだと思ってます。
そうだと思います。両方意味があるんですけど、まず言語を理解できるんで、ロボットの専門家じゃない人でもロボット使える。
そう、使える。ここがでかいっすよね。元々はAI研究者とかロボット研究者じゃないと、どういう風に扱ってとか作業させるかっていうことが難しかったわけだけど、その障壁が生成系で取っ払われるようになったわけじゃないですか。
そうなんですよ。ちょっと前にもコード生成とかは誰でもコード書けちゃうぜってなったじゃないですか。それのロボット版が来ると思っていて。
実際は、それ以外でどういったところが来るんですか?ロボットか。
まずはやっぱ物流とか、手が単純でもできるところかなっていうのはみんな言ってますね。病院とかでも、なんか手術とかロボットすんの怖いってなるかもしんないですけど、それはさすがにヒューマノイドではなくて、やっぱり手術ロボットは手術ロボットでマニピュレーションして、hinotoriとかダヴィンチみたいなやつが引き続き覇権を争っていくと思うんですけど、ダヴィンチが強いですけど、まあそれ置いといて、じゃあAIロボット、フィジカルAIはって言うと、カルテ運ぶとか、なんか資料運ぶとか、そういうところからっていうことにはなって。なるほど。やっぱ運ぶっていうところですよね。
まずは物を持つとかね。マニピュレーション系ですよね。
そうです。そうです。マニピュレーションでもやっぱりその巧みな操作、インハンドマニピュレーションとか言ったりすることもあるんですけど、手の中で持ち替えると。
もう含めたことをやんないとねって言うと、さらに製造業の多品種少量、ロングテール品の。
そうです。そうです。それの最たる例が実験。なぜなら毎回違う工程、違う。
そうですよ。本当にそこ難しいと思ってますよ。
作り方を毎回変えてやんないといけないの。で、例えば液体はチュッチュするだけなんで簡単なんですけど、磁石とかセラミックとかだと材料が粉なんですよ。
粉測るって言うと、人間は何のことないように見えるんですけど、ロボットからすると難しい。
そう、すごい難しいんですよ。難しいことの詰め合わせなんですよ。あれで混ぜて、で、治具に成形して焼いて、ロボットの課題盛りだくさんで、研究者としては嬉しいんですけど、産業としては元々頑張んないといけない。
そう。
そこが物理的にサイクル回せるようになったとしたら、磁石成形しないといけないじゃないですか。ということは混ぜる、その前に何グラムみたいな、まあミリ単位で測るっていうことさえやっちゃえば、あとは持ってって成形すれば、そこさえ回せちゃえば研究開発も加速するはずなんですよ、人がやらなくても。そういう世界を作るのが牛久さんは得意なんですか?
今目指したい世界だし、実際に取り組みをちょっとずつ始めてて、1個ぐらいは。
せっかくこうやってパソコン開かせていただいてるんで、見せてくださいよ。
おお。
材料を実際に混ぜて、まあ成形してですね。
ここに入れるのかな?これから。
そうです。そうです。ここの中に粉を入れて、まあ自動で成形されるような形で。まあ本当はね、もっと治具的なものがないような形にできればいいんですけど、このある種のロート的なところの中に、ここ今サボって人間が入れましたけど、混ぜたやつを。
本当はね、ロボットがね。
そう。あそこから掬い取って入れて。実際に整いました。
ワーク入れましたっていうのを、あと装置に入れるのかな?
これはもうXRDなんで。ここでやってるのは焼成プロセスがなくて、単純に機械的に圧力加えただけでも材料って反応するんですよ。
そうなんですか。
はい。メカノケミカル反応っていう化学反応があって、それで合成するっていうコンセプトなので、まあ焼成とかそういう風なプロセスのないやつの自動化っていう。これでX線でどういう構造の材料が実際できたかっていうことをして。
はい。センシングで分かりますもんね。
そうですね。とは言っても、プロの人なら、ここになんかピーク立ってるグラフ出てきたから、これでこの材料できてるからみたいなのが分かるっていう話なんですけど、ここはプロしかわかんなかったのを、AIでプロじゃない人でもそう判断できるようにして、また次に何やってこうかっていうことを判断できる。途中で人の手とか若干入ってましたけど、こういうのをやっています。
あと金次第ですね、あそこは。
そうですね。そうなんですよ。
だからお客さんっていうか企業から、研究開発加速したいからリアライズしてよって牛久さんに頼めばやってくれるわけですよね。金さえあれば。そうです。お待ちしております。
今回視聴者に言いたいのは、トレンドがこれも変わってて、FDEっていうことで。
フォワードデプロイドエンジニア。
そうそうそう。これ何かって言うと、みんな今日これ持ち帰って欲しいんだけど、牛久さんと共にフォワードデプロイドエンジニアっていう、もう今入り込まれるのがそうですもんね。
はい。
目標はこうだと。で、あとは金やるから、あとは全部リアライズしてっていう伴走型で。今だとコンサルだとグランドデザイン引いて、じゃあどういう風にシステムインプリメントしましょうかっていうことを要件定義していくわけですけど、それプラス、じゃあインプリした後走ってみて、うまくいくまで、金は出したらやってくれってことよ。これ同じですもんね、FDEと。
そうそう、大事です。
超大事だから。金さえやれば。日本企業、金持ってなくて予算取らないといけねえとか、そういうのあるんだけど、金さえあって研究開発加速したいっていう、R&Dセンター持ってるっていうことであれば、ロボットでやれちゃうもんね。
そうです。
こういうのをプロットできる産業ってめっちゃあると思うんですよ。日本でもクソ研究強いわけだから。だけどグローバルで見るとこれバンバン入ってきますもんね。
そうなんですよ。
やばいじゃん。メカエレ的なところもリアライズできるし、AIは牛久に任せろと。
はい。そうですね。
結構いいモデルですね。他になんか、他に実例。
他だと例えば、さっきの混ぜてるところが時間短かったよねっていうことで、もうちょっと長尺でお出しすると、工業の大量生産だとこんなことしないんですけど、でも試作の段階だと企業でも大学でも手で混ぜるんですよね。乳鉢乳棒の世界がずっとあって、その時って視覚的に、ここら辺が粗いなとか、あとその振動で、だんだん擦り合わせてきたのかなとやるのか、混ぜてんです。
その判断もAIで。フィジカルだから、これはフィジカルAIだもんね。
そうなんですよ。ていうことで、そういう振動とビジョンの情報から粉を混ぜて。で、混ざったかどうかAIに判断させちゃって、で、次に行きましょうっていうトリガーを引けばいいだけだもんね。閾値だけ精査しとけばいい。そういうのもやれちゃうってことですね。
そう。オムロン サイニックエックスでやっている研究でございます。
研究ってかもうビジネスだよ、これは。
そうですね。なのでこういうところを実際にデプロイしていくっていうところは、サイニックエックスは研究所なんで、そこと組んで一緒にやっていけるところ大募集中ですみたいな、宣伝的なこと。
全然いい。全然いい。
あとはさっき言ったような、AIがロボットにも今後エージェントAIとしてどんどん搭載されていくと思うんですけど、そこ今大変なんですよ。
視聴者に分かりやすく言うと、多分僕の想像では、例えば産ロボでも産ロボのエージェントAIみたいなのが、産ロボが能動的に判断してくって話だね。
そうです。そうです。で、その環境を作るのが大変なんです。
何が大変なんですか?
これがですね、まずロボットがある例だと、ロボットまずセットアップして、どういう風なシチュエーションなんですか、どういう風に動かしたらいいんですかっていうことをまず設計あって、で、その状態で初めてフィジカルAIに言葉でなんか指示を入れられる状態になるので、そこのところの環境構築して、ソフトウェアの組み合わせ入れて、事前設定をAIのために行って、初めて言葉で指示が出せる。
なるほど。かつ判断していくっていうことであれば、マルチモーダル的な判断必要じゃないですか?ビジョンで見てロボットエージェントに今の状況を理解させないといけないじゃないですか。そこの環境構築でしょうね。
そう、そうなんですよ。それぞれにチューニングしていく、AIをっていうことも場合によっては必要だし、当然ながらロボットでももう色んなところやってますけど、ティーチングレスでいかに自分でチューニングできるかっていうのが必要だし。それ結局ロボット言葉で操作できるって言っときながら、すごいスキルのある人たちがそれこそフォワードデプロイしてこないとできないじゃん。
そうですよね。価値のあるものになんないですよね。
そう。そこいかに簡単にできるか、やるかっていうことも、やろうとしてるんですよ。ものづくりの皆さんはちょっとご存知ないかもなんですけど、Vercelって企業があってですね。
はい。わかんない。
1兆円超えるような、すごい。Vercelって言うと工具みたいなイメージですけど、Vercelって企業なんですね。
Vercelって名前の企業なんですけど、何やってるかって言うとソフトウェアを作ります。ソフトウェアを作るのって、UIとか作るじゃないですか。ただ今までVercelがなかった時代って、それ作った後にそのまま本番環境で同じように動くようにするのがめっちゃ大変な。
なるほど。なるほど。
AIでかっこいいフロントエンドのソフトウェアはバーッと作れるんですけど、それを実際に動く本番環境を用意するのが、結局言葉の指示だけでプログラムできるって言ってたのに、全然本番環境に行くところはすごいスキルの人必要じゃないって。なんでVercelはそこを簡単にしたんですよ。この試作したやつがそのまま自動で、コンテンツデリバリーネットワークって言うんですけど、サーバーの上に乗っけて、こういう環境構築して、もうそのまま使います。
なるほど。Anthropicのでバイブコーディングしたけども、本番環境で使えねえじゃんと。サーバー用意したりとか、インターフェース人間が分かるようにしたりとか、後ろ側でじゃあAPIでどう渡すかっていうのを整理しないといけないじゃん。結局それって人間がやることだよね。だけどVercelは全てもう用意されてて、あとはVercelと繋げばそういったことをリアライズしてくれます。
そうなんです。
そのロボットバージョンやろうとしてるわけね。
そう。ロボットとか、このAIエージェント時代にそこの環境って、まあロボットもそうだし、GPU用意するのも実はエンジニアがいないと詰まる。ロボットシステムインテグレーターが積み上げてきたものだけだと戦えないから、環境って新しいエンジニアリングが必要じゃないですか?それを容易にしてあげるって話ね。
そういうことです。
いやあ、やっぱ俺感度いいな。
そういうことやってるわけね。これは面白いですね。
はい。ありがとうございます。
こういうことも牛久さんに依頼したらリアライズ一緒にしてくれるよって話ですね。これは面白い。やっぱり産ロボメーカーも何から始めていいかわかんないし、外部環境が整えられるって言っても1からやんないといけないわけじゃん。それがさ、手に入るわけだからさ、ちょっとコンサルしてよって言えばいいわけだよね。
そうですね。
なるほど。素晴らしい。ちょっと今日は駆け足だったけど、フィジカルAIの可能性だよね。そうです。黎明期からどうなってきて、ビジョン5割とか、ボイスのインターフェース、言語がどう処理されてるかってダメダメだったけど、ブレイクして、生成AIで一気にジャンプアップして。だけど現実世界でリアライズする研究の世界でやると超大変だよね。だけどある程度箱があるんだから、お声がけいただければイノベーションも加速できるぜって話ですね。そうです。プラス、ロボットの環境構築も難しいけども、いや俺知ってるぜと。ロボットの環境も一緒に構築できますよ。フィジカルAIをどんどん加速できるような環境構築もできますよってことですね。
そうです。機関に所属しながらレイヤーをやって。
すごいじゃん。可能性を上げるお仕事が得意なんでしょうね、牛久さんは。
そうなんですかね。落ち着きがないというか、いろんなことやってます。
かなりさ、今もすごくなってきたわけじゃないですか。最後、そこはどう感じてるかっていう。こういうこと、案件が増えてきたとか、発表が増えてきたとか、グローバルだとこんなの当たり前ですよとか、そういうところってどう思ってます?
2つあって、まずグローバルなチャレンジングポイントから言うと、フィジカルAIはビジョン・ランゲージ・アクションモデルっていう、視覚、言葉から動かせますよっていう。
VLA。
そうです。VLA足りてないですよねっていう話で。
何が足りてないですか?
まずは触覚、指先の、手の先の。
そうなのよ。結局これがないと、ずっとこんなの、こうなって。だからセンサー、マルチモーダルさがないから、そこが次のブレイクだと僕も思ってて。AIサイドとしてもじゃあデータがないもんね。
そう、取りにくいじゃないですか。ビジョンもランゲージもネット探せばたくさん取れるとか、あとは中国のようにたくさんデータ取りましょうができているんですけど、ただ手の情報は本当に落ちてない。
結局マニピュレーションうまくいかないのよね。これが次のグローバルのトレンドでもあるし、日本もやってかないといけない。もう1つ、トレンドにちゃんと乗っかっていけるかなって超心配してます。
いや、そうですよ。GENIACもうち応募してん。まさにそれやろうとして、うち。
おお。ぐらいだと思うよ。
製造業巻き込んで、これでNEDO蹴られたらもう終わりだと思ってて。このフィジカル部屋が島さんとやろうとしてんだよね。で、しかもこれ、いいモデルが各メーカーとやろうとして、かつアノテーションだったり最先端のモデル使わないといけないから、Physical IntelligenceとかScale AIとコラボレーションしようとかじゃないと、日本独自でやろうとしたら置いてかれるに決まってんじゃん。今うちが採択されなかったら、もうやれないと思う、日本は。それぐらいの提案内容を僕突きつけたはずだからね。
GENIACの先生方がちゃんと判断してることを期待して。
でもわかんなかったらもう終わりだね。
一応AIロボット協会としても、企業さんが今20社ぐらいいるのかな。ロボットやってるところも、GPUベンダーも、そしてデータプロバイダーもみんな巻き込みながら、NEDOの補助金いただきながら、GENIACもやらせてもらいながら、AIロボットをいかにちゃんとそれぞれの事業に返していくかチャレンジしてはいるんですけど。
キャッチアップがね、やり続けないといけないわけです。なぜかって言うと、スコープがずれるから。結局1年後って、じゃあ違う開発トレンドが来ましたとか、イノベーションがまたあって違う学習方法がありましたって言うと、ゴールポストがまた変わるの。
そうなんですよ。
だから難しいの。
ゴールポスト変わっちゃって。
スコープが変わっていくから、そこを通してくには海外とコラボレーションしないと無理になる。
そうなんですよ。ロボットって日本のお家芸感があった。
あったんだけど、もう後進国だから、ぶっちゃけフィジカルAIで言えば。それをみんな分かってないんだよね。
だから昔と比べて学会のゴールポストが変わっちゃったんです。昔主流だった会は今も日本のロボット学会が一緒にやってんですよ。だからそこだったら日本存在感あるんですけど、違うんですよ。
もう違うもんね。申し訳ないけど、日本の学会が追従できてないと思うんです。進化早すぎて。
だから研究者とかもキャッチアップしてトレンドを見とかないといけないっていうのが厳しいことなの。既存領域を煮詰めるっていうのは得意なんだけど、日本がちょっと苦手な領域での競争になっちゃってるから。
うん。そうなんですよ。
ごめんなさい。言いすぎたら、あくまで僕の意見。
でももう僕の意見でもあるので。機関の一員として、しかも僕元々はAIから来てるので。
そうだよね。AIは先にそうなっちゃった業界ですよ。
ここのコラボレーションで技術と技術の融合をしてるから、また難しいんだよね、フィジカルAIって。ありがとうございます。ここは一緒にやっぱ盛り上げていきたいから。
そうです。
またちょっとしたらやりたいかもね。この回はちょっと今日は難しい話が多かったかもしれない。大丈夫かな?
はい。
ちょっと締めに入っていきたいんですけど、オムロン サイニックエックスの牛久さん、そして会社もやられてるんですよね。
ありがとうございます。はい。こちらもちょっと長いんですけど、会社、NexaScience。
NexaScienceはどういうことやってるの?
NexaScienceはさっきのAIエージェントのための基盤を自動で作るプロダクトを。なるほどね。
開発してます。だからそこを頼むと、AIエージェントをリアライズした時にどうリアライズすればいいかっていう助言も行ってもらえるし、外段取りのところでそこも支援できるって話です。
そうです。Vercelがソフトウェア作ったらすぐ本番に持ってけるよっていうのと同じように、エージェント作ったらすぐに本番のロボットでも、もうGPUでも持ってけるっていうものを作ろうとして。ハードルを下げる話ですね。素晴らしい。
ということで牛久さんとものづくり太郎が対談をさせていただきました。本当にありがとうございました。
はい。ありがとうございます。
ということで今回はAIの話だったんですけども、ものづくり太郎チャンネルはAI、そしてFA、あと工作機械とか半導体とか、あらゆる製造業の動向を追ってますので、製造業に関連がある人は是非チャンネル登録いただいて応援をいただきたいのと、今日ね、牛久さんの、今研究こうなってんだっていう風に思った方は、いいねとかありがたいです。ということで次回の動画の告知の前にスポンサー動画です。どうぞ。
どうもこんにちは。ものづくり太郎チャンネルのものづくり太郎です。ついにですね、ものづくり太郎チャンネルもメンバーシップを始めまして、2パターンですね。1つはいろんなスタンプが使えるとかですね。本当に皆様のお力添えでこのチャンネルは成り立っておりますが、製造業を僕も盛り上げたいという気持ちでずっとやってるわけでございますが、一緒にですね、活動支援したいと、少しでも助力したいということであれば、メンバーシップいただけるとありがたいです。
もう1つあるんですね。月額いただくわけですけど、こちらはですね、普段言えない、動画ではできないようなですね、内容。ラジオやってるんですけども、ラジオでは話せないようなこととかですね。僕が事務所にいる時は毎日撮影しますので、裏事情とか、営業どうやってきたのとか、お客さんに対してこういうお困り事があるんだけどみたいな、今コメントいただいてまして、そこに回答を1つ1つさせていただくということで、視聴者とですね、対話を通じてやっていこうと。もう本当にプライベート空間みたいになってますので、参加いただけると僕と触れ合えるかなという風に思ってます。
もちろんこういったYouTubeを通じたコミュニケーションだけではなくてですね、いろんなこと企画しておりますので、こちらも是非ご検討いただきたいと思います。ラジオみたいな感じで聞いていただけると嬉しいですね。一緒にね、製造業盛り上げていただければ、ご支援いただければ本当に嬉しいです。よろしければメンバーシップ加入ご検討ください。ということで今日もありがとうございました。また会いましょう。次回は分かりません。おそらくヨーロッパのフィードバックなんかだと思いますんで、また次回の動画で会いましょう。ということで今日はどうもありがとうございました。
ありがとうございました。じゃあね。バイバイ。
記事公開
