医療現場の知を学ぶ日本語医療LLMはどこまで任せられるか：国立情報学研究所・小林和馬氏の講演から

ご紹介いただきありがとうございました。そしてまた、皆様、本日はお越しいただき誠にありがとうございます。私、国立情報学研究所の小林と申します。本日、私からは「データとAIが支える未来の医療」と題しまして、臨床の実践知を学んだ日本語の大規模言語モデルLLMの研究開発について、ご紹介させていただこうと思います。

また、特に今、AI、LLMが医療において何をどこまでできるようになっているのかだけではなくて、AIに医療をどこまで任せていいのか、また一方で、人間は何を担い続けないといけないのかという観点を、ぜひ皆様と考えながら進めさせていただければと思います。どうかよろしくお願いいたします。

まず最初に、僭越ながら簡単に自己紹介をさせていただきます。私はもともと医師として研修を受けた後に、国立がん研究センター中央病院の放射線治療科という診療科におきまして、がんの放射線治療に従事してまいりました。その後、理学の博士課程に進みまして、現在は国立がん研究センター研究所と、またこちら国立情報学研究所におきまして、双方で医療AIに関する研究開発に従事しております。

医療の現場を実際に体験してまいりましたその立場と、そして現在AIを開発する研究者の立場の両方から、医療画像解析や医療LLMの研究開発を進めております。本日はこの2つの視点を行き来しながら、お話しさせていただければと思います。

まず最初に、皆様にお伺いさせていただきたいと思います。もし体調が悪いとき、最初に誰に、あるいは何に相談していらっしゃるでしょうか。医師でしょうか、あるいはご家族、それともインターネットで検索される方もいらっしゃるのではないかなと思います。また最近では、ChatGPTのようなLLMも、もしかしたら良い相談相手かもしれません。

本日は、この最初の相談先というのが実際に変わりつつあるという観点から、お話を始めていきたいと思います。

こちら、生成AIが広く使われる以前に行われた米国、アメリカでの全国調査では、健康や医療についての情報を探す際に、最初の入り口として約7割の方がインターネットを挙げていらっしゃったそうです。また、医師や医療従事者を最初に挙げた方というのは、この統計では15％ほどでございます。

これは個人的には、必ずしも医師や医療従事者が信頼されていないということを意味しているわけではないと思います。つまり、受診する前にまず自分で調べる、そういった行動がすでに一般化していたということを意味した結果ではないかと解釈しています。つまり、医療情報の入り口というのは、生成AIが登場する以前から、すでに診察室の外に移っていたということが認識されます。

では、生成AIが普及した現在ではどうでしょうか。こちら、2026年の、また同じアメリカにおける調査では、健康情報を求めた人のおよそ8％が、最初に生成AIを使ったと回答されているようです。検索エンジンや医療従事者というのが依然として上位でございますけれども、すでに生成AIというのが、ご家族や医療情報サイトと並ぶ新しい入り口の1つになっているということが見て取れるかと思います。

やはり生成AIというのは、対話的に情報を取得することができますので、検索結果の一覧を見るのではなくて、ご自身の状況を書いて、そして対話の形式で答えを得られることが、大きい違いではないかと思いました。しかしながら、そうした非常に利便性が高いものである一方、その答えをではどこまで信頼して良いのかというのが、重要な問いになります。これが本日のお話の主要なテーマでございます。

本日は、こうした課題意識に基づきまして、4つのトピックをまとめてまいりました。まず第1に、なぜ今、医療にAIが求められているのか。そして第2に、医療AIはどのように進歩してきたのか。そして、なぜ日本の医療に合ったAIが必要なのか。さらに最後に、医療AIを社会で安心して使うために何が必要なのかです。

そして全体を通じた問いといたしまして、冒頭にお話しいたしましたように、やはりAIに任せていいことと、一方で人間が担い続けるべきことというのを、どう分けていけばいいのかというのを考察していきたいと思います。

それでは、なぜ今、医療にAIが求められているのかというところから、お話ししてまいります。実際に医療というのは、非常に急速に、かつ確実に進歩しています。実際の診療の中でも、血液検査や、またCTやMRIといった画像検査、さらにはお薬や遺伝子の情報、診療のガイドラインといったように、患者さん1人に対する治療を決定する際に、医師が参照するべき情報というのは非常に大きく増えております。

しかしながら一方で、人間が1日に使える時間や注意力というのは有限であって、増えておりません。そのため、医学が進歩すればするほど、医療者が処理するべき情報が増えているというのが現状かと思います。そして実際に、電子カルテにおける複雑な操作や、またその中で大量の複雑な情報を参照しないといけないことというのが、医療者の認知的な負担や、また燃え尽き症候群と関連するといった報告がございます。

つまり、こうした医療における情報が増えたことというのが、そのまま患者さんを深く理解することに本当につながっているのかという、ここで1つの大きな逆説が認識されます。

そして、こちらのグラフでございますけれども、これは米国の家庭医が電子カルテを使用した時間を示したものになります。実線が平日で、点線が週末のようです。平日は日中に作業が集中しておりますけれども、診療時間が終わった後も、実際にカルテを使った作業時間が続いております。また週末においても、午前だけではなくて夜に作業の山があるということが見て取れます。つまり、診察が終わってから記録を仕上げたり、また検査結果や患者さんからのご連絡を確認したりしているということがうかがえます。

繰り返しになりますけれども、このように医療のデジタル化というのは、情報に対するアクセスを便利にいたしました。一方で、仕事を診察室の外まで延長しているという側面がございます。

ここで、私が1つお気に入りの、エリック・トポルという方が書かれた『ディープメディスン』という本から、考え方を1つご紹介したいと思います。この『ディープメディスン』のディープというのは、人工知能の代名詞となっている深層学習、ディープラーニングのディープだけを意味しておりません。

第1には、病、検査や画像や生活、ご家族、環境などから患者さんを深く知ること。そして第2は、AIを使って膨大な情報を深く読み取ること。そして第3は、AIが情報処理を支えることによって、人間の医療者が患者さんと深く向き合えることです。すなわちAIの目的というのは、単に臨床の仕事を自動化するだけではなくて、医療者が対話や価値判断や、また責任といった人間にしか担えない仕事へ戻れるようにすることだというのが、この『ディープメディスン』という本の中で記載されているかと思います。

また、医療におきましては、画像や検査の値だけではなくて、言葉というのが非常に重要です。すなわち、患者さんがどのように症状を語ったのか、どのような生活を送り、何に不安を感じているのか。また同時に、そうした患者さんと対面する医師が何を考え、どの検査を行い、そして治療がどう効いたのか。これらは全て電子カルテや紹介状、医学書、論文などに文章として記録されております。

また、患者さんご自身も、日々の悩みや体験を言葉にして、最近ではSNSなどに投稿されることもあろうかと思います。つまり、こうした医療の言葉を読み解き、整理し、そして分かりやすく説明できる技術として、大規模言語モデルLLMが注目されています。

実際に近年のLLMは、医師国家試験、診断が難しい症例、臨床的なコミュニケーションなど、従来は医師の専門能力であって、当面は機械によって置き換えられることはないだろうと思われていたような様々な難しい課題で、すでに人間と同等か、場合によっては人間を上回る性能を発揮するようになりました。

この図におきましては、医学的な質問応答の性能が短期間で向上し、そしてついに米国の医師国家試験の合格水準に達したということを示した、2023年の論文からの図になります。ただし、試験で高い点数を取れることと、安全に患者さんを診察できることは必ずしも同じではないという点は、留意が必要です。ここでは、まず医学知識を取り扱う能力というのが飛躍的に高まっているということをご覧いただければと思います。

そしてAI単独の成績だけではなくて、医師がAIを使ったときに何が起こるのかというのも、非常に重要な観点でございます。こちらの研究では、医師がLLMであるGPT-4を利用した際に、そうした群は、従来の情報源のみに頼った群よりも、検査や治療方針の決定などを含む比較的複雑な臨床的シナリオの中で高いスコアを示したということを報告したものです。つまりAIは医師の代わりに診察するというよりは、医師が検討するべき論点を広げ、そして情報を整理する補助者として役立つ可能性がございます。

その具体例を1つお示しいたします。こちらは、先ほどの論文の中で使われたものと同じ症例になりますけれども、72歳の女性が重い胆嚢炎で緊急手術を受けました。手術後の全身状態は改善しておりましたが、心電図のモニターで、短時間の心房細動という不整脈が数回観察されたようです。現在は症状もなく、また血圧や脈拍も安定しています。こうした患者さんを実際に診察するときには、単にこのまま心電図のモニターを観察し続けるだけで良いのか、それとも追加の検査や治療が必要なのかというのを、担当医として考えなければなりません。

実際に、あるLLMに対してこの同じ症例を提示しまして、そしてこの患者さんに対してどのような追加の検査やモニタリングを行うべきかというのを問い合わせた動画となります。こちら、ご覧いただいておりますように、このLLMは素早く症例を分析するとともに、ユーザーからの追加の質問にも答えることによって、この症例において必要な次の診療的なステップを示唆してくれます。

先ほどの動画というのが少し早かったと思いますので、静止画でもう少し詳細に分析してみたいと思います。まず、このLLMは最初に患者さんの容体を要約いたしまして、そしてその後、検討事項を項目ごとに整理して提示してくれております。

心房細動という不整脈が本当に起きているかどうかを確認する追加のモニタリングや、また心臓に何か構造的な問題があるのではないかということを調べるための心エコー、さらに脳梗塞のリスクの評価や、感染症や電解質の異常といった、そういう不整脈を惹起する原因の探索、さらには手術直後という特殊な状況をどう考慮するのかという観点でございます。そして、このうち心房細動による脳梗塞のリスク評価につきまして、もう少しユーザーとして詳しい情報を入手したいとします。

実際のところ、心房細動という不整脈では、心臓の中にできた血栓、血液の塊が脳の血管を詰まらせてしまって、そして脳梗塞を起こすことがございます。そこで、今回の心房細動が起点となって、こうした将来の脳梗塞が起こる可能性、リスクを評価してくださいという形で追加で問い合わせをいたしますと、このLLMはこうした臨床的なリスクというのを定量的に評価するとともに、この患者さんにおいて考慮するべき要素というのを適切に整理してくれております。

すなわち、このようにLLMを用いることによって、医療者が見落としてはいけない観点というのを確認することができました。このようにAIの役割というのは、単に薬や治療の方針を自動的に決めることというよりは、その臨床の判断に必要な材料や、また注意点を揃えることにあるというふうに考えられます。

すでにお気づきの方も多くいらっしゃると思いますけれども、先ほどのデモ動画で登場したLLMは、皆様がよく知るChatGPTではなく、内閣府SIP「統合型ヘルスケアシステムの構築」における生成AIの活用というテーマにおいてご支援をいただき、国立情報学研究所の相澤彰子先生のチームで研究開発されたものとなります。

このプロジェクトにおきましては、情報分野と医療分野、多数の組織が参画いたしまして、診療や受診の支援、医療業務の効率化、また病名の標準化や研究の支援などを目指した研究開発が展開されました。このプロジェクトの詳細につきましては、また本日の後半で改めてご紹介させていただければと思います。

それでは、ここまで、なぜ医療にAIが求められているのかというところを見てまいりました。次に、現在の生成AIやLLMがどのような技術の積み重ねによって生まれたのかを、歴史を振り返りながらご説明したいと思います。

AIの医療応用というのは、生成AIが登場して突然始まったものではございません。こちら、1950年代から、診断支援や心電図の解析、CTやMRIなどの画像、ロボット手術など、様々な研究が積み重ねられてきました。また1960年代には、ELIZAと呼ばれる対話的なプログラムが心理カウンセラーのような会話を行っています。こうした歴史を振り返ってみますと、医療というのは昔からAIの重要な応用先であり続けたということが認識されます。

そして、2010年代に大きな注目を集めたのが、IBMワトソンというものです。このシステムでは、自然言語処理や情報検索などを組み合わせることによって、膨大な医学文献や過去の情報から患者さんの治療候補を提示することが期待されました。実際に日本におきましても、白血病の患者さんについて、短時間で文献や過去の症例を分析し、診断や治療方針の候補を示すことができたというのが大きく報道されました。

実際にこのニュースは、私もがん診療に従事する1人の医師として見ておりましたけれども、当時、コンピューターが医学の知識を読み込んで、そして医師を支援する未来が本当にすぐ来るのではないかという期待の高まりを感じていました。

しかしながら、このシステムはそうした期待どおりには広く普及しなかったというのが現実かと思います。つまり、実際の患者さんには、年齢や合併症や生活の背景、利用できるお薬や、そのお住まいの地域における医療体制など、あらかじめ全てをルールで書き下すことができないような、非常に多くの要素を同時に考慮しなければなりません。

このスライドでは、少々大づかみではございますけれども、人間が知識やルールをあらかじめ整備するトップダウン型のAIと、一方でデータからパターンを積み上げて学ぶボトムアップ型のAIを対比しています。ワトソン自身は、多様な技術を組み合わせたシステムであったようでございますけれども、やはり現場のデータの整備や、またワークフローというものを組み込み、臨床的に検証するには大きな課題があったと言われています。

そして、その後AIの中心というのは、人間が細かいルールを書く方法から、データを見せて、そして特徴を自動的に学ばせるボトムアップの方法へと移っていきました。こちら左のニューラルネットワークでは、このニューラルネットワークの内部の中間の層で、入力データを説明する特徴が自動的に獲得されます。そして最終的な出力における予測が間違っていれば、その予測の間違いの大きさ、すなわち誤差ができる限り小さくなるように、内部の重みというのが少しずつ修正、調整されます。

イメージといたしましては、こちら右側の糸で描かれた肖像画のように、多数の単純な要素を適切に組み合わせることによって、非常に複雑な形であっても、それを表現することができるようになるというイメージかと思います。

そして、こちらは私たちが行ってきました医用画像研究の例になります。こうした深層ニューラルネットワークを学習させるために、この例では頭のMRIの画像と、そしてこの頭のMRIの中に腫瘍、がんが存在する領域を正解領域として、多数その組み合わせを用意いたしました。そして、このAIは画像を入力として受け取り、そして腫瘍らしい領域を予測いたします。そしてAIの予測結果と、実際の専門家がつけた正解との差を評価しまして、この間違いが小さくなるようにネットワーク全体の学習を繰り返します。

そうしますと、こちらにお示ししておりますように、例えば転移性脳腫瘍というがんの存在している領域を、高い精度でAIがMRI画像から読み取って、医師に提示できるようになったというものです。つまり、人間が、こうした形であれば腫瘍といったようなルールを1つずつ定義して書き下していくのではなくて、多数の例から判断に役立つ特徴をAI自身が自動的に学ぶという点が、深層学習の重要な変化であると思います。

そして、このように画像から特徴を学ぶのと同じように、文書から言語、言葉のパターンを学ぶのが言語モデルでございます。例えばこちら、「患者は発熱と咳嗽を主訴に来院した」という文章と、「患者は発熱と咳嗽を守護に来院した」という2つの文章が提示されたときに、我々人間は、ここに入ってくる言葉としては「守護」よりも「主訴」の方が自然であると分かるわけです。

これと同じように、言語モデルというのは、これまでに出てきた、つまり与えられた文章の断片を手がかりに、次に来る言葉の確率を予測いたします。そして、この単純に見える練習を大量の文章をもとに繰り返していくことによって、文法だけではなくて、言葉の意味ですとか、世界を取り巻く常識といったような知識に関するパターンも獲得することができていると考えられています。

そして、LLMを育てる過程はどのようになっているのかと申し上げますと、3段階の教育に例えられるのではないかなと思います。まず、事前学習と呼ばれる過程では、大量の一般的な文章をモデルに読み込ませまして、そして言葉の使い方や一般的な知識を学ばせます。続きまして、継続事前学習と呼ばれる段階では、医学書ですとか医療に関する文書といった専門分野の文章を読み込ませまして、そして例えば医学に関する知識や表現にモデルを適応させます。そして最後の指示チューニングと呼ばれる段階では、ユーザーからの質問に対して、実際に役に立ち、かつ安全で、そして分かりやすい答え方というのをモデルに学習させます。

このように、我々も実際に行いました日本語医療LLMの開発では、特に継続事前学習以降の段階で、どのような文章を学ばせて、そしてどのような回答が望ましいとするのかというところを注意深く設計することによって、モデルの性格や性能というところを調整してまいりました。

そして、このように生成AIが今、非常に急速に賢くなっている背景には、3つの要素があると考えられます。まず第1に、学習に使えるデータが増えたこと、そして計算機が大幅に高速化したこと、そしてモデル自体が大規模化したことです。これらの要素を増やせば増やすほど性能が向上するという経験則は、スケーリング則と呼ばれ、知られています。

そして現在は、学習時だけではなくて、モデルが回答を考える時間や、またその際の計算量を増やすことでも性能が上がるということが知られています。ただし一方で、こうした開発の大規模化に伴って、多くの計算資源や電力や費用といったものがかかってきますので、誰が開発を担うのかという社会的な課題もあろうかと思います。

そしてLLMに限りませんが、こうした生成AIの医療分野における応用は、医療シミュレーションや医療チャットボット、個別化された、すみません、こちらちょっと資料には入ってなかったかもしれません。個別化された治療計画の作成や、また病気の診断、お薬を作る創薬の支援など、医療における幅広いユースケースへと今、拡大しております。

特に個人的に重要だと思いますのが、臨床関連のケースでは、今もLLMが標準的な医学知識を持っているということはすでに暗黙の前提となっていて、その上で、様々な実際の診療における業務支援や、また特定の疾患に特化した治療介入を行うソフトウェアが開発されているという点かと思います。

それでは、こうして作られた高性能なLLMを海外から利用すれば、それで十分なのでしょうか。ここから先は、なぜ日本の医療に合ったAIを、そして日本で研究開発する必要があるのかという観点をお話しさせていただきます。

現在、私たちが開発しておりますSIPモデル、そのモデルの名前としてはSIP-jmed-llmというものでございますけれども、これは様々な医療用途へ展開するための基盤的なモデルとして開発しています。特に重要なのが、国立情報学研究所の大規模言語モデル研究開発センターで構築されました、データやモデルを含む全ての研究開発の過程がオープンな、ソブリンLLMとしてのLLM-jpモデルをベースとしている点です。

そして、このLLM-jpモデルを日本の医療分野に適合させるために、日本語の医療コーパス、そしてそれを用いた専門分野への適応方法、さらにはその適応後のモデルをどう評価するべきかといった観点を組み合わせることによって、モデルを反復的に改善しております。そしてその上に、最終的には臨床のデータを用いた用途別の調整や、また具体的な医療機器の研究開発を積み重ねていく、そうした構想でございます。

このSIPモデルを構築するにあたりまして、どのようにデータを収集し、そしてモデルをどう構築したのかというのを、本日簡単にご紹介させていただければと思います。こちらも申し訳ございません。もしかしたら事前資料にないものが数枚続きます。

まず、日本語で記載された医療テキストをできる限り大量に収集するために、このプロジェクトにおきましては、出版社から利用許諾を得て入手した医学教科書などに加えまして、医療分野に絞ったウェブクローリング、つまりインターネットからの情報収集を行いました。一方で、こうしたインターネットなどから収集されたテキストの多くは、実際には日本語ではなくて英語で記載されておりました。

そこで、これに対して大規模な機械翻訳を行うことによってテキストを日本語化し、そして最終的にはおよそ800億トークン、トークンというのはおよそ単語に相当する単位だと考えていただければと思いますけれども、そうした規模の医療系のコーパスを構築いたしました。

特徴的なのが、今回我々が構築いたしましたこの医療系のコーパス、テキストによるデータセットが、日本語と英語の言語の比率がおよそ均衡しているという点でございます。こちらの円グラフでお示ししますように、日本語が45％、英語が45％と、ほぼ半々になるように構成されまして、残りの部分は日本語と英語の対としてのデータにより埋めております。

このようにコーパスデータセットを構築することによりまして、グローバルに流通している英語での医療テキストを理解し、知識として蓄えるとともに、日本語によって医療に関する質問応答や、また文書の処理ができるようになることを目指したものとなります。

そして、このプロジェクトにおいて構築したモデルの評価の物差しについても、ご紹介したいと思います。LLMの性能というものを客観的に、かつ包括的に評価するために、私たちはJMedBenchという、日本の医療分野に特化した枠組みを構築いたしました。このJMedBenchというデータセットにおきましては、5種類のタスク、つまりテストの種類から構成されています。

具体的には、医師国家試験などを含む多肢選択式の質問や、また医学用語を認識できるかという観点での評価、さらには文書を医学的な軸に沿って分類することであったり、また翻訳、あるいは文章の意味的な近さというものを判定する、そういったタスクから構成されています。

その上で、汎用的なモデルであるLLM-jpモデルを日本語医療分野に対して実際に適応させるという観点での学習を実施します。そして、この学習を行うという段階で、その最適な学習法を探索するにあたっての1つの研究的な取り組みを、簡単にご紹介したいと思います。

私たちのこのプロジェクトの中で痛感されたことといたしまして、やはり相対的に見ると、日本語で記載された医学のテキストというのは希少であって、そして実際にインターネットから収集された多くの医学に関連したテキストは英語で記載されておりました。このように言語が偏っていること、つまり学習に使えるデータの多くが、日本語よりも英語で記載されたテキストであるということは、最終的なモデルの日本語における性能に悪い影響を与えるのではないかと考えられましたので、この研究的な取り組みにおいては、その英語のテキストをどの程度日本語に翻訳し、そして英語との割合をどのように最適化してミックスするべきかといった観点での探索を行いました。

そして、これにより見いだされた学習のレシピに基づいて、モデルを訓練させたというのが実際の研究開発となります。

そして、最終的に開発されましたこのSIPのモデルでございますけれども、過去5年間の医師国家試験の過去問題からなるベンチマーク、テストデータセットにおきまして、いずれの年も、こちら赤いバーで示しております人間の合格基準を上回り、また平均してGPT-4と呼ばれるモデルを上回る性能を示すことができました。あくまでも個人的な見解でございますけれども、LLM-jpモデルから始まる全ての過程が自国の国力のみで構築されたソブリン医療LLMとしては、一定の解であったというふうに考えております。

少し振り返りまして、ではなぜ日本の医療に特化したソブリンLLMが必要なのでしょうか。個人的には、それはやはり医療というものが、その国の言語や文化、また制度に大きく深く根差しているからであるというふうに考えます。例えば日本には、発酵食品に由来する高い塩分摂取量と高血圧のリスクでありましたり、また分子標的薬イレッサと言われるお薬による肺障害の歴史など、やはり日本人に対して特異性、固有性が高いと言えるような健康問題があろうかと思います。また、漢方でありましたり、死生観、さらには複雑な医療制度にしっかりとモデルを適合させるためには、国内での研究開発が不可欠です。

こうした観点というのは、実際にLLMの機能的な側面にも反映されています。こちら、遺伝性血管性浮腫という、突然強いむくみが起きる病気につきまして、地方の小規模病院でもできる救急外来での点滴治療を教えてくださいと尋ねています。そして左側にお示ししておりますGPT-5、海外のLLMによる回答では、いわゆる専門薬を含む回答が中心に構成されておりますが、実際に地方の小規模病院において、こうした専門薬が直ちに入手できるというわけではございません。

一方、我々のSIPのモデルでは、そうした日本の臨床現場で代替策として検討されるお薬に対する言及も含まれておりました。これはあくまでも1つの事例でございまして、モデルの優劣を一般化するものではございませんけれども、やはり実際の診療現場で役に立つLLM、AIを開発するためには、実地の臨床の実践知に根差した研究開発が重要であるということが示唆されます。

少し見方を変えますと、医療に関する知識というのは、世界共通の医学知識に加えまして、国や地域固有の医療文脈への理解が問われていると言えるとも思います。そこで、私たちのチームの山岸先生という方の研究になりますけれども、こうした国や地域の医療文脈をLLMがどの程度理解できているかを測るためのベンチマーク、物差しを構築しました。

すなわち、同じ医学的な問いであっても、診療のガイドラインや使えるお薬の承認状況、また医療制度などによって、正しい答えが地域ごとに異なるという側面に注目したものになります。そしてこちらの図は、一般的な問題への正答率と、そして地域固有の文脈への適合率を別々の軸で評価しています。そしてモデルによって、一般的な知識には強いけれども、このような地域への適合性が弱い、あるいはその逆といったような特性を明らかにすることができました。

ここまで、SIPプロジェクトのご支援を通して、日本の医療に特化したソブリン医療LLMを構築しましたこと、さらにはこうしたモデルの有用性や必要性について、ご紹介させていただきました。最後に、私たちの今後の挑戦につきましても、少しお話しさせてください。

今年度以降のSIPプロジェクトにおきましては、一般的に収集可能な医学テキストには明記されていない、熟達した熟練医が持っている、いわゆる暗黙知をしっかりと学習した日本語医療LLMの研究開発に取り組んでまいります。具体的には、そうした熟練医が個々の患者さんの状態を、病態と生理学という一連の観として頭の中で理解している、そうした暗黙知のプロセスを形式知として書き出しまして、そしてこれを踏まえて適切に機能するLLMを作り、そして最終的に日本の臨床において本当に活用するようなシステムにつながるように、研究開発を進めていく予定でございます。どうか皆様のご支援をお願い申し上げます。

そして、ここまでは医療AIの可能性と、そして日本の医療に合ったモデルを開発する意義をお話しさせていただきました。最後に、こうしたAIを安心して社会で使うためには何が必要なのか、その限界と、そして我々人間側の課題を一緒に考えさせていただければと思います。

ここまで見てまいりましたように、医療LLMの利活用というのは、実際に非常に期待できるところがあろうかと思います。ただし一方でLLMというのは、同時に容易に解決することが困難な様々な課題を、実は我々の社会にもたらしていると言える部分がございます。

例えば、こちらのスライドでは、レプトスピラ症と言われる感染症におきまして、その患者さんの血液検査を行ったときに、血液中のある検査値としてのビリルビンについて、間接ビリルビンと言われる分画が高くなるのか、それとも直接ビリルビンと言われる分画が高くなるのかというのをLLMに尋ねています。そうしますと、我々のSIPモデルや、また当時のGoogleのAIオーバービューは、間接ビリルビンがレプトスピラ症においては高くなると回答していました。

一方で、人間によって実際に記載された医学教科書や症例報告文書では、どうも間接ビリルビンではなくて、直接ビリルビンが高くなると記載されています。つまり、今このスライドにおきまして、レプトスピラ症において優位となるビリルビン分画について、いわばAIと人間の間に見解の相違があるわけです。

こうした見解の相違がなぜ生じるのかというのは、我々開発者からしますと興味深い側面もある一方で、やはりこうしたシステムを実際の医療の現場において運用する上での大きなリスクというのも認識されます。実際に臨床医を対象とした調査では、91％の医師がこうした医療ハルシネーションに遭遇したことがあり、そして84％が、そうした回答を仮にうのみにした場合には患者さんの健康に影響しうると回答されているようです。

つまり、多くの医師がLLMの有用性を感じる一方で、その誤りについても実際に直面している、そうした現状が理解できます。すなわち、LLMの出力を本当にうのみにして良いのかどうかという判断においては、慎重になる必要がございます。

そして、LLMが私たちに今もたらしている課題というのは、このハルシネーションに限りません。例えば、AIのシステムに対して人間が過度に信頼感を抱いてしまう自動化バイアスでありましたり、またAIへの過度な依存により人間のスキルが低下するデスキリング、さらにはプライバシーのリスクや、また誤った情報が拡散してしまうといったようなことも言われております。

ここに挙げた全てのリスクを覚えていただく必要はございませんけれども、大きく分けますと、やはりAIというのは誤ること、また偏ること、情報が漏れることもあること、そして人間が頼りすぎてしまう。そういった4つの観点を認識していくことが重要なのではないかと思います。

そして、AI側の性能だけではなくて、人間側の心理に注意することも重要です。1960年代に開発されたELIZAと呼ばれるシステムでは、利用者の言葉を言い換えて質問を返す、そうした単純な仕組みに基づくチャットボットであったようです。

それにも関わらず、それと直面した人間は、まるで自分を理解してくれるように感じて、そして、そうした感情を語ったということが言われています。このように、コンピューターの振る舞いを、人間の理解や感情と同じように受け取ってしまう。そうした我々の心理的傾向をELIZA効果と呼ぶようです。そして、現在のLLMというのは、このELIZAよりもはるかに自然に会話いたしますので、理解しているように見えることと、本当に正しいことというのを、意識して分けていく必要があろうかと思います。

さらに、深層ニューラルネットワーク特有のブラックボックス性というのも重要です。LLMを含むAIというのは、データセットの中の入出力の関係を、いわば高度に近似している、そうしたものになりますけれども、ではなぜ特定の出力結果が得られたのか、そうした根拠を人間が理解することというのは、実は簡単ではございません。

例えば、こちらは胸部X線写真、胸のレントゲンですね。胸のレントゲンを入力として、そして、その診断を推定するAIの出力結果が、この入力画像中の輝度値の変化に伴って、攪乱されている様子というのが示されています。しかしながら、ではなぜ輝度値の変換に伴って診断結果が変わるのかというのを、我々人間が納得するように説明してもらうというのは困難でございます。そして、この事情というのはLLMにおいても同様です。

しかしながら、このように多くのリスクが認識される一方で、これだけ有用な技術の進歩、それ自体を止めるというのも、また同時に難しいところがございます。特に、ここまではAIが質問に対してチャットボットとして答える、そうした場面を中心的に見てまいりました。しかしながら、現在ではAIが単に情報を読むだけではなくて、複数の手順を計画し、外部の道具を使い、さらに環境の変化に応じて行動するエージェントへと進化しつつあります。

つまり、医療現場においても診療記録を単にまとめるだけのAIではなくて、検査を予約したり、また患者さんと会話したり連絡したりするようなAIでは、仮にその振る舞いが誤った時の影響度というのが大きく変わってきます。従いまして、AIにどこまで自律性を与えていいのか、どこまで任せていいのかということを考えないといけない。そうした新たな課題が立ち現れています。

そして、こうしたエージェント化の進展によって、AIが診療の中で発言し、提案し、場合によっては行動するようになりますと、従来の医療者と患者さんという二者の関係から、医療者と患者さんとAIという三者の関係へと変わっていくのではないかと個人的には思います。しかしながら、この三者の関係も、本来的な緊張を実は孕んでいます。

こちらにお示しした研究では、ある公開掲示板の質問に対する医師とチャットボットの回答を評価者が比較しまして、そして、チャットボットの回答の方がより質が高く、そして共感的であったと評価する傾向が報告されております。実際の患者さんが評価したものではないという点には、一定の注意が必要だとは思いますけれども、AIの言葉が患者さんの信頼や、また医師との関係に今後影響しうる、そうした可能性を示しています。

実際に、こうした将来を予見させる例というのが一つございました。こちら、OpenAI社がGPT-5という最新のLLMを発表しまして、そして従来のGPT-4が使用できなくなった際に、GPT-4をそれまで話し相手として活用していた一部の利用者が、そのLLMの人格の変化を感じて嘆いて、そしてSNS上でキープ4ムーブメントを引き起こしたようです。もちろん、これは全ての利用者に当てはまるわけではございませんけれども、こうした会話型のAIが、単なる道具としての存在を超えて、我々人間にとっての感情的な存在として受け止められる、そうした可能性を示しています。

また、こうした誘因というのは、患者さんのみならず、医療者に対しても向けられているということを自覚する必要があると思っています。実際に、医師というのは日々の臨床業務に忙殺されておりますので、時間的な効率を上げて、そして認知的な負荷を軽減したいという誘因は強いものと思います。こちらの研究では、AIを日常的に使っていた内視鏡医が、AIを使わないで検査を行った際に、病気を発見する検出力が低下しているということを報告しております。つまり、医療者はAIを使う訓練と同時に、AIなしでも診療の技能を維持していく能力を、しっかりと担保する必要がございます。

そして、もう一つ重要なのが、責任という観点です。意思決定支援が便利になればなるほど、人間はやはり自分で考えるということをやめてしまって、そして機械の出力を批判的な思考の代わりにしてしまう。そうした恐れがございます。しかしながら、当然のこととして、AIは仮に判断を誤った時の患者さんの苦痛を感じたり、また家族へ説明したり、結果に対する道徳的な責任の重みを引き受けてくれるわけではございません。従いまして、AIがどれほど高度になったとしても、最終的な結果に責任を負う主体が誰なのかというところを曖昧にしてはいけないと思います。

では、医療AIを安心して使うためには何が必要ですか。AIには、大量の記録の要約や見落としてはいけない論点の列挙、定型的な文書の作成や知識の検索や提示、そういった観点であれば任せやすいのではないかと思います。一方で、人間はやはり患者さんの価値観を聞いて、不確実性の中で判断して、悪い知らせを時に伝え、結果に責任を負わなければいけません。すなわち、人間とAIの境界は、単に性能だけでは決まらないのではないかというふうに思います。

本日は、なぜ医療にAIが必要なのか、その技術がどう進歩したのか、なぜ日本の医療に合ったAIが必要なのか、そして安心して使うために何が必要なのかというのを見てまいりました。

最後に、全体を一つのメッセージにまとめさせていただきたいと思います。医療AIの目的は、医療者を単に機械に置き換えることではありません。多様な情報から患者さんを深く知って、そしてAIによって膨大なデータを深く読み解き、そして、その結果として人間の医療者が患者さんとより深く向き合える、そうした医療を実現することなのではないかなというふうに思います。

本日お話しいたしました研究は、情報学、医学、医療現場、行政など、非常に多くの先生方、研究者、そしてスタッフの皆様との共同作業によって進められております。この場をお借りしまして、関係する全ての皆様に深く感謝申し上げます。そして、本日はご清聴いただきまして誠にありがとうございました。

[拍手]