医療領域における生成系AIの活用可能性と課題

ファストドクターは、「不要な救急搬送を3割減らす」という創業ビジョンの下、「1億人のかかりつけ機能を担う」という新たなビジョンを掲げて、医療サービスの提供を行っています。ソフトウェアの販売ではなく、医療従事者、コールセンターのオペレーター、医療資材など、全てをパッケージ化したプラットフォームを有しているのが弊社の特徴で、患者と医師の双方にスムーズな医療体験を提供するために日々DXを推進しています。

例えば、コロナの第5波・第6波のときですが、在宅のPCR検査の結果を患者さんにお伝えするのに、看護師の方が1件15分ぐらいかけて患者さんに電話でお伝えしていたんです。ピーク時は1日500人の患者さんに毎日10人以上の看護師の方が電話していました。これをSNSでお伝えする仕組みを導入して900秒を0秒にし、翌日からたった1人でこの業務を回せるようになりました。

また、コロナ患者の発生届を「HER-SYS」という国のシステムに登録するのですが、結構入力項目が多くて、1件登録するに大体10分ぐらいかかる作業でした。ピーク時は2000人分を毎日提出しなきゃいけないという状況で、20人態勢で入力をひたすらしていたんですが、これも自動化のプログラムを組んで1件10秒でできるようになり、20人いたところが1人で残業せずに終わるようになりました。

おかげさまで、2022年にはForbesの「日本の企業家ランキング2023」で1位を受賞させていただきました。経済産業省の「グッドデザイン賞」では金賞をいただき、本年度の「J-Startup」にも認定いただいております。

さて、「医療において大規模言語モデル(LLM)は活用できるのか」という本日のメインテーマですが、私は、これは強くイエスだと思っています。医療業界には解くべき大きな課題があります。ChatGPTなどのLLMの活用にはルール面や品質面の課題はありますが、医療業界が抱える課題に対する解決策になり得ると考えています。

1つ目の活用事例は、ChatGPTのGPT-4が医療においてどのようなパフォーマンスを示したかという論文ですが、70症例のうち、医師の最終的な診断と一致したものが約39%。64%の症例が ChatGPTが「こういうものではないか？」という可能性を示した鑑別リストに含まれている状態でした。これは意思の診断のサポートとして非常に強力な可能性ととらえられます。

これらの症例の診断は、画像検査や病理組織所見といった、医師による長いプロセスと時間をかけた診断が必要なもですので、こういった非常に難易度が高く、専門性が求められる病気に対しても、ChatGPTはこれだけのパフォーマンスを出せるということが示されたのです。

2つ目の事例が、音声からカルテ作成やサマリー作成を行う「CalqKarte」というサービスです。文字起こししたものを医療的な記録として構造化して残すといったところもLLMの特性が生きる領域です。

3つ目の事例は、人間の医師よりもChatGPTの回答が患者様への共感性が高いという研究結果です。ブラインドテストで医師とChatGPTの回答を医療専門家に評価してもらったところ、ChatGPTの回答の方が情報で3.6倍、共感度で9.8倍高いという結果になりました。

LLMは、長文から総合的な判断を出力するような処理、サマリーの抽出やデータの構造化、また、端的情報から接遇性を考慮した文章の作成に優れています。一方、一般的な課題としては、「ハルシネーション」、誤った情報をさも正しい情報のように出力するケースもあるため、品質の作り込みがポイントになってきます。

医療における課題は、社会的コストや医師不足の問題、そして労働生産性の問題です。高齢化に伴って、医療費は2025年時点で約50兆円、2040年には約70兆円となることが予見されます。こうした中、2024年4月からは医師に対しても時間外労働の上限規制が適用されるので、医師不足が見込まれます。

医療業界というのは年率5%の成長産業として伸びていた一方で、年率1%程度の労働生産性の伸び率しかなく、とにかく人を投入して成長してきた産業です。なかなか人を投下することが難しくなってきている中で、成長を支えながらニーズに応えていくことが中長期的な課題になっています。

また、業務の中で医師が負担に感じているものが診断書や要介護者ための主治医意見書の作成、カルテや処方箋の記載といったドキュメントワークです。アナログ文化が非常に色濃く残る医療業界において、限られたリソースで効率良く、かつ質の高い医療提供のためにもLLMで代替する余地は大きいと感じています。

プラットフォーマーであるGoogleは米国の医療機関メイヨー・クリニックと共同で医師に対して病名をサジェスト（助言）するサービスを開発し、試験運用をすでに開始しています。彼らのLLMへの投資は大部分がヘルスケアで占めているので、今後エビデンスが蓄積されてくると思います。

中国のMedlinkerというユニコーン企業では、診断、治療、リハビリ、処方までのプロセス全体の最適化にLLMを使っています。部分的にLLMを活用するケースはありますが、特に海外のプレーヤーはプロセス全体にLLMを活用したプラットフォームを用意していて、その上で個別のパーツは他企業に任せています。そういった土壌を用意していくのは、やはり米国や中国の企業が一歩先を行っている状況です。

国内では、株式会社Awarefyという会社がメンタルヘルス領域で患者様に寄り添うアプリを提供しています。人間にだとなかなか相談しづらいことをうまく引き出すというChatGPTの共感性を生かして、サービスを展開しています。

さらに医師業務の軽減としては、株式会社HOKUTOというスタートアップが、医師向け臨床支援アプリを使って、「患者の配偶者向け」「子ども向け」など伝える相手に応じた病状説明文をワンクリックで作成するサービスを提供しています。

続いて、弊社の事例です。株式会社オルツというスタートアップと協業して、医師国家試験問題の合格基準を満たすLLMを開発しています。画像認識のニューラルネットワークを追加して画像問題にも対応できる機能を付加し、GPTが苦手な数値計算にも追加対応できるようにしています。医師とチューニングを行い、生命に直結する禁忌選択肢問題（絶対に間違えてはいけない命に関わる問題）もしっかり見極められる仕様になっています。

また、弊社は医療機関と共に1日2,000人から3,000人の医療相談を受けている中で、医療従事者に対し、病名のサジェストをしていく機能も作っています。効率良く、かつ間違いない病名の診断が生産性に直結するポイントですので、ここに対してChatGPTを使って、ある程度の確率で候補を絞り込むというものを社内で作成しています。

すでにChatGPTの第一候補が医師の最終所見と一致したものが33%、上位候補3つまでと同様の診断となったものが78%という一致率を示し始めていまして、医師が臨時的に自分の専門外の患者様を診療しなければいけない状況では、こういったシステムは非常に有力です。さらに診療記録音声からカルテを自動生成したり、紹介状の作成、患者様のバイタルサインモニタリング（体温・脈拍などの測定）やアラートといった部分でもLLMの活用は非常に大きいと感じています。

こういったChatGPT、LLMの活用可能性を非常に強く感じていることから、「Health Tech Hackathon」というイベントを今月（2023年7月）開催しました。全部で11チーム、34名、医師9名が参加し、さまざまなアイディアを出してプロトタイプを作りました。

すでに多くのプロダクトが世の中には存在していますが、そういったプロダクトを試作し、ブラッシュアップして世に出すまでには、何か月、何年もかかるというのが一般的です。それが「これなら使ってみたい」と医師の方々に思っていただけるものが、このハッカソンでChatGPTを使ったらたった2日で作れたことに、医療業界における開発加速の可能性を感じた次第です。

LLMの活用には、いいことばかりではなく課題もあり、具体的にはルール面の課題と品質面の課題があります。

まずルール面の課題ですが、ChatGPTで生成した健康情報に関する内容を利用者に直接フィードバックすることは法律で禁止されています。日本では医療行為を提供できるのは医師免許を保有する医師のみですので、現時点においては、AIはあくまでも医師をサポートするものという位置付けになっています。しかし10年、20年という時間軸で見ると、LLMのクオリティーが医師を超える世界も来ると思うので、そのときに法律としてどう対応していくのかという大きな課題が発生するでしょう。

次に、個人情報の問題があります。医療におけるChatGPTやLLMが扱う情報は個人情報保護法上の個人情報に当たるのですが、国内の事業者か海外の事業者かでも個人情報保護法上での扱いが変わってくるので、整理が重要になります。

医療情報の扱いは「3省2ガイドライン」（厚労省のガイドラインと経産省・総務省のガイドラインの2つ）で定められており、例えばデータをアップロードする委託先が自分たちの管理監督下にあるか、また日本法に準拠しているかといった点も勉強していく必要があります。参照するガイドラインや法律が非常に多岐にわたる世界なので、総合的に判断できるガイドラインができたり、もしくは相談先が統一されていると、開発は進みやすいと思っています。

さらに、医薬品医療機器等法の問題があります。厚生労働者のガイドラインでは、病名の診断や治療に寄与することを目的とする場合、医療機器プログラムの承認を受けることになっています。一方で、汎用AIなどのプログラムであれば、医療機器プログラムとは言えないというような書かれ方もしているので、汎用AIを使って病名のサジェストをした場合はどちらに当たるのか等の整理は今後必要になってきます。

品質面の課題については、LLMはブラックボックスだということもあって、品質が安定しません。例えば、同じ患者様の症状についてまったく同じプロンプトを投げても、バージョンによって返ってくる回答が大きく揺らいでしまいます。

弊社では、最終的には医師が結果に責任を持たなければいけないという前提がありつつも、バージョンが変わった際に期待するアウトプットが安定して出ているかを自動的、かつ継続的にテストして、最終的には目視チェックをする仕組みを入れています。

まとめとなりますが、日本には解くべき大きな社会課題があり、医療領域でのLLM活用がこの解決策となるという多くの証明が確認されています。一方で、医療機器プログラムや個人情報保護法といったルール面の課題があり、企業としては品質面の課題もクリアしていく必要があると思います。

Q：

貴社の今後の発展のために政府ができることはありますか。

A：

個人情報問題を理解しやすいガイドラインや勉強会等を用意していただき、Q&Aに対してスムーズに答えていただくような場所があれば、われわれとしては前に進みやすくなると思っています。また、医療機器プログラムの領域でも、医療機器に該当するかどうかで開発プロセスが大きく変わってきますので、医療現場にスムーズに投入できるように該当性判断も含めて一緒に考えていただけると非常に助かります。

Q：

こういったシステムを高齢のITリテラシーの低い患者・医師の方々に使っていただくにはどうすればよいでしょうか。

A：

現時点では医師の支援ツールとして使う領域が大きいので、患者様の年齢によってこのシステムを使うことが難しいということにはなりづらいと考えています。ただ、5年から10年という時間軸で見たときには、AI自体が患者様との対話を進めていく世界も必ず来ると思うので、高齢者にとってそれが安心できるものであることが非常に重要です。

LLMは高齢の方や専門用語が分からない方にもかみ砕いた説明を作成したり、ワークフロー全体を最適化するのが得意ですので、パーソナライズした診察体験を提供する用途にも今後使われていくと思います。

一方、日本の診療所の50%は電子カルテすら使っていないという状況ですので、高齢の医師の方にLLMを使っていただくのは相当ハードルが高いと思っています。圧倒的な便益を示すことで利用の喚起はできるとは思いますが、意識を変えてもらうのは一筋縄にはいかないでしょう。

Q：

マイナンバーカードと健康保険証の一体化について、いかがお考えですか。

A：

マイナンバーカードを使えば併存疾患や既往歴の情報が得られるようになるので、医療の現場としては非常に期待しています。ただ、実際の利用はまだ多くはないので、普及に向けてデジタル庁と一緒に進めていきたいと思います。

Q：

事業者として使用するデータに関して、今後、政府に期待するところはありますか。

A：

1つはマイナポータルからのAPI連携（アプリの連携）で、医療機関ではない事業者としても過去の受診歴、服薬歴情報、健康診断データを最大限活用していきたいと考えています。医療のデータ整備は諸外国に比べて日本は非常に進んでいると思うのですが、医療の手前のデータ収集は弱いと思うので、何らかのインセンティブを付与することで、国としても推奨していくことが1つの分岐になると思っています。

Q：

今後、日本はどのようにして海外企業との競争に勝っていけるのでしょうか。

A：

実は、先月（2023年6月）、リモートペイシェントモニタリングという、遠隔で患者様のバイタルや血圧情報を収集するデバイスを提供するスタートアップを米国で見てきたのですが、皆さん、集めたデータを医療に活かし切れていませんでした。

いくらデータを集めても医療領域で活用されないと、ユーザーはデータを集め続けるモチベーションが続きませんし、データを回収する企業としてもマネタイズ（収益化）の先がないので苦しくなります。そこを医療費の削減や早期改善といった医療のアウトカムにつなげているところは世界を見てもまだ多くはありませんので、そこに日本が集中的に取り組めば、勝機があるだろうと思います。

Q：

どの部分のコストを誰が負担するのか、政策面で必要なことは何かについて、ご意見がありましたらお願いします。

A：

技術を導入することで医療費を中長期的に削減できるかというところが肝になります。医療が高度化することで早期介入ができ、医療費を削減することができたというエビデンスベースドのROI（投資収益率）に基づいて導入されていくのが理想です。

医療AIの活用は患者様の医療の質を上げたり、保険や医療費の削減だけでなく、医療機関の経営やドクターのワークロードを減らす上でも非常にベネフィットがあるので、その中で十分賄えていけるのではないでしょうか。

Q：

仮に政府が1,000億円を貴社に投資したら、その資金を何に投入しますか。

A：

私は医療データを国と一緒に整理していきたいと思っています。われわれは救急の世界が中心で「点」の医療の提供しかできていないので、その後の効果になかなかアクセスできないのが現状です。マイナポータルで個人データを提供していますが、連携率はおそらくまだ1%にもなっていません。医療データがあるのにアクセスできない状態ですので、国民の医療の状態に誰でもアクセスできるものに投資したいです。

Q：

企業の健康保険組合でこのような先進サービスを活用できないものでしょうか。

A：

今、健康保険組合にとって支出の伸びが一番大きいのがメンタルヘルスの領域です。早期介入できれば健康保険組合にとってもベネフィットが大きいですし、優秀な労働者の労働力も確保できるので、実際われわれも健康保険組合と多くお話をさせていただいています。

Q：

例えば患者様が不利益を被った場合、責任の所在はどこになるのでしょうか。

A：

これはもう究極的な問題で、生命に関わる責任の所在は非常に大きな問題です。今の医師法においては、プログラムを使って診断を出した医師が最終責任者であるというのは間違いないと思います。

ただ、今後、医師が介在しなくても患者様とAIが直接コミュニケーションできるようになってくる世界において、誰がリスクテイクするのかについての明確な答えはありません。社会的にそうした流れを推進するためにも、セーフティネットを保険として作っていくというのが1つ解決の方向としてはあると思います。

Q：

組織的にデジタル技術を導入できる状況ではない病院が多い環境下、何を変えていけばよいでしょうか。

A：

病院経営者がその課題認識をしない限り、デジタルオフィサーを置いてもお飾りになってしまったり、権限委譲も進まないということが起こるので、経営者自身が学び続けて変わっていく必要があると思います。

Q：

LLMの導入が進む中で、どのような人材がこれから必要になるのでしょうか。

A：

エンジニアの世界では、プロンプト職人といって、LLMから最適な結果を導き出す職種がすでに新しく生まれています。医療の現場は生命が第一ですので、昨日と今日で変化がないこと、同じ品質で同じことを続けることが最重要と考えますが、テクノロジーの世界は、昨日よりも今日、今日よりも明日と、日々、技術や自分自身を変えることに身を置かなければいけません。新しいものに変えていきたい、自分自身も変わっていきたいという視点やマインドがある方は、LLMを中心とした新しい医療の世界でも活躍できると思います。

Q：

人材育成の面で、政府に対して要望はありますか。

A：

これまでエンジニアの中で閉じてきていたDXやITというのものが、一般の人へも解放されたのがこのChatGPTなどLLMのすごさですので、そういった人たちを取り込んで、裾野を広げていくためのハッカソンのような場を政府主導で増やしていくことは意味があると思います。開催には時間もお金もかかりますので、その辺りの支援があると非常に助かります。

Q：

政府への要望があればお聞かせください。

A：

政府としても、「ヘルスケア×LLM」という形で大きく投資する方針を打ち出して支援をしていただきたいと思っています。汎用で何にでも使えるLLMですが、医療との相性は抜群にありますので、医療・ヘルスケアにおけるポテンシャルに注目いただけたらありがたいです。