「AI医師はあなたに今会いましょう」、「あなたの未来の医師は人間ではないかもしれない」、「このAIは臨床試験で人間の医師を打ち負かす」などの見出しに基づいて、AIがまもなく人間の医師に取って代わると考えることは許されるでしょう。しかし、専門家は、現実は追放というよりも共同作業であると言います。患者はすぐに人間の臨床医と一緒に働くAIサービスの手の中に自分の人生を見つけることができるでしょう。
医療界ではAIについて楽観的な見方が不足しているわけではありません。 しかし、多くの人は、AIを取り巻く誇大広告が実際の臨床環境でまだ実現されていないことも警告しています。 AIサービスがどのように最大の影響を与えるかについては、さまざまなビジョンもあります。 また、AIが患者の生活を改善するのか、シリコンバレーの企業、医療機関、保険会社の収益を改善するのかはまだ不明です。
「すべての患者は、実際にAI技術を医療システムの弱点に負わせたいと考えていますが、シリコンバレーではない誇大広告の方法でそれを行う必要があります」と、生物医学情報学研究者のIsaac Kohaneは言います。ハーバード大学医学部。
AIが約束どおりに機能する場合、サービスの行き届いていないコミュニティへのアクセスを高め、コストを下げることで、ヘルスケアを民主化できます。これは、1人あたり平均年間ヘルスケアコスト10, 739ドルにもかかわらず、多くの健康対策でランクが低いアメリカの恩恵です。 AIシステムは、過労の医師を解放し、毎年数十万人ではないにしても、数万人の米国人患者を殺す可能性のある医療過誤のリスクを減らすことができます。 また、中国のように都市部の病院の外来患者が1日あたり最大10, 000人に達する可能性がある中国など、国内の医師が不足している多くの国では、このような技術は有用であると証明するために完全な精度を必要としません。
しかし、批評家は、AIを実装するラッシュが患者のプライバシー権を踏みにじり、偏見や制限を見過ごしたり、ほとんどの人の健康結果を改善する方法でサービスを展開できなかったりすると、約束がすべて失われる可能性があると指摘します。
「テクノロジーが格差を縮めるのと同じように、格差を悪化させる可能性があります」と、医療専門知識のクラウドソーシングに焦点を当てた公益企業であるHuman Diagnosis Project（Human Dx）の創設者であり議長であるJayanth Komarneni氏は述べています。 「そして、AIのような格差を悪化させる能力は何もありません」
***
今日、最も一般的なAI技術は機械学習と、その若い従兄弟であるディープラーニングです。 人間によって書かれたルールを厳密に守るコンピュータープログラムとは異なり、機械学習と深層学習の両方のアルゴリズムは、データセットを調べ、そこから学習し、新しい予測を行うことができます。 特にディープラーニングは、人々が見逃す可能性のあるデータパターンを発見することにより、印象的な予測を行うことができます。
しかし、ヘルスケアでこれらの予測を最大限に活用するために、AIはそれだけでは対応できません。 むしろ、人間は依然として、重大な健康および財政的結果をもたらす可能性のある意思決定を支援しなければなりません。 AIシステムは人間の一般的な知能を欠いているため、医師や病院が疑いなくそれらを追跡する場合、有害となる可能性のある不可解な予測を行うことができます。
古典的な例は、昨年のEngineering and Technology誌で説明したように、Microsoft Researchの上級研究員であるRich Caruanaからのものです。 1990年代、Caruanaは肺炎患者が低リスクか高リスクかを予測するために、以前の形式の機械学習を使用するプロジェクトに取り組みました。 しかし、機械学習モデルが喘息患者のケースを予測しようとしたときに問題が発生しました。喘息患者は、既存の呼吸困難により肺炎になりやすいため、リスクが高くなります。 このモデルは、これらの患者を低リスクであるとペグし、入院ではなく軽度の介入を必要としました。これは人間の専門家には決してできなかったことです。
盲目的にモデルに従うと、スタンフォードセンターフォーバイオメディカルインフォマティクスリサーチの研究科学者であるケネスユングは言います。 モデルが言っているので：「ああ、喘息のこの子供が入って来て、肺炎にかかったが、心配する必要はなく、抗生物質を使って家に送っている」
深層学習の予測は、一意の医療ケースなどの異常なデータポイントに初めて遭遇した場合、または新しい医療ケースにあまり一般化されない特定のデータセットで特異なパターンを学習した場合にも失敗する可能性があります。
AI予測は、中国などの大規模なデータセットに適用すると最適になります。これは、大規模な人口と患者データにアクセスできるため、AIシステムのトレーニングに利点があります。 2月、 Nature Medicine誌は、サンディエゴと広州、中国に拠点を置く研究者からの研究を発表し、567, 000人以上の子供の電子健康記録に基づいて、多くの一般的な小児疾患の診断に有望であることを示しました。
しかし、特に研究者が新しい母集団にアルゴリズムを適用しようとすると、大きなデータセットでさえ問題を引き起こす可能性があります。 Nature Medicineの研究では、50万人の患者全員が広州の1つの医療センターから来たため、そのデータセットに関するトレーニングから学んだ診断の教訓が他の小児科の症例に適用される保証はありません。 各医療センターは、独自の患者セットを引き付ける可能性があります。たとえば、心臓血管センターで知られる病院は、より重大な心臓病を引き付ける場合があります。 そして、中国人の患者を主に惹きつける広州の病院からの調査結果は、上海の外国生まれの非中国人患者の数が多い病院に翻訳されないかもしれません。
この2017年のTEDxトークでは、ジョンズホプキンス病院のShinjini Kunduが、患者が症状を示す前に病気を予測するなど、AIツールが医師だけでは得られない医療画像からより多くを収集する可能性を説明します。
この外挿は、他の状況でも困難であることがわかります。 たとえば、トロント大学のコンピューター科学者および生物医学エンジニアであるMarzyeh Ghassemiは、ベスイスラエルディーコネスメディカルセンターに40, 000人のICU患者がいると言います。これは1つの都市にあるただ1つの病院です。 「それで、私はこのデータで予測を行ったこれらすべての論文を持っています。 それはボストンの別の病院で機能しますか？ 多分。 別の州の病院で機能しますか？ 他の国でも機能しますか？ 知りません。」
***
AIモデルはすべての場合に機能するとは限りませんが、Ghassemiは、このテクノロジーはまだ検討する価値があると考えています。 「これらのモデルをベンチからベッドサイドに持って行くことに非常に賛成しています」と彼女は言います。
これらのステップは、AIの開発と展開全体に存在する必要があります、とハーバード大学の法学教授であり、精密医学、人工知能、および法に関するプロジェクトのリーダーであるI.グレンコーエンは言います。 これには、AI予測の精度と透明性の検証が含まれる場合があります。 また、データ収集中、研究者は患者のプライバシーを保護し、AIのトレーニングに患者データを使用するための同意を求める必要があります。
AIモデルが実際の患者との実験的臨床試験の準備ができると、同意の問題が再び発生します。 「アルゴリズムを使用していることを患者に伝える必要がありますか。AIが完全にケアを指導しているのか、それとも部分的にケアを指導しているのかは重要ですか？」コーエンは尋ねます。 「これらの質問について考えることはほとんどありません。」
また、Ghassemiは、AIアルゴリズムを頻繁に監査して、民族、性別、年齢、健康保険に基づいてさまざまな人々のグループ全体で公平性と正確性を確保することを推奨しています。 他の分野のAIアプリケーションが、バイアスを簡単に拾い上げることができることをすでに示していることを考えると、それは重要です。
これらのすべての手順の後、AIサービスを提供する人々と企業は、避けられない間違いの場合の法的責任を整理する必要があります。 また、通常1つの規制当局の承認が必要なほとんどの医療機器とは異なり、AIサービスは新しいデータから学習するたびに追加のレビューが必要になる場合があります。
一部の規制当局は、ヘルスケアAIの評価方法を見直しています4月、米国食品医薬品局（FDA）は、関連する規制レビューを更新する方法について一般からのフィードバックを得るためのディスカッションペーパーをリリースしました。 「私たちがここで継続的に試みていることは、人々にテクノロジーへのアクセスを提供するという目標に戻ることですが、現在の方法がうまく機能しないことも認識しています」と、Bakul Patel、デジタルヘルス担当ディレクターFDA。 「だからこそ、製品ライフサイクル全体の全体的なアプローチを検討する必要があります。」
アクセス、プライバシー、規制を取り巻く問題に加えて、AIヘルスケアサービスから最も利益を得る立場にあるのは誰なのかも明確ではありません。 すでに医療格差があります。世界銀行と世界保健機関によると、世界の人口の半数は不可欠な医療サービスへのアクセスを欠いており、医療費により1億人近くが極度の貧困に追い込まれています。 AIは、その展開方法に応じて、これらの不平等を改善するか、悪化させる可能性があります。
「AIの議論の多くは、ヘルスケアを民主化する方法に関するものでした。私はそれが起こっているのを見たいと思っています」とスイス連邦工科大学の生命倫理学者であるEffy Vayenaは言います。
「とにかく優れたヘルスケアを提供できる人に、より洗練されたサービスを提供することになった場合、それが私たちが探している変革かどうかわかりません。」
これがどのように機能するかは、AIを実装するためのさまざまなビジョンに依存します初期開発では、皮膚がんや爪真菌のヒントの画像を精査したり、胸部X線を読むなど、非常に狭い診断アプリケーションに焦点を当てていました。 しかし、最近の取り組みでは、複数の健康状態を一度に診断しようとしました。
2018年8月、イギリスのMoorfields Eye HospitalおよびDeepMind。 Googleの親会社Alphabetが所有するロンドンに本拠を置くAIラボは、スキャンで50を超える眼疾患を特定するAIシステムのトレーニングに成功し、主要な専門家のパフォーマンスと一致したことを示しました。 同様に、幅広い野心が、子供たちの間の一般的な病気を診断するためにAIを訓練したサンディエゴと広州の研究を推進しました。 後者は、先輩医師と比較して小児疾患の診断が得意ではありませんでしたが、一部の若手医師よりも優れたパフォーマンスを示しました。
このようなAIシステムは、医療の民主化を支援するために最高の人間の専門家を上回る必要はないかもしれませんが、単に現在の医療基準へのアクセスを拡大します。 それでも、これまでのところ、提案されている多くのAIアプリケーションは、手頃な価格のヘルスケアを広めるのではなく、現在の標準治療を改善することに焦点を当てています、とCohen氏は言います。多くの分野。」
コンサルティング会社のアクセンチュアは、トップAIアプリケーションが2026年までに米国経済を年間1, 500億ドル節約できると予測しています。しかし、納税者のドルで補完された患者と医療システムが利益を得るか、またはより多くのお金が単にハイテク企業に流れるかは不明です、医療提供者、保険会社。
「誰がこれを推進し、誰がこれを支払うのかという問題は重要な問題です」とコハネは言います。 「これらすべてのビジネスプランについて少し幻覚的なことは、彼らがそれがどのように機能するかを知っていると考えることです。」
AIサービスがコスト削減の推奨を行ったとしても、人間の医師や医療機関は、結果として収益が少なくなるとAIのアドバイスを受けることをためらう場合があります、とコハネは警告します。 それは、医療費のモデルを使用する米国の健康保険会社のより大きな体系的な問題を表しています。これは、検査や医療処置が不要な場合でも追加することで医師や病院に報いることがよくあります。
***
ほとんどの医療診断を医師の手に委ねたまま、ケアの質を向上させることができる別のAIの機会があります。 Scripps Research Translational Instituteのディレクター兼創立者であるエリック・トポルは、2019年の本Deep Medicineで 、本質的に過給医療Siriの作成について語っています。医師と患者の相互作用についてメモを取り、電子健康にメモを入力するAIアシスタントです記録し、医師に患者の病歴の関連する部分について尋ねるように思い出させます。
「私は、医師の仕事を解凍し、データクラークの役割を取り除き、患者がより多くの責任を引き受け、物事のレビューにそれほど時間がかからないようにデータをキーイングすることを目指しています」とTopol氏は言います。
「忘れられない医療助手または筆記者」には、医師と患者の間の複数の音声を自動的に追跡および転写できるAIが必要になるとコハネは言います。 彼はTopolのアイデアを支持していますが、開発中のほとんどのAIアプリケーションはそのようなアシスタントに焦点を合わせていないようです。 それでも、SaykaraやDeepScribeなどの一部の企業はこれらのラインに沿ってサービスを開発しており、Googleでもスタンフォード大学と提携して、同様の「デジタルスクライブ」テクノロジーをテストしています。
AIアシスタントはAI医師ほど刺激的ではないように聞こえるかもしれませんが、医師が患者とより多くの時間を費やすことができ、全体的なケアの質を向上させることができます。 特にかかりつけ医は、多くの場合、労働日数の半分以上を電子医療記録に入力します。これは、患者の死亡を含む悲惨な結果をもたらす肉体的および感情的な燃え尽きの主な要因です。
皮肉なことに、電子医療記録は医療情報を改善し、患者情報にアクセスしやすくすることでコストを削減することになっています。 現在、Topolと他の多くの専門家は、電子医療記録を、医療とヘルスケアにおけるAIを取り巻く現在の誇大広告の警告物語として指摘しています。
電子医療記録の実装により、すでに患者データの分離に成功し、医師と患者の両方がアクセスできないようにする何百もの民間ベンダーに広がるパッチワークシステムがすでに作成されています。 歴史が参考になる場合、多くのハイテク企業や医療機関は、独自のAIシステムの医療データを蓄積することで、同様の経路をたどろうとするでしょう。
これを回避する1つの方法は、さまざまなソースからの医療専門知識を集約およびランク付けする集合知能システムを使用することです。 American Medical Associationなどの主要な医療機関の支援を受けて、Human Dxは、特定の医療ケースに関する数千人の医師からのクラウドソーシングアドバイスのためのオンラインプラットフォームを構築しました。 Komarneniは、そのようなプラットフォームが理論上、いつかは多くの異なるAIサービスからの診断アドバイスを含むことを望んでいます。
「将来、複数の人間の専門家があなたのケースを見るかもしれないのと同じように、複数のAIがそれをできなかった理由はありません」とKomarneni氏は言います。
医師がAIヘルパーを待つ間、Human Dxのようなクラウドソーシングプロジェクトは「間違いなく診断の改善、または治療の推奨事項の改善につながる可能性があります」と、Medscape Consultと呼ばれる同様のプラットフォームで2018年の研究を共同執筆したTopolは言います。 この論文は、集合的な人間の知能が医療におけるAIの「競争的または補完的な戦略」である可能性があると結論付けました。
しかし、AIサービスがすべてのテストと実世界のチェックに合格した場合、AIサービスは、現代のヘルスケアを改革する人間にとって重要なパートナーになる可能性があります。
「機械がうまくいかないこともあれば、人間ができることを超えるものもあります」とトポルは言います。 「つまり、2つを組み合わせると、非常に強力なパッケージになります。」
***
ジェレミー・スーは、ニューヨークに拠点を置くフリーランスのジャーナリストです。 彼は、バックチャネル、IEEEスペクトラム、ポピュラーサイエンス、およびサイエンティフィックアメリカンなどの科学技術について頻繁に執筆しています。
この記事は元々Undarkで公開されました。 元の記事を読んでください。
