1　二つのAIは、法律上の位置づけが違う

設例では、自由記述が緊急度の判定に反映されない製品と仮定しています。読影支援AIが候補を示さなかったことも、異常のない証明ではありません。医師が患者の訴え、診察、原画像、AIの仕様をどう確認したかが問題になります。

2　医師の責任 ― 注意義務はAIでどう変わるか

注意義務は、診療当時の医療水準、患者の状態、施設の機能、得られた情報等を踏まえて判断されます。後から異常が分かったことだけで、当時の見落としに過失があったとは断定できません。AIを使う場面では、次の点を検討します。

設例では、自由記述や原画像を医師が確認できる状態だったか、息苦しさをどう評価したか、当時の画像所見がどの程度認識可能だったか、経過観察や再受診の説明をどうしたかを調べます。AIの見逃しと医師の過失は同じではなく、患者の被害との因果関係も別に検討します。

3　医療機関の責任 ― 選定・運用・体制

個々の医師の判断とは別に、医療機関には、AIをどう選び、どう運用するかについての責任があります。

• 選定　医療機器への該当性と必要な承認・認証等、自院の用途との適合を確認する。AI問診は、自由記述の扱い、緊急症状の警告、医療職への連絡手順も確認する。
• 使い方の定義　誰がどの段階で原情報とAIの出力を確認するか、緊急時に誰へ連絡するかを定める。受付がAIの表示だけで独立した医学的判断をしない手順にする。
• 研修　医師と職員に、そのAIの限界（何を対象とし、何を対象としないか）を説明する。添付文書・仕様書を読む機会を作る。
• 更新の管理　AIのバージョン更新で性能や対象が変わることがある。更新の内容を把握し、記録する。
• 記録の保存　診療で用いた入力・出力を患者と結び付け、医師の判断を区別して保存する。記録・ログの範囲、期間、事業者からの取得方法を定める。すべての操作ログに一律の無期限保存を求めるものではない。
• 不具合の把握と報告　院内の窓口を決め、製造販売業者へ連絡する。医療機器による健康被害や、そのおそれのある不具合等で、危害の発生・拡大防止のため報告が必要と判断した場合は、医薬関係者にも薬機法68条の10第2項に基づく報告義務がある。業者への連絡だけで済ませず、PMDAへの報告を行う。
• 安全管理　医療機器に該当する診断支援AIは、医療機器安全管理責任者を中心とする安全管理の対象として扱う（医療法6条の12、施行規則1条の11）。該当しないサービスにも情報管理と運用上の安全対策を設ける。

4　AI問診の落とし穴 ― 「振り分け」は誰がしているか

AI問診には、診断支援AIとは別の問題があります。AI問診の結果を、受付や看護師が見て、患者の順番や診療科を決め、場合によっては「今日は受診不要」と案内する運用です。

受付職員による事務的な案内、看護師による適切なトリアージ、医師による診断を区別します。看護師の業務まで一律に無資格者の判断とは扱いません。一方、無資格の受付職員がAIの表示だけで病状を判断し、「受診する必要はない」と診断に当たる説明をする運用は避けます。AIを介しても、業務の性質と担当者の資格・指示関係は変わりません。

したがって、AI問診の運用は次のように組む必要があります。

• 表示の対象と意味を定める。患者向けの一般的な受診案内や職員への警告まで一律に禁止する必要はないが、AIの評価を確定診断と誤解させず、原情報と人への連絡手段を確保する。
• 息苦しさ等の緊急性が疑われる訴えは、AIの表示が「低」でも、定めた手順で医師・看護師へ速やかにつなぐ。受付が独断で待たせず、看護師の評価も職務・院内手順に沿って行う。
• AIの表示だけを理由に受診を断ったり、個別の病状について不要と断定したりしない。一般的な情報提供・受診勧奨と、個別の診断・診療上の判断を区別する。
• 自由記述が判定に使われるか、誰の画面に表示され、誰が確認するかを確かめる。表示されるだけで見落としが防げるとは限らない。

5　ベンダーの責任 ― 何を問えるか

医師、医療機関、ベンダーの責任は、患者との関係と当事者間の契約関係を分けて検討します。医療機関とベンダーの契約だけで、患者の請求権が当然に制限されるわけではありません。契約時には、仕様・性能、限界の説明、不具合の通知、ログ提供、事故調査への協力、責任制限の例外を確認してください。

6　事故が起きたとき ― 何を残しておくか

AIが関与した診療で患者に有害事象が生じた場合、第Ⅷ部で扱った医療事故の対応に、次の要素が加わります。

7　今日やること・やってはいけないこと

8　よくある質問

承認を受けた診断支援AIなら、その出力に従っていれば医師の責任は免れますか。

承認されていることだけで、医師が当然に免責されるわけではありません。一方、誤診という結果だけで法的責任が成立するわけでもなく、診療当時の医療水準、AIの仕様・限界及び医師による確認・判断が適切だったかを評価します。

AIが指摘した所見を、医師が「偽陽性」と判断して無視しました。後に真陽性だったと判明した場合、責任はどうなりますか。

診療当時の医療水準に照らして合理的な判断であれば、後に誤りが分かっても直ちに義務違反とはなりません。原画像、AIの指摘、判断理由、追加検査・経過観察の検討を記録しておくことが説明の助けになります。記録の不足は立証を難しくしますが、それだけで過失の有無が確定するものではありません。

AI問診の結果を、そのまま診療録に転記してよいですか。

患者の入力を問診記録として取り込むこと自体は問題ありませんが、AIが生成した「疑われる疾患」「緊急度」を医師の判断であるかのように転記してはいけません。医師の診察による所見と判断を、別に記載してください。第109講の記載主体の考え方と同じです。