電話の AI では、症状などを聞く範囲を予約に要る分に絞り、医療の相談はスタッフに引き継ぎ、予定の題名や通知に病名を書かない設計にします。
外部の AI の基盤に音声を渡すときは、委託先の監督(法第 25 条)と、国外で処理されるなら外国にある第三者への提供(法第 28 条)の扱いを、公式の資料に沿って医療機関の側で確かめます。
病院やクリニックの電話では、「熱があって」「先月から通っている」といった健康に関する話が自然に出てきます。こうした病歴や診療の情報は、個人情報保護法の「要配慮個人情報」に当たり、取得には原則として本人の同意が要るなど、ふつうの個人情報より厳しく扱われます。電話の AI を入れるときは、聞く範囲を予約に要る分に絞り、音声を処理する外部の事業者との関係(委託・国外での処理)を、公式の資料に沿って確かめることが出発点になります。
医療機関の受付については、上のガイダンスが、患者が問診票に病状を書いて受診を申し出ることは、要配慮個人情報を医療機関に取得されることを前提としていると考えられるので、医療機関が本人から書面や口頭で適正に直接取得する場合は、その行為をもって本人の同意があったものと解される、という考え方を示しています。電話の AI がこの考え方の範囲に入るか、どこまで聞いてよいかは、医療機関が原文に照らして判断することになります。
委託先の監督
医療機関が個人データの取り扱いを外部に委託するときは、委託先が安全に扱うよう必要かつ適切な監督をしなければなりません(法第 25 条)。ガイダンスは、個人情報を適切に扱う事業者を選ぶこと、契約に取り扱いの内容(委託が終わったあとを含む)を盛り込むこと、再委託の扱いを決めることなどを挙げています。電話の AI では、医療機関 → 電話の仕組みを提供する事業者 → 音声 AI の基盤 → 認識や生成の API、と委託が何段にもなりうるので、どこまで情報が渡るかを図にしておくと確かめやすくなります。
国外で処理されるとき
個人データを外国にある第三者に提供するときは、一定の場合を除き、あらかじめ本人の同意が要ります(法第 28 条、外国にある第三者への提供編のガイドライン)。クラウドの利用がこれに当たるかについて、個人情報保護委員会のQ&A の Q7-53 は、クラウドの事業者が個人データを取り扱うこととなっているかどうかが判断の基準になると説明し、Q12-3 は、外国のサーバーに保存する場合でも、その事業者が個人データを取り扱わないこととなっていれば外国にある第三者への提供には当たらないとしています。音声 AI は会話の中身を認識し、返事を作るために使うので、使う基盤とその先の API がどの国で、どう扱うかを確かめる必要があります。