AIドクターは安全か？HIPAAが本当にカバーする範囲と、あなたのデータを守る方法
症状をAIドクターに打ち込む前に、そのデータを誰が見るのか、そしてHIPAAがそれを保護してくれるのかを問うのは当然のことです。HHSによれば、AIドクターは一般的な情報を得る用途では安全に使えます。しかし、多くの消費者向けAIヘルスアプリはHIPAAの対象外であり、実際にあなたのデータを守っているのは連邦法ではなく、その企業自身のプライバシーポリシーなのです。
AIドクターは有資格の医師の代わりにはならず、診断も行いません。医療上の緊急時には911に電話してください。このガイドが扱うのは医療ではなくプライバシーです。診断と治療については必ず本物の医師に相談してください。
手短な答え：たいていはHIPAAの対象外――なぜそれが重要なのか
HIPAAは「対象事業体（covered entities）」――医師、病院、健康保険プラン、クリアリングハウス――と、それらに代わって保護対象保健情報を扱うベンダーである業務提携先（business associates）を拘束します。単独で提供される消費者向けAIヘルスアプリは通常そのいずれにも該当しないため、そもそもHIPAAに従う法的義務がありません。だからといって自動的に安全でないというわけではありません――これはAIドクターと本物の医師の比較、そして両者が能力の面でどこで違うのかとは別の問題です――しかしそれは、あなたの保護が連邦法ではなく、アプリの背後にいる企業だけに全面的に依存することを意味します。ですから確認するのはあなたの責任であり、形式的な手続きではありません。
この区別は技術的に聞こえますが、あなたのデータに何が起こるかをすべて左右します。HIPAAの対象事業体は、プライバシー規則とセキュリティ規則によって法的に拘束され、保護対象保健情報（PHI）の不適切な取り扱いに対して現実の罰則を負います。そうした地位を持たない消費者向けアプリは、自らの利用規約にのみ責任を負います――そしてその規約はいつでも書き換えられ得るのです。
AIドクターがHIPAAの対象となるとき――そして対象とならないとき
あるAIツールがHIPAAの対象になるかどうかは、それが何をするかよりも、誰がどのような契約のもとでそれを導入したかによって決まります。同じ基盤モデルでも、ある環境ではHIPAAの対象となり、別の環境では完全に対象外となり得ます。
対象となる場合：有資格の医療の中で使われるAI
AIツールは、次のいずれかが当てはまる場合、通常HIPAAの対象となります。
- 有資格の医師や医療チームが、あなたの受診や治療の際にそのツールを使用する。
- 遠隔医療プラットフォームが有資格の提供者のインフラ上で稼働し、あなたの記録を扱う。
- AIベンダーが対象事業体と業務提携契約（BAA）を締結している。
BAAは、HIPAAの義務をベンダーにまで拡張する法的拘束力を持つ契約です。これがなければ、マーケティングの文言がどうであれ、そのような義務は存在しません。これらの条件のいずれかが当てはまると、あなたが共有するデータはPHIとして扱われ、HIPAAのプライバシー規則とセキュリティ規則の対象となります。
対象とならない場合：単独の消費者向けアプリ
自分でダウンロードして単独で使う別のウェルネスアプリやヘルスアプリ――チャット画面に症状を直接打ち込むようなもの――は、通常、HIPAAの範囲外にある消費者向けツールに分類されます。企業は、あなたが伝えた内容をどのように収集・保存・共有するかについて独自のルールを定めており、それらのルールは、症状を一つでも打ち込む前に読めるプライバシーポリシーの中に存在します。
| アプリの種類 | 典型的なHIPAA上の位置づけ | あなたのデータを規律するもの |
|---|---|---|
| 受診中に医師が使うAI | 対象 | HIPAAのプライバシー規則・セキュリティ規則 |
| 有資格の提供者による遠隔医療プラットフォーム | 対象（BAA経由） | HIPAA＋BAA契約 |
| 単独の消費者向けAIヘルスアプリ | 通常は対象外 | そのアプリ独自のプライバシーポリシー |
| 無料の公開チャットボット（汎用） | 対象外 | 標準的な消費者向け利用規約 |
HIPAAが実際に保護するもの――そして保護しないもの
HIPAAは、連携して機能する3つの規則から成り立っています。
- プライバシー規則――保護対象保健情報（PHI）をどのように利用・開示できるかを規律します。
- セキュリティ規則――電子的PHIに対する管理的・物理的・技術的な安全対策を求めます。
- 侵害通知規則――データ侵害が起きた後、影響を受けた個人に通知することを対象事業体に義務づけます。
いずれの規則も重要です――しかしそのどれもが、対象事業体とその業務提携先にのみ適用されます。
消費者向けアプリに自ら差し出したデータは、初期状態ではこの枠組み全体の外側に置かれます。あなたが自由に入力し、その企業は対象事業体ではなく、上記3つの規則のいずれも一切発動しません。まさにこの隙間があるからこそ、FTCはHIPAAが届かない部分を補うべく、一部のヘルスアプリのデータ取り扱い慣行を「欺瞞的取引行為」の問題として扱い始めたのです。
一般にHIPAAの保護の外側に置かれる保健データには、次のようなものがあります。
- 症状チェッカーや汎用AIヘルスアシスタントとの会話
- フィットネストラッカーやウェアラブル機器のデータ
- 消費者向け（DTC）遺伝子検査の結果
- ウェルネスアプリの気分・睡眠・栄養の記録
知っておくべき本当のプライバシーリスク
HIPAAの境界の外側では、より小さく、なじみの薄い一連の保護しか適用されません――そしてその隙間は、機微な情報を共有する前に注意を払うべきほど現実的なものです。特に次の警告サインに気をつけてください。
- 相手を明示しないまま「パートナーとデータを共有する」権利を留保しているプライバシーポリシー
- アカウントやチャット履歴を削除できる選択肢がどこにも見当たらない
- アプリのドキュメントのどこにも暗号化の基準への言及がない
- 署名されたBAAに一切触れずに「HIPAA準拠」とうたうマーケティング表現
あなたのデータは売却または共有され得ます。連邦レベルでは、HIPAA対象外の保健データを第三者やデータブローカーに売却することを一律に禁じる法律は存在しません。2023年に起きた遺伝子検査会社23andMeの情報侵害と、その後の破綻は、このリスクを具体的なものにしました。数百万人の利用者の遺伝情報や保健データが、HIPAAによって守られる記録ではなく、企業の手続きの中の資産と化したのです。
「匿名」が必ずしも匿名とは限りません。企業は共有・売却されるデータを「非識別化（de-identified）」されていると説明するのが常ですが、非識別化は人々が思う以上にしばしば元に戻せます。Nature Communicationsに掲載された2019年の研究によれば、年齢・性別・郵便番号といったわずか15の人口統計学的属性だけで、「匿名化された」データセットの中のアメリカ人の99.98%を正しく再識別するのに十分でした――これは、たいていのアプリのデータ共有契約がさほどの労力もなく越えてしまう水準です。
私たちの結果は、大幅にサンプリングされた匿名化データセットであっても、GDPRが定める現代の匿名化基準を満たす可能性は低く、非識別化における「公開して忘れる（release-and-forget）」モデルの技術的・法的な妥当性を大きく揺るがすものであることを示唆している。
Rocher, Hendrickx & de Montjoye, Nature Communications
無料・公開のチャットボットは、あなたの入力で学習することがあります。汎用モデルの上に構築された消費者向けAIヘルスツールは、業務提携契約（BAA）を欠いていることが多く、これは無料のチャットボットセッションに入力した内容――無料のオンラインAIドクターとして売り込まれている多くのサービスを含みます――が、基盤モデルの改善に使われ得ることを意味します。FTCは、プライバシーポリシー自身の約束と矛盾するデータ共有の慣行が欺瞞的取引行為として扱われ得ると、ヘルスアプリの提供者に警告してきました――署名されたBAAなしに自らを「HIPAA準拠」と宣伝する企業は、法的事実を述べているのではなく、任意のマーケティング上の主張をしているのです。
信頼できるAIドクターとはどのようなものか
すべての消費者向けAIヘルスアプリがあなたのデータを同じように扱うわけではなく、いくつかの具体的なサインが、信頼できるものとそうでないものを見分けます。
プライバシーに配慮したアプリは、保存時にはAES-256で、転送時にはTLS（SSLの現代版の後継）でデータを暗号化し、多要素認証と役割ベースのアクセス制御を用いて社内で誰があなたの情報を見られるかを制限し、誰が何にいつアクセスしたかの監査証跡を保持すべきです。プライバシーポリシーは難解な法律用語ではなく平易な言葉で書き、あなたのデータを閲覧・ダウンロード・削除できる明確な手段を提供し――たとえHIPAAの法的義務がなくても――自主的にその慣行をHIPAA相当の基準に合わせ、独立した第三者によるセキュリティ監査を受けるべきです。より高度なプラットフォームの中には、連合学習（federated learning）や差分プライバシー（differential privacy）のような技術を用いるものもあり、これらはあなたの生の識別可能な記録を一切一元化することなくデータから知見を引き出すよう設計されています。
| 確認すべきサイン | なぜ重要か |
|---|---|
| 保存時のAES-256暗号化、転送時のTLS | 傍受・窃取されてもデータが読み取れない |
| 多要素認証（MFA） | パスワードが漏れてもアカウント乗っ取りを抑える |
| 独立した第三者によるセキュリティ監査 | 主張を鵜呑みにせず検証する |
| 明確な削除・エクスポートの制御 | 約束だけでなく実際の出口を与える |
| 平易な言葉のプライバシーポリシー | 企業がデータ共有の条件を隠していないことを示す |
信頼に値する無料のAIドクターは、自らのサイト上で平易な言葉で、何を収集し、あなたがそれをどう削除できるかを正確に示せるはずです。
AIドクターに質問するとき、自分を守る方法
身を守るためにAIヘルスツールを避ける必要はありません――機微な情報を入力する前に、短く繰り返せる習慣を持てばよいのです。
- 何かを共有する前にプライバシーポリシーを読みましょう。特に、データが第三者に売却・共有されるかどうかについての項目を確認します。
- 役立つ回答を得るのに必要な最小限の情報だけを共有しましょう――症状と背景であって、あなたの全病歴ではありません。
- そのデータがどのように保護されるかをアプリが明確に述べていない限り、完全な医療記録・画像ファイル・検査報告書をアップロードするのは避けましょう。
- 利用可能なチャット削除やデータ削除の制御があればオンにし、定期的に使いましょう。
- アプリが提供している場合は、アカウントで多要素認証を有効にしましょう。
- ツールが本名なしでも機能するなら、仮名を使うか、身元が分かる詳細を省きましょう。
- アプリのサポート窓口やFAQで、あなたのデータが売却されることがあるかを直接尋ねましょう――曖昧な答えや答えがないこと自体が、それ自体で有益な情報です。
AIドクターに質問するときは、それを守る価値のある会話として扱いましょう――あなたに関する機微な情報を保持するどんなアカウントに対しても払うのと同じ注意を、そこに向けてください。
よくある質問
AIドクターは有資格の医師の代わりにはならず、診断も行いません。医療上の緊急時には911に電話してください。診断と治療については必ず本物の有資格の医師に相談し、AIヘルスアプリに何かを共有する前にプライバシーポリシーを読んで、あなたのデータを守ってください。