Ist ein KI-Arzt sicher? Was HIPAA wirklich abdeckt und wie Sie Ihre Daten schützen

Bevor Sie Ihre Symptome bei einem KI-Arzt eingeben, ist es berechtigt zu fragen, wer diese Daten sieht und ob HIPAA sie schützt. Laut HHS kann ein KI-Arzt für allgemeine Informationen sicher zu nutzen sein – doch die meisten Verbraucher-KI-Gesundheitsapps unterliegen nicht HIPAA, sodass das, was Ihre Daten tatsächlich schützt, die eigene Datenschutzrichtlinie des Unternehmens ist und nicht das Bundesgesetz.

Bevor Sie Symptome mit einem KI-Arzt teilen, lohnt es sich zu wissen, wer diese Daten tatsächlich sieht.

Ein KI-Arzt ist kein Ersatz für eine approbierte Ärztin oder einen approbierten Arzt und stellt keine Diagnose. Bei medizinischen Notfällen wählen Sie 911. Dieser Leitfaden behandelt den Datenschutz, nicht die Medizin – konsultieren Sie für Diagnose und Behandlung stets eine echte Ärztin oder einen echten Arzt.

Die kurze Antwort: In der Regel nicht von HIPAA abgedeckt – und warum das wichtig ist

HIPAA bindet „Covered Entities“ – Ärztinnen und Ärzte, Krankenhäuser, Krankenkassen und Abrechnungsstellen – sowie deren Geschäftspartner, also die Anbieter, die in ihrem Auftrag geschützte Gesundheitsdaten verarbeiten. Eine eigenständige Verbraucher-KI-Gesundheitsapp ist in der Regel keine davon, sodass sie gesetzlich überhaupt nicht verpflichtet ist, HIPAA zu befolgen. Das macht sie nicht automatisch unsicher – eine andere Frage als ein KI-Arzt gegenüber einem echten Arzt und worin sich die beiden in ihren Fähigkeiten unterscheiden – aber es bedeutet, dass Ihr Schutz vollständig von dem Unternehmen hinter der App abhängt und nicht von einem Bundesgesetz, sodass das Prüfen in Ihrer Verantwortung liegt und keine bloße Formsache ist.

Dieselbe KI kann innerhalb einer Klinik von HIPAA abgedeckt und als eigenständige App völlig ungeschützt sein.

Die Unterscheidung klingt technisch, doch sie verändert alles daran, was mit Ihren Daten geschieht. Eine von HIPAA abgedeckte Einrichtung (Covered Entity) ist rechtlich an die Privacy Rule und die Security Rule gebunden und muss bei fehlerhaftem Umgang mit geschützten Gesundheitsdaten (Protected Health Information, PHI) mit echten Strafen rechnen. Eine Verbraucher-App ohne diesen Status haftet nur ihren eigenen Nutzungsbedingungen gegenüber – und diese Bedingungen können jederzeit neu geschrieben werden.

Wann ein KI-Arzt von HIPAA abgedeckt IST – und wann nicht

Ob ein KI-Werkzeug unter HIPAA fällt, hängt weniger davon ab, was es tut, als davon, wer es eingesetzt hat und unter welcher Vereinbarung. Dasselbe zugrunde liegende Modell kann in einem Umfeld von HIPAA abgedeckt und in einem anderen völlig ungeschützt sein.

Abgedeckt: KI innerhalb approbierter Versorgung

Ein KI-Werkzeug ist in der Regel von HIPAA abgedeckt, wenn eine der folgenden Bedingungen zutrifft:

• Eine approbierte Ärztin oder ein approbierter Arzt bzw. ein Behandlungsteam nutzt das Werkzeug während Ihres Besuchs oder Ihrer Behandlung.
• Eine Telemedizin-Plattform läuft auf der Infrastruktur eines approbierten Leistungserbringers und verarbeitet Ihre Unterlagen.
• Der KI-Anbieter hat mit einer Covered Entity eine Vereinbarung über die Auftragsverarbeitung (Business Associate Agreement, BAA) unterzeichnet.

Ein BAA ist ein rechtsverbindlicher Vertrag, der die HIPAA-Verpflichtungen auf den Anbieter ausweitet. Ohne einen solchen besteht keine derartige Verpflichtung, ganz gleich, wie das Marketing sich liest. Sobald eine dieser Bedingungen zutrifft, werden die von Ihnen geteilten Daten als PHI behandelt und fallen unter die Privacy und Security Rules von HIPAA.

Nicht abgedeckt: eigenständige Verbraucher-Apps

Eine separate Wellness- oder Gesundheitsapp, die Sie herunterladen und eigenständig nutzen – bei der Sie Symptome direkt in ein Chatfenster eingeben – wird in der Regel als Verbraucher-Werkzeug außerhalb der Reichweite von HIPAA eingestuft. Das Unternehmen legt seine eigenen Regeln dafür fest, wie es das, was Sie ihm mitteilen, erhebt, speichert und weitergibt, und diese Regeln stehen in einer Datenschutzrichtlinie, die Sie lesen können, bevor Sie ein einziges Symptom eingeben.

Was HIPAA tatsächlich schützt – und was nicht

HIPAA baut auf drei Regeln auf, die zusammenwirken:

• Privacy Rule – regelt, wie geschützte Gesundheitsdaten (Protected Health Information, PHI) verwendet und offengelegt werden dürfen.
• Security Rule – verlangt administrative, physische und technische Schutzvorkehrungen für elektronische PHI.
• Breach Notification Rule – verlangt von Covered Entities, betroffene Personen nach einer Datenschutzverletzung zu benachrichtigen.

Jede Regel ist wichtig – doch jede von ihnen gilt nur für Covered Entities und deren Geschäftspartner.

Die drei Regeln von HIPAA binden nur Covered Entities – nicht die Verbraucher-App, in die Sie tippen.

Daten, die Sie freiwillig einer Verbraucher-App mitteilen, liegen standardmäßig außerhalb dieses gesamten Rahmens. Sie haben sie freiwillig eingegeben, das Unternehmen ist keine Covered Entity, und keine der drei obigen Regeln greift jemals. Genau diese Lücke ist der Grund, warum die FTC begonnen hat, einige Datenpraktiken von Gesundheitsapps stattdessen als eine Frage irreführender Geschäftspraktiken zu behandeln und dort einzuspringen, wo HIPAA nicht hinreicht.

Gesundheitsdaten, die häufig außerhalb des Schutzes von HIPAA liegen, umfassen:

• Gespräche mit Symptomcheckern und allgemeinen KI-Gesundheitsassistenten
• Daten von Fitness-Trackern und tragbaren Geräten
• Ergebnisse von Gentests direkt für Verbraucher (Direct-to-Consumer)
• Protokolle von Wellness-Apps zu Stimmung, Schlaf oder Ernährung

Die realen Datenschutzrisiken, die Sie kennen sollten

Außerhalb der Grenze von HIPAA gilt ein kleinerer und weniger vertrauter Satz von Schutzmaßnahmen – und die Lücken sind real genug, um von Bedeutung zu sein, bevor Sie etwas Sensibles teilen. Achten Sie insbesondere auf diese Warnzeichen:

• Eine Datenschutzrichtlinie, die sich das Recht vorbehält, „Daten mit Partnern zu teilen“, ohne diese zu benennen
• Keine sichtbare Möglichkeit, Ihr Konto oder Ihren Chatverlauf zu löschen
• Kein Hinweis auf Verschlüsselungsstandards irgendwo in der Dokumentation der App
• Marketingsprache, die von „HIPAA-konform“ spricht, ohne jemals ein unterzeichnetes BAA zu erwähnen

Ihre Daten können verkauft oder weitergegeben werden. Auf Bundesebene gibt es kein pauschales Gesetz, das den Verkauf von nicht unter HIPAA fallenden Gesundheitsdaten an Dritte oder Datenhändler verbietet. Die Datenschutzverletzung von 2023 und die anschließende Insolvenz des Gentest-Unternehmens 23andMe machten dieses Risiko greifbar: Die genetischen und Gesundheitsdaten von Millionen Nutzern wurden in einem unternehmensrechtlichen Verfahren zu einem Vermögenswert und nicht zu einem durch HIPAA geschützten Datensatz.

„Anonym“ ist nicht immer anonym. Unternehmen beschreiben weitergegebene oder verkaufte Daten routinemäßig als „de-identifiziert“, doch die De-Identifizierung ist häufiger umkehrbar, als man annimmt. Eine 2019 in Nature Communications veröffentlichte Studie ergab, dass bereits 15 demografische Merkmale – Dinge wie Alter, Geschlecht und Postleitzahl – ausreichten, um 99,98 % der Amerikaner in einem „anonymisierten“ Datensatz korrekt neu zu identifizieren – eine Schwelle, die die Datenweitergabevereinbarungen der meisten Apps ohne großen Aufwand überschreiten.

„De-identifiziert“ ist selten dauerhaft – 15 Datenpunkte können 99,98 % der Amerikaner neu identifizieren.

Unsere Ergebnisse legen nahe, dass selbst stark gesampelte anonymisierte Datensätze die modernen Standards für Anonymisierung, wie sie die GDPR vorgibt, wahrscheinlich nicht erfüllen, und stellen die technische und rechtliche Angemessenheit des „Release-and-Forget“-Modells der De-Identifizierung ernsthaft in Frage. — Rocher, Hendrickx & de Montjoye, Nature Communications

Kostenlose und öffentliche Chatbots trainieren möglicherweise mit Ihren Eingaben. Verbraucherorientierte KI-Gesundheitswerkzeuge, die auf Allzweckmodellen aufbauen, verfügen häufig über kein Business Associate Agreement, was bedeutet, dass alles, was in eine kostenlose Chatbot-Sitzung eingegeben wird – einschließlich vieler Dienste, die als kostenloser KI-Arzt online beworben werden – zur Verbesserung des zugrunde liegenden Modells verwendet werden kann. Die FTC hat Hersteller von Gesundheitsapps davor gewarnt, dass Datenweitergabepraktiken, die den eigenen Versprechen einer Datenschutzrichtlinie widersprechen, als irreführende Geschäftspraxis behandelt werden können – ein Unternehmen, das sich als „HIPAA-konform“ bewirbt, ohne ein unterzeichnetes BAA, stellt eine freiwillige Marketingaussage auf und keine rechtliche Tatsache.

Wie ein vertrauenswürdiger KI-Arzt aussieht

Nicht jede Verbraucher-KI-Gesundheitsapp geht mit Ihren Daten auf dieselbe Weise um, und eine Handvoll konkreter Signale trennt die vertrauenswürdigen von den übrigen.

Fünf konkrete Signale, die eine vertrauenswürdige KI-Gesundheitsapp von einer riskanten unterscheiden.

Eine datenschutzbewusste App sollte Daten im Ruhezustand mit AES-256 und während der Übertragung mit TLS (dem modernen Nachfolger von SSL) verschlüsseln, Multi-Faktor-Authentifizierung und rollenbasierte Zugriffskontrollen nutzen, um zu begrenzen, wer intern Ihre Informationen sehen kann, und Prüfprotokolle darüber führen, wer wann worauf zugegriffen hat. Sie sollte ihre Datenschutzrichtlinie in verständlicher Sprache statt in dichtem Juristendeutsch verfassen, Ihnen eine klare Möglichkeit geben, Ihre Daten einzusehen, herunterzuladen und zu löschen, und – selbst ohne eine gesetzliche HIPAA-Pflicht – ihre Praktiken freiwillig an HIPAA-ähnlichen Standards ausrichten und sich unabhängigen Sicherheitsaudits durch Dritte unterziehen. Einige fortgeschrittenere Plattformen nutzen zudem Techniken wie föderiertes Lernen oder differenzielle Privatsphäre, die darauf ausgelegt sind, aus Daten Erkenntnisse zu gewinnen, ohne Ihre rohen, identifizierbaren Datensätze jemals zu zentralisieren.

Ein kostenloser KI-Arzt, dem es sich zu vertrauen lohnt, sollte auf seiner eigenen Website in verständlichen Worten darlegen können, was genau er erhebt und wie Sie es löschen können.

Wie Sie sich schützen, wenn Sie einen KI-Arzt fragen

Sie müssen KI-Gesundheitswerkzeuge nicht meiden, um geschützt zu bleiben – Sie brauchen eine kurze, wiederholbare Gewohnheit, bevor Sie etwas Sensibles in eines von ihnen eingeben.

1. Lesen Sie die Datenschutzrichtlinie, bevor Sie etwas teilen, insbesondere den Abschnitt darüber, ob Daten verkauft oder an Dritte weitergegeben werden.
2. Teilen Sie die minimal notwendigen Informationen, um eine nützliche Antwort zu erhalten – Symptome und Kontext, nicht Ihre gesamte Krankengeschichte.
3. Vermeiden Sie das Hochladen vollständiger Krankenakten, Bilddateien oder Laborberichte, es sei denn, die App legt klar dar, wie diese Daten geschützt werden.
4. Aktivieren Sie alle verfügbaren Kontrollen zum Löschen von Chats oder Daten und nutzen Sie diese regelmäßig.
5. Aktivieren Sie die Multi-Faktor-Authentifizierung für das Konto, wenn die App sie anbietet.
6. Verwenden Sie ein Pseudonym oder lassen Sie identifizierende Angaben weg, wo das Werkzeug auch ohne Ihren echten Namen funktioniert.
7. Fragen Sie direkt, über den Support-Kanal oder die FAQ der App, ob Ihre Daten jemals verkauft werden – eine vage oder fehlende Antwort ist selbst eine nützliche Information.

Wenn Sie einen KI-Arzt fragen, behandeln Sie es wie ein schützenswertes Gespräch – mit derselben Vorsicht, die Sie jedem Konto entgegenbringen würden, das sensible Informationen über Sie enthält.

Eine kurze, wiederholbare Gewohnheit, die Ihre Daten jedes Mal schützt, wenn Sie einen KI-Arzt fragen.

FAQ

Ein KI-Arzt ist kein Ersatz für eine approbierte Ärztin oder einen approbierten Arzt und stellt keine Diagnose. Bei medizinischen Notfällen wählen Sie 911. Konsultieren Sie für Diagnose und Behandlung stets eine echte, approbierte Ärztin oder einen echten, approbierten Arzt, und schützen Sie Ihre Daten, indem Sie die Datenschutzrichtlinie lesen, bevor Sie etwas mit einer KI-Gesundheitsapp teilen.