Teil 3: Marktgröße, Problemfelder und Überlegungen zur Webanwendungsentwicklung

Teil 3 behandelt die Marktgröße, Geschäftsmodelle, die wichtigsten Problemfelder sowie Überlegungen zur Entwicklung und zum Betrieb von Webanwendungen.

Marktgröße und Geschäftsmodell

Der US-amerikanische Markt für Gesundheits-KI bewegt sich mehreren Schätzungen zufolge auf eine Größenordnung von mehreren zehn Milliarden Dollar zu und weist mit etwa 30–40 % jährlich ein hohes Wachstum auf
(die Zahlen variieren je nach Quelle, aktuelle Werte sind zu prüfen). Die Erlösmodelle setzen sich im Großen und Ganzen aus folgenden Komponenten zusammen:
- Abonnement (pro medizinischer Einrichtung bzw. pro Arzt)
- Nutzungsabhängige Abrechnung (Anzahl der Verarbeitungsvorgänge, API-Aufrufe)
- Vergütung über Abrechnungsziffern bzw. erfolgsabhängig (der größte Diskussionspunkt für die Verbreitung)

Begriffserklärung | Kostenerstattung (Reimbursement): Das System, nach dem medizinische Leistungen von der Versicherung bezahlt werden. Ob eine KI „von der Versicherung abgedeckt“ ist, stellt für Krankenhäuser den größten Anreiz zur Einführung dar.

Wesentliche Problemfelder

• Sicherheit und Halluzinationen: Fehlinformationen wirken sich unmittelbar auf die Patientensicherheit aus.
• Verantwortlichkeit: Behandlungsfehler, Produkthaftung – wer trägt die endgültige Entscheidung?
• Bias und Fairness: Ungerechtigkeit durch ungleich verteilte Trainingsdaten.
• Datenschutz: HIPAA, Umgang mit PHI und Risiko der Re-Identifizierung.
• Nachweis der klinischen Wirksamkeit: Mangel an RCTs, prospektiven Bewertungen und Implementierungsstudien.
• Unsicherheit bei der Erstattung: Die Hürde der Monetarisierung.

Begriffserklärung | Halluzination: Das Phänomen, bei dem ein LLM plausibel erscheinende, aber falsche Inhalte generiert. In der Medizin kann dies fatale Folgen haben und wird daher durch Quellenangaben und menschliche Überprüfung (Human-in-the-Loop) eingedämmt.

Überlegungen zur Entwicklung und zum Betrieb von Webanwendungen

Medizinische KI-Webdienste sind keine „gewöhnlichen Webanwendungen“. Zentrale Aspekte beim Entwurf:
- HIPAA-konforme Architektur: Abschluss eines BAA, Verschlüsselung bei Speicherung/Übertragung, Audit-Logs, geringste Rechte, Datenstandort.
- Trennung von PHI: Maskierung bzw. Nicht-Übermittlung von PHI in Logs, Prompts und bei der Übertragung an das LLM (analog zu [[big-files-local-store]] werden vertrauliche Daten getrennt verwaltet).
- Sicheres LLM-Design: Guardrails, RAG mit Quellenangabe, Human-in-the-Loop, Verweigerungsdesign.
- EHR/FHIR-Integration: SMART on FHIR, Interoperabilität, Sicherheit beim Zurückschreiben.
- Beobachtbarkeit und Änderungsmanagement: Modellversionsverwaltung, Evaluierungspipelines, Konformität mit dem Predetermined Change Control Plan (PCCP) der FDA.
- Latenz/Streaming, Kostenmanagement und Fallback im Störungsfall.

Begriffserklärung | PHI / BAA: PHI = Protected Health Information (geschützte Gesundheitsinformationen). BAA = Business Associate Agreement (Geschäftspartnervereinbarung). Gemäß HIPAA sind Krankenhäuser verpflichtet, mit externen Anbietern (Cloud, KI), die PHI verarbeiten, ein BAA abzuschließen.

Begriffserklärung | RAG: Retrieval-Augmented Generation. Ein Verfahren, bei dem vor der Generierung einer Antwort Informationen aus einer zuverlässigen Wissensdatenbank abgerufen werden. Es lässt sich gut mit Quellenangaben kombinieren und hilft, Halluzinationen zu vermeiden.

Schlüsselpunkte: Die Entwicklung von medizinischen KI-Webanwendungen ist eine Kette von Designentscheidungen, die sich nicht nur auf die „Produktqualität“, sondern auch auf Regulierung, Haftung und geistiges Eigentum auswirken. Die nachträgliche Implementierung von HIPAA-Konformität, PHI-Trennung und Quellenangaben ist extrem kostspielig – es ist daher unerlässlich, diese von Anfang an in das Design zu integrieren.

Im nächsten Teil geht es um Strategien zu geistigem Eigentum und Lizenzierung.