Ein KI-Begleiter für Patientinnen und Patienten zwischen den Therapiesitzungen

Problem

Zwischen den Sitzungen sind Patientinnen und Patienten mit den Übungen und Fragen aus der Therapie allein. Die Praxis wollte sie in dieser Zeit unterstützen, ohne dass die Psychologinnen und Psychologen rund um die Uhr erreichbar sein müssen und ohne sensible Gesundheitsdaten zu gefährden.

Vorgehen

Wir haben eine App für das Handy entwickelt, in der sich Patientinnen und Patienten mit Avatar und Zugangscode anmelden, ohne Name, E-Mail oder Telefonnummer. Die Psychologinnen und Psychologen lesen die Gesprächsverläufe, geben der KI allgemeine und patientenbezogene Anweisungen und Dokumente mit und erstellen Berichte, in denen jedes Zitat Wort für Wort mit der Originalnachricht abgeglichen wird. Die Sicherheit beruht auf zwei unabhängigen Ebenen: Ein separater Risikoklassifikator prüft jede Nachricht, bevor die KI antwortet, und die Sicherheitsregeln stehen immer am Ende des Prompts. Die Leitlinien der Praxis und ein Psychoedukationshandbuch mit sieben Modulen, insgesamt rund 15’000 Wörter, werden mit Prompt-Caching vollständig geladen, ohne Vektordatenbank. Die Daten jeder Praxis sind mit Row-Level-Security in Postgres getrennt, Mitarbeitende melden sich mit Zwei-Faktor-Authentifizierung an, und das Sprachmodell läuft ohne Datenspeicherung beim Anbieter.

Ergebnis

Die App ging in einen kommerziellen Pilotbetrieb mit echten Patientinnen und Patienten. Die Fachpersonen sehen, wie es ihnen zwischen den Sitzungen geht, und legen fest, was die KI sagen darf und was nicht. Das Sicherheitsverhalten wird durch eine Testreihe mit 36 Sicherheitstestfällen abgedeckt.

Stack

• NestJS
• Prisma
• PostgreSQL mit Row-Level-Security
• React (Vite)
• Claude API