Sichere KI in der Psychiatrie · Leitfaden für die Einführung
KI-Ambient-Scribes in der Psychiatrie: der neue klinische Arbeitsablauf
Vier Empfehlungen zu klinischem Arbeitsablauf und Governance, die Behandlungsqualität, Patientensicherheit und klinische Kompetenz schützen, mit praktischen Werkzeugen für die Umsetzung.
Das Problem
Ambient Scribes sparen Zeit. In der Psychiatrie war das Schreiben des Berichts jedoch immer Teil des klinischen Denkens, und wer den Bericht einer Maschine überlässt, schafft Probleme auf zwei Ebenen.
Die erste betrifft die klinische Kompetenz. Der Scribe hört nur zu, kann den psychopathologischen Befund also nur erschliessen, und ein flüssiger Entwurf verleitet zu einer schnellen Unterschrift. Weiterzubildende, die vom ersten Tag an mit KI dokumentieren, bauen das Denken, das früher durch das Schreiben geübt wurde, womöglich nie auf. Die medizinische Ausbildungsforschung beschreibt diese Risiken als Deskilling, Never-Skilling und Mis-Skilling [1, 3, 5, 6, 10].
Die zweite betrifft das Werkzeug selbst. Schutzmechanismen gegen einen unbeabsichtigten Einsatz fehlen oft, etwa wenn der Scribe die Grenze vom Dokumentationswerkzeug zur Entscheidungsunterstützung überschreitet, indem er Diagnosen, Fallformulierungen oder Behandlungspläne erzeugt.
Belastbare Evidenz zu den Risiken von Deskilling, Never-Skilling und Mis-Skilling ist noch dünn und stammt weder aus Studien zu Scribes noch aus der Psychiatrie. Die vier Empfehlungen unten gehen der Frage nach, die daraus folgt: Wie können psychiatrische Dienste KI-Ambient-Scribes sicher einführen und dabei Behandlungsqualität, Patientensicherheit und klinische Kompetenz schützen? Sie betreffen den klinischen Arbeitsablauf und die Governance; der Datenschutz bräuchte einen eigenen Artikel.
EMPFEHLUNG 1
Das klinische Urteil muss vor dem KI-Entwurf stehen
Der wirksamste Schutz ist die Reihenfolge der Arbeit, und das Werkzeug selbst sollte sie durchsetzen. Die eigenen Beobachtungen und das Urteil der Klinikerin oder des Klinikers müssen vorliegen, bevor der KI-Entwurf erstellt wird [8, 9, 12, 14].
Der neue Arbeitsablauf
Der Scribe hört zu
Der Scribe auf dem Tisch zeichnet das Gespräch und das Diktat auf. Die Klinikerin oder der Kliniker macht sich nebenbei Notizen.
Die Schritte 2 und 3 sind im Werkzeug fest eingebaut. Der Scribe wartet mit dem Entwurf auf das Diktat der Klinikerin oder des Klinikers, sodass die Prüfung nie in einem vom Werkzeug gesetzten Rahmen stattfindet.
Was das Werkzeug leisten muss
Vier Regeln für den Scribe
Mit dem Anbieter zu vereinbaren und vor dem Start im Prompt und im Produkt umzusetzen.
1
Auf die Klinikerin oder den Kliniker wartenNach dem Gespräch pausiert der Scribe. Er erstellt den Entwurf erst, wenn Beobachtungen, Fallformulierung und Procedere diktiert sind.
2
Nie Psychopathologie erschliessenDas Werkzeug zieht aus dem Gespräch keine Schlüsse über den psychischen Zustand. Fehlende Befunde erscheinen als Platzhalter mit der Markierung «fehlt» oder «nicht erhoben».
3
Nur dokumentieren, was gesagt wurdeAusdrückliche Aussagen dürfen festgehalten werden. Sagt die Patientin oder der Patient, sie oder er wache um vier Uhr auf und könne nicht mehr einschlafen, darf der Bericht frühmorgendliches Erwachen festhalten, aber keinen vollständigen psychopathologischen Befund.
4
Nie allein Fallformulierung oder Procedere schreibenBeurteilung, Fallformulierung und Procedere stammen ausschliesslich aus dem Diktat der Klinikerin oder des Klinikers.
Schritte zur Umsetzung
Bevor die erste Person startet
- Alle Nutzer:innen in den sechs Schritten schulen, auch erfahrene Fachärzt:innen. Der Arbeitsablauf ist der Schutzmechanismus, deshalb darf er nicht freiwillig sein.
- Mit dem Anbieter klären, dass der Scribe nach dem Gespräch pausiert und die vier Regeln oben einhält.
EMPFEHLUNG 2
Die Prüfung des Entwurfs folgt einem System
Einen flüssigen Entwurf zu prüfen ist eine eigene Fähigkeit: Kliniker:innen sollten zuerst schreiben lernen, dann prüfen lernen und erst danach KI im Alltag nutzen [11].
Der PDSQI-9 [4] ist ein validiertes Instrument zur Bewertung von KI-Zusammenfassungen der Krankenakte anhand einer schriftlichen Quelle. Ein Ambient Scribe hat keine schriftliche Quelle: Die Referenz ist die Konsultation selbst. Ich habe das Instrument deshalb für die Psychiatrie angepasst. Die Klinikerin oder der Kliniker, die oder der die Konsultation geführt hat, prüft den Bericht anhand der Erinnerung an das Gespräch.
PDSQI-8 · acht Kriterien
- 1 · KorrektIst der Bericht inhaltlich korrekt?
- 2 · VollständigIst der Bericht vollständig, ohne Auslassungen?
- 3 · NützlichIst der Bericht nützlich?
- 4 · GegliedertIst der Bericht strukturiert?
- 5 · VerständlichIst der Bericht verständlich und sprachlich klar?
- 6 · PrägnantIst der Bericht prägnant und sprachlich ökonomisch?
- 7 · SynthetisiertIst der Bericht abstrahierend zusammengefasst?
- 8 · Stigmatisierende SpracheLiegt im Bericht stigmatisierende Sprache vor?
Die Kriterien 1–7 werden von 1 (überhaupt nicht) bis 5 (voll und ganz) bewertet, Kriterium 8 mit Ja oder Nein. Den vollständigen adaptierten PDSQI-8 mit Erklärungen, Beispielen und Bewertungsskala erhalten Sie auf Anfrage. Er ist meine Arbeitsfassung und selbst nicht validiert; in meiner Studie wird er als deskriptiver Endpunkt erhoben.
EMPFEHLUNG 3
Scribe-Zugang für Weiterzubildende wird verdient, nicht vergeben
Der Zugang hängt von nachgewiesener Kompetenz ab, nicht von einem Datum. Neue Assistenzärzt:innen schreiben ihre Berichte selbst, bis eine Supervisorin oder ein Supervisor bestätigt, dass sie es können. Andere sind mit anderen Schwellen zur gleichen Idee gekommen, keine davon datenbasiert [2, 6, 7].
Stufe 0
Neue Assistenzärzt:innen und Psycholog:innen in Weiterbildung
In der Regel das erste Weiterbildungsjahr
Scribe: nicht für die Primärdokumentation
Selbst geschrieben: der gesamte Bericht
Beurteilung
Eine Supervisorin oder ein Supervisor bestätigt, dass selbst geschriebene Eintrittsberichte gut genug sind
Instrument: PDQI-9 Psych
Stufe 1
Fortgeschrittene Weiterzubildende und Fachärzt:innen
Scribe: volle Unterstützung beim Entwurf
Selbst geschrieben: die klinische Ebene jedes Berichts
Aus meiner Forschung · PDQI-9 Psych
Für die Beurteilung habe ich den validierten PDQI-9 [13] an psychiatrische Eintrittsberichte angepasst, mit psychiatrischen Ankern und vier sicherheitskritischen Elementen.
Schritte zur Umsetzung
Zugang nach Kompetenz freigeben
- Die Stufe jeder und jedes Weiterzubildenden erfassen und den Werkzeugzugang entsprechend einrichten.
- Supervisor:innen entscheiden lassen, wann der Zugang freigegeben wird, gestützt auf ihre Bewertung selbst geschriebener Eintrittsberichte.
EMPFEHLUNG 4
Supervision zielt auf das klinische Denken, nicht auf den Bericht
Sobald ein Scribe einen Teil des Berichts schreibt, zeigt der Bericht nicht mehr zuverlässig, was eine Weiterzubildende oder ein Weiterzubildender denkt [8]. Supervisor:innen geben direkt Rückmeldung zu Beobachtungen und Überlegungen. Vier Formate wirken zusammen.
1
Teaching am Krankenbett
Eine Supervisorin oder ein Supervisor beobachtet das Gespräch. In der Schweiz verlangt das SIWF bereits mindestens vier arbeitsplatzbasierte Assessments (Mini-CEX oder DOPS) pro Jahr.
2
Supervisor:innen schulen
Supervisor:innen lernen den Arbeitsablauf, typische Scribe-Fehler und den PDSQI-8 selbst kennen, damit sie unterscheiden können, was eine Weiterzubildende oder ein Weiterzubildender gedacht und was die KI erzeugt hat.
3
KI-generiertes Feedback zur Gesprächsführung nutzen
Ein passend instruiertes KI-Werkzeug liest das Transkript und zeigt, welche Fragen gestellt wurden und welche fehlten, etwa die Nachfragen nach einem positiven Suizid-Screening. Dafür braucht es eine dokumentierte Einwilligung der oder des Weiterzubildenden, mit einer echten Möglichkeit, abzulehnen.
4
Mündliche Fallvorstellungen mit dem Assessment of Reasoning Tool
Syndrom, Leitsymptome, Differenzialdiagnosen, Risiko und Procedere, strukturiert bewertet.
Für mündliche Fallvorstellungen bewertet das Assessment of Reasoning Tool fünf Bereiche des klinischen Denkens, von der Datenerhebung bis zur Metakognition [15].
Organisationen, die Ambient Scribes in psychiatrischen Diensten oder in der psychischen Gesundheitsversorgung einführen, sind herzlich eingeladen, Kontakt aufzunehmen, um Erfahrungen zu Schutzmechanismen und Umsetzung auszutauschen.
Literatur
- Abdulnour RE, Gin B, Boscardin CK. Educational strategies for clinical supervision of artificial intelligence use. N Engl J Med. 2025;393(8):786–797. doi:10.1056/NEJMra2503232
- Abernethy J et al. Integrating AI scribes into medical education: guardrails for preserving clinical reasoning. J Gen Intern Med. 2026;41(9):2598–2602. doi:10.1007/s11606-025-10149-w
- Budzyń K et al. Endoscopist deskilling risk after exposure to artificial intelligence in colonoscopy: a multicentre, observational study. Lancet Gastroenterol Hepatol. 2025;10(10):896–903. doi:10.1016/S2468-1253(25)00133-5
- Croxford E et al. Development and validation of the provider documentation summarization quality instrument for large language models. J Am Med Inform Assoc. 2025;32(6):1050–1060. doi:10.1093/jamia/ocaf068
- Heudel PE et al. Artificial intelligence in medicine: a scoping review of the risk of deskilling and loss of expertise among physicians. ESMO Real World Data Digit Oncol. 2026;12:100693. doi:10.1016/j.esmorw.2026.100693
- Ke Y et al. AI-induced never-skilling in medical education. Nat Med. 2026;32(6):1997–2006. doi:10.1038/s41591-026-04438-y
- Khan M et al. Artificial intelligence in psychiatric graduate medical education. Acad Psychiatry. Published online July 28, 2026. doi:10.1007/s40596-026-02406-9
- McGaughey S et al. When the scribe does the reasoning: ambient artificial intelligence, inference impersonation, and the development of trainees’ clinical judgment. Acad Med. Published online September 15, 2026. doi:10.1093/acamed/wvag287
- Rucker P, Miller M, Armstrong D. How Cigna saves millions by having its doctors reject claims without reading them. ProPublica and The Capitol Forum. March 25, 2023. propublica.org
- Qazi IA et al. Automation bias in large language model–assisted diagnostic reasoning among physicians trained in AI literacy — a randomized clinical trial. NEJM AI. 2026;3(5). doi:10.1056/AIoa2501001
- Raka Y, Van Deusen R, Wiberg H. From authoring to editing: a competency framework for trainee use of ambient AI clinical documentation. npj Digit Med. 2026;9:785. doi:10.1038/s41746-026-03351-5
- Roth AS, Ayers NB. AI scribe functions in psychiatric practice: clinical oversight, consent, and regulation. Lancet Psychiatry. 2026;13(9):804. doi:10.1016/S2215-0366(26)00201-4
- Stetson PD et al. Assessing electronic note quality using the Physician Documentation Quality Instrument (PDQI-9). Appl Clin Inform. 2012;3(2):164–174. doi:10.4338/ACI-2011-11-RA-0070
- Talwalkar JS et al. Impact of an ambient AI scribe on medical student objective structured clinical examination notes: nonrandomized clinical trial. JMIR Med Educ. 2026;12:e88264. doi:10.2196/88264
- Thammasitboon S et al. The Assessment of Reasoning Tool (ART): structuring the conversation between teachers and learners. Diagnosis. 2018;5(4):197–203. doi:10.1515/dx-2018-0052
Die Ansichten sind meine eigenen und geben nicht die Position meines Arbeitgebers wieder.