Essay · Ambient Scribes
Wann wird ein medizinischer KI-Scribe zum Entscheidungstool?
Dass ein Scribe keine Beurteilung schreiben darf, sollte unbestritten sein. Schwieriger ist der hilfreiche Scribe, der Ihnen sagt, was Sie vergessen haben.
Die offensichtliche Grenze
Ein Scribe, der Psychopathologie ableitet, die Formulierung schreibt oder das Procedere vorschlägt, hat seine Rolle verlassen. Roth und Ayers zeigen, wie ein Scribe diese unterschiedlichen Operationen in einer Notiz bündelt und ihnen allen dieselbe dokumentarische Autorität verleiht1. Andere haben dieselbe Frage für die Allgemeinmedizin gestellt2, und ich habe einen Arbeitsablauf beschrieben, der die klinische Ebene bei den Kliniker:innen belässt3. Hier möchte ich eine weniger offensichtliche Grenze betrachten.
Der Scribe, der Ihnen sagt, was Sie vergessen haben
Viele Scribes können auch auf Fehlendes hinweisen: «Suizidalität nicht erfragt», «Substanzkonsum nicht dokumentiert». NHS England führt solche Hinweise als gewöhnliche Funktion von Scribes auf4. Das wirkt harmlos: Jeder Satz stammt weiterhin aus dem Gespräch, und der Hinweis fühlt sich wie Qualitätssicherung an.
Doch «nicht erfragt» ergibt nur Sinn, wenn es eine Liste dessen gibt, was erfragt werden soll. Irgendwo im Hintergrund ist im Tool eine Norm für ein vollständiges psychiatrisches Gespräch hinterlegt. Jeder Hinweis ist ein Vergleich dieses Gesprächs mit dieser Norm, und jedes Schweigen ebenso.
Ist das Entscheidungsunterstützung? Im Sinn der Medizininformatik: ja. Entscheidungsunterstützung heisst, klinisches Wissen im Moment der Behandlung auf eine bestimmte Patientin oder einen bestimmten Patienten anzuwenden5, und eine Norm dessen, was erfragt werden muss, ist klinisches Wissen. Die klassische Taxonomie zählt sogar Dokumentationsvorlagen dazu6. Auch ein Eintrittsformular aus Papier enthält eine Norm, aber es zeigt sie auf dem Blatt, und die Klinikerin entscheidet, ob sie erfüllt ist. Die Norm des Scribes ist verborgen, niemand weiss genau, von wem sie stammt, und der Scribe entscheidet selbst, ob sie erfüllt ist.
Wenn Schweigen zum Signal wird
Das grössere Risiko ist nicht der Hinweis, sondern sein Fehlen. Sobald Kliniker:innen gelernt haben, dass das Tool auf Lücken hinweist, bedeutet kein Hinweis plötzlich «vollständig». Die Automationsforschung nennt das einen Unterlassungsfehler: Menschen handeln nicht, wenn das Hilfsmittel sie nicht dazu auffordert7.
Und erwähnt ist nicht abgeklärt. Ein Patient sagt einmal: «Manchmal denke ich, alle wären ohne mich besser dran.» Die Klinikerin geht nicht darauf ein. Das Tool registriert, dass Suizidalität zur Sprache kam, und gibt keinen Hinweis. Die Notiz wirkt nun vollständiger, als das Gespräch war.
Am stärksten betrifft das Assistenzärzt:innen. Eine Assistenzärztin in ihren ersten Wochen hat noch keine eigene Checkliste. Die Liste des Tools wird zu ihrer Checkliste, und das Schweigen des Tools wird zu ihrer Definition eines vollständigen Gesprächs. Je unerfahrener die Klinikerin, desto mehr entscheidet der Scribe, und desto weniger fällt es auf.
Zwei Arten von Hinweisen
Nicht jeder Hinweis überschreitet die Grenze. Roth und Ayers empfehlen, dass Tools Befundfelder markieren, die das Audio nicht belegen kann1. Das ist ein Hinweis auf die Grenzen des Tools selbst: ehrlich, und noch Dokumentation. «Suizidalität nicht erfragt» ist ein Hinweis darauf, was die Klinikerin nicht getan hat: normativ, und damit Entscheidungsunterstützung.
Beide haben ihren Platz. Ich habe KI-Feedback zu verpassten Fragen für Assistenzärzt:innen empfohlen3, aber als Lehrmittel in der Supervision, nicht als stillen Teil der klinischen Notiz.
Drei Fragen, um die Grenze zu ziehen
Für alle, die solche Tools entwickeln, einkaufen oder erforschen:
- Quelle: Lässt sich jede Aussage auf etwas zurückführen, das im Gespräch gesagt wurde?
- Standard: Vergleicht das Tool das Gespräch mit einer Norm dessen, was hätte geschehen sollen?
- Verlass: Würde die Klinikerin anders handeln, wenn das Tool schweigen würde?
Ein Tool, das an einer dieser Fragen scheitert, ist Entscheidungsunterstützung, ganz gleich, was im Produktblatt steht. Lücken-Hinweise bestehen die erste Frage und scheitern an den beiden anderen. Deshalb rutschen sie durch.
Die Konsequenz ist kein Verbot. Bauen Sie die Lückenerkennung als separate, gekennzeichnete Funktion, die ihre Checkliste offenlegt. Entscheiden Sie als Klinik, ob sie eingeschaltet ist, und für wen. Und messen Sie nicht nur die Notizen, sondern auch, ob Kliniker:innen die Fragen noch selbst stellen.
Die Grenze liegt nicht im Modell; sie wird im Design und in der Governance gezogen.
Ein Hinweis des Scribes ist willkommen. Sein Schweigen darf uns nie sagen, dass das Gespräch vollständig war.
Literatur
- Roth AS, Ayers NB. AI scribe functions in psychiatric practice: clinical oversight, consent, and regulation. Lancet Psychiatry. 2026;13(9):804. doi:10.1016/S2215-0366(26)00201-4 · eScholarship
- iatrox. From AI scribe to clinical workflow assistant: where documentation ends and decision support begins.
- Dobelsek M. AI ambient scribes in psychiatry: the new clinical workflow. majadobelsek.com. November 2026.
- NHS England. Guidance on the use of AI-enabled ambient scribing products in health and care settings. April 2025.
- Osheroff JA, Teich JM, Middleton B, Steen EB, Wright A, Detmer DE. A roadmap for national action on clinical decision support. J Am Med Inform Assoc. 2007;14(2):141–145. doi:10.1197/jamia.M2334
- Osheroff JA, Pifer EA, Teich JM, Sittig DF, Jenders RA. Improving Outcomes with Clinical Decision Support: An Implementer’s Guide. Chicago: HIMSS; 2005.
- Parasuraman R, Manzey DH. Complacency and bias in human use of automation: an attentional integration. Hum Factors. 2010;52(3):381–410. doi:10.1177/0018720810376055