Warum KI kein Experte ist (und trotzdem hilft)

Ein Praxisanleiter denkt über die Nutzung von KI nach

KI verfügt über diese Grundlagen nicht. Sie sieht keinen Patienten. Sie erkennt keine Körpersprache. Sie nimmt keinen Verlauf wahr und spürt keine Abweichungen, die im Moment entscheidend sein können. Auch kennt sie keine Einrichtung, keine hausinternen Standards und keine Abläufe eines Teams. Und sie trägt keine Verantwortung – weder fachlich, ethisch noch rechtlich.

Das kann ein Standard sein, der im eigenen Haus so nicht gilt. Es kann eine Maßnahme sein, die im konkreten Kontext nicht indiziert ist. Es kann eine Priorität sein, die an der Situation vorbeigeht. Oder ein scheinbar „fachlicher Fakt“, der schlicht erfunden ist. Solche Fehler passieren nicht aus Absicht, sondern weil KI darauf ausgelegt ist, stimmige Texte zu erzeugen – nicht geprüfte Aussagen.

Eine hilfreiche Leitplanke dafür lautet: KI ist Vorschlag – Verantwortung bleibt beim Menschen.

Erstens: Geht es gerade um Struktur und Sprache – oder um eine fachliche Entscheidung? Struktur kann KI liefern, fachliche Entscheidungen müssen im Verantwortungsbereich der Praxisanleitung bleiben.
Zweitens: Woran lässt sich prüfen, ob die Antwort stimmt? Standards, Leitlinien, Einrichtungsvorgaben oder Kolleg:innenwissen müssen die Aussage erden.
Drittens: Was fehlt der KI, um es sicher zu wissen? In der Regel ist es Kontext: Beobachtungen, Verlauf, Risiken, Situation im Zimmer, Dynamik im Team.