Digitalisierung und KI-Unterstützung in der stationären Pflege

[Elphaba]

Digitalisierung und KI-Unterstützung in der stationären Pflege werden weiter voranschreiten, ohne dass Angehörige und Betreuende diese Innovation noch aufhalten können. Akuter Fachkräftemangel und demografischer Wandel lassen keine andere Entwicklung in der Pflege zu. Wie können Pflegequalität gesichert und die Menschenwürde geschützt werden?
Ein Pilotprojekt ist die KI-basierte Spracherkennung zur Erleichterung der Dokumentation - vor allem auch für die vielen Mitarbeitenden, deren Muttersprache nicht Deutsch ist. Passieren da Fehler, ist später die KI schuld. Was kann das für die Haftung bei Gesundheitsschäden bedeuten?

[MPock]

Grundsätzlich: wenn ein Fehler passiert, haftet erstmal die Person, die verantwortlich ist, und nicht das Werkzeug. Da hat sich erst mal nichts daran geändert, weshalb man nur bewährte und geeignete Werkzeuge verwenden sollen.


Bei der Haftung muss man auch zwischen zivilrechtlicher und strafrechtlicher Haftung unterscheiden. Wenn jemand auf professioneller Ebene einen Fehler macht und damit einen finanziellen Schaden verurusacht, muss dieser dafür geradestehen, auch wenn es durch ein Versagen der Software ausgelöst worden ist. Dann greift aber typischerweise eine Haftpflichtversicherung.


Strafrechtlich relevant wird es nur dann, wenn grobe Fahrlässigkeit vorliegt. Z.B. sollte ein Arzt niemals auf die Schnapsidee kommen, einen Medikamentenliste zu diktieren und das Resultat nicht korrekturzulesen. (Wobei - das Korrekturlesen sollte auch geschehen, wenn er es selbst getippt hat...). Wenn dagegen das Patientengespräch aufgezeichnet und in Textform überführt wurde, und an einer Stelle etwas falsch nieder geschrieben wird, reicht das u.U. nicht zur groben Fahrlässigkeit.


Nun ist automatisierte Spracherkennung ein grundsätzlich bewährtes Mittel. Seit Jahren funktioniert dies schon recht zuverlässig. Von daher spricht nichts dagegen, diese Technologie auch einzusetzen, wenn man sich davon Vorteile und Efiizienzgewinn verspricht.


Nicht verwenden sollte man dagegen "KI" für Bereiche, für die diese nicht trainiert wurde - d.h. insbesondere zur Beantwortung von Fachfragen. Wer diese 1:1 von ChatGPT und co. übernimmt, handelt grob fahrlässig und haftet dementsprechend.

[Elphaba]

Die freiberufliche Autorin Emma Braslavsky schlägt zur Klarstellung des Begriffs vor, statt von künstlicher Intelligenz lieber vom kognitiven Resonanzfeld (Cognitive Resonance Field) zu schreiben und zu sprechen. Dann würden die Menschen im Zentrum des Denkens bleiben, meint sie. Ich finde diesen Vorschlag gut .

[HorstD]

Dieser Thread geht ein bisschen zu weit vom Betreuungsrecht weg. Bitte auf Dinge beschränken, die eine gewisse Relevanz hierzu haben.