Durch die Weiterentwicklung der Künstlichen Intelligenz (KI) können klinische Entscheidungsprozesse effizient unterstützt werden, z. B. in der Diagnostik oder bei der Optimierung komplexer Therapien. Insbesondere in der Intensivmedizin ist dieses Thema von besonderer Relevanz, denn dort führen der Umfang und die Vielschichtigkeit von Patientendaten zu einer erheblichen Belastung des medizinischen Personals, was in Stresssituationen zu fehlerhafter Diagnostik, Unterlassungen oder Fehlbehandlungen beitragen kann. Beim Einsatz KI-gestützter Entscheidungshilfen im klinischen Kontext müssen jedoch grundlegende ethische Prinzipien beachtet werden. Dies betrifft insbesondere die Entscheidungsautonomie der Patienten, die Benefizienz, Non-Malefizienz, Transparenz und Gerechtigkeit der KI-Systeme sowie die Wahrung der Menschenwürde in allen Entscheidungsprozessen. Die Integration von KI-SystemeKI-Systemen in klinische Handlungsabläufe erfordert zudem eine detaillierte Analyse menschlicher Stärken und Schwächen, um die Dominanz oder das Fehlverhalten von KI-Systemen zu verhindern. Zusätzlich ermöglicht eine transparente Präsentation der Schwächen der KI-Systeme, z. B. in Form einer Quantifizierung der Unsicherheiten in den Modellaussagen, dem Nutzer eine frühzeitige Fehlererkennung. Es sollte jederzeit sichergestellt sein, dass das medizinische Personal über das notwendige Wissen über die verwendeten KI-Technologien verfügt und bei allen klinischen Entscheidungen die letztendliche Verantwortung trägt. In diesem Zusammenhang müssen rechtliche Normen sowie zuverlässige Zertifizierungs- und Überwachungssysteme entwickelt werden, die der Komplexität und Entwicklungsgeschwindigkeit moderner KI-Technologien Rechnung tragen.