Stell dir vor, eine künstliche Intelligenz soll Ärzte dabei unterstützen, Tumore auf Röntgenbildern zu erkennen oder Herzrhythmusstörungen in einem EKG zu finden. Die DSV-Techniken bereiten dabei die medizinischen Signale so vor, dass die KI sie verarbeiten kann. Die KI ist dann unglaublich gut darin, Muster zu finden, die auf eine Krankheit hindeuten, oft sogar besser als menschliche Augen. Aber was, wenn die KI sagt: „Hier ist ein Tumor“, aber der Arzt fragt: „Warum denkst du das? Welche Merkmale im Bild haben dich zu dieser Diagnose geführt?“ Wenn die KI eine „Black Box“ ist, die ihre Entscheidungen nicht erklären kann, wird es schwierig, ihr in solchen sicherheitskritischen Anwendungen vollständig zu vertrauen. Ein Arzt muss verstehen, warum eine Diagnose gestellt wird, um sie überprüfen und dem Patienten erklären zu können.