Von Resilienz zu Vigilanz. Über die Verantwortung von Maschinen
摘要
Um sich dem verantwortungsvollen Umgang mit Künstlicher Intelligenz (KI) zu nähern, werden die Begriffe Resilienz und Vigilanz eingeführt. Resilienz ist ein moderner Terminus, der in vielen Bereichen verlangt wird. Das vorliegende Kapitel führt den seltener verwendeten Terminus der Vigilanz ein und entwickelt beide Begriffe zu Cyberresilienz und Cybervigilanz weiter. Dabei zeigt sich auf der einen Seite, dass der Einsatz von KI für cybervigilante IT-Systeme unverzichtbar ist. Auf der anderen Seite fordert der massenhafte und nur schwach regulierte Einsatz von KI von uns ein vigilantes Verhalten gegenüber der KI ein. Das wird an aktuellen Beispielen, wie Robojudges („KI als Richter“) oder KI-gesteuerten Waffensystemen gezeigt. Neben der Notwendigkeit eines vigilanten Verhaltens werden auch mögliche Auswege aus dem Dilemma beschrieben.