Um sich dem verantwortungsvollen Umgang mit Künstlicher Intelligenz (KI) zu nähern, werden die Begriffe Resilienz und Vigilanz eingeführt. Resilienz ist ein moderner Terminus, der in vielen Bereichen verlangt wird. Das vorliegende Kapitel führt den seltener verwendeten Terminus der Vigilanz ein und entwickelt beide Begriffe zu Cyberresilienz und Cybervigilanz weiter. Dabei zeigt sich auf der einen Seite, dass der Einsatz von KI für cybervigilante IT-Systeme unverzichtbar ist. Auf der anderen Seite fordert der massenhafte und nur schwach regulierte Einsatz von KI von uns ein vigilantes Verhalten gegenüber der KI ein. Das wird an aktuellen Beispielen, wie Robojudges („KI als Richter“) oder KI-gesteuerten Waffensystemen gezeigt. Neben der Notwendigkeit eines vigilanten Verhaltens werden auch mögliche Auswege aus dem Dilemma beschrieben.

错误:搜索内容不能为空,请输入英文关键词
错误:关键词超出字数限制,请精简
高级检索

Von Resilienz zu Vigilanz. Über die Verantwortung von Maschinen

  • Christian Hummert

摘要

Um sich dem verantwortungsvollen Umgang mit Künstlicher Intelligenz (KI) zu nähern, werden die Begriffe Resilienz und Vigilanz eingeführt. Resilienz ist ein moderner Terminus, der in vielen Bereichen verlangt wird. Das vorliegende Kapitel führt den seltener verwendeten Terminus der Vigilanz ein und entwickelt beide Begriffe zu Cyberresilienz und Cybervigilanz weiter. Dabei zeigt sich auf der einen Seite, dass der Einsatz von KI für cybervigilante IT-Systeme unverzichtbar ist. Auf der anderen Seite fordert der massenhafte und nur schwach regulierte Einsatz von KI von uns ein vigilantes Verhalten gegenüber der KI ein. Das wird an aktuellen Beispielen, wie Robojudges („KI als Richter“) oder KI-gesteuerten Waffensystemen gezeigt. Neben der Notwendigkeit eines vigilanten Verhaltens werden auch mögliche Auswege aus dem Dilemma beschrieben.