Nur wenige Monate nach der Veröffentlichung von ChatGPT haben führende Wissenschaftler vor erheblichen Risiken solcher Systeme gewarnt. In diesem Kapitel wird auf einige Risiken durch Systeme der generativen KIGenerative KI hingewiesen. Wie viele andere KI-Anwendungen können auch Systeme der generativen KI viele nützliche Aufgaben erledigen, wozu auch Aufgaben gehören, zu deren Bewältigung ein gewisses Maß an Kreativität erforderlich ist. Solche KI-Systeme können textliche Abhandlungen bereits in sehr guter Qualität verfassen und auch Medien mit Bild und Ton nach Vorgaben erzeugen. Diesen Vorzügen stehen auch erhebliche Risiken gegenüber. Dazu gehören die einfache Erzeugung und Verbreitung von Desinformationen, die auch zur Manipulation von Menschen genutzt werden können. Systeme der generativen KI können zu eskalierendem Verhalten neigen und auch für Cyberangriffe missbraucht werden. Aus verschiedenen Gründen drohen auch Risiken für unsere demokratischen Gesellschaften. Manche Risiken sind erkennbar und werden durch Studien gestützt, anderes ist durchaus spekulativ.