Aufgrund der Tatsache, dass KI oft auf sensible Informationen zugreift und dadurch Datenschutzrisiken entstehen können, stellt der Schutz personenbezogener Daten ein zentrales ethisches Thema bei ihrer Nutzung dar. Die Anonymisierung und Pseudonymisierung von Daten kann dazu beitragen, die Privatsphäre der Nutzer zu schützen. Transparenz über Datenerhebung und -nutzung sowie erklärbare KI-Systeme sind wesentliche Faktoren, um Vertrauen aufzubauen. Studien belegen, dass KI-Modelle Geschlechterstereotype verstärken können, und dies unterstreicht die Notwendigkeit, Fairness und Inklusion in Algorithmen sicherzustellen. Dafür sind diversifizierte Trainingsdaten, die Offenlegung von Algorithmen sowie regulatorische Maßnahmen erforderlich. Herausforderungen, wie das „maschinelle Vergessen“, verdeutlichen, dass technische Lösungen und gesetzliche Anpassungen notwendig sind, um das Recht auf Vergessenwerden effektiv umzusetzen.