Auf der anderen Seite können die Risiken von KI für den Datenschutz nicht ignoriert werden. KI-Systeme erfordern oft eine große Menge an personenbezogenen Daten, um korrekt zu funktionieren. Dabei besteht zum einen das Risiko, dass die erforderliche umfassende Datenbasis nicht ausreichend geschützt ist und dadurch von Dritten missbraucht werden könnte oder dass sie durch eine Datenpanne oder einen Hackerangriff in falsche Hände gerät.
Zum anderen ist zu berücksichtigen, dass KI-Systeme Diskriminierung und Vorurteile verstärken können. Wenn die Algorithmen auf Basis von unzureichenden oder voreingenommenen Daten trainiert werden, können sie Entscheidungen treffen, die bestimmte Personengruppen benachteiligen.
Außerdem muss beachtet werden, dass auch die Nutzung personenbezogener Daten durch KI-Systeme im Regelfall eine Datenverarbeitung im Sinne der Datenschutzgrundverordnung darstellt, für die eine Rechtsgrundlage vorhanden sein muss und auch die weiteren Vorgaben aus der Datenschutzgrundverordnung sind hierbei zwingend einzuhalten.