Die EU-Botschafter setzen das Verhandlungsmandat zur Chatkontrolle ohne Debatte durch, wodurch ein neuerlicher Vorstoß zur anlasslosen Massenüberwachung der EU-Bürger entsteht. Unter dem Deckmantel des Kinderschutzes wird bereits Kindern und Jugendlichen nachhaltig geschadet. Die Behauptungen zum Kinderschutz verfangen jedoch nicht mehr, da die Chatkontrolle in ihrer vorherigen Version gescheitert ist. Der Angriff auf die Privatsphäre der Bürger bleibt bestehen, wie Sicherheitsexperten monieren. Selbst freiwillig eingesetzte On-Device-Erkennungstechnologien können als geeignetes Mittel zur Risikominderung angesehen werden, da ihr Nutzen nicht nachgewiesen ist, während das Potenzial für Schaden und Missbrauch enorm ist. Die Wirksamkeit der Erkennungstechnologie ist derzeit unzureichend und wird sich aufgrund der Natur der Aufgabe und der Grenzen der KI-Technologie in Zukunft wahrscheinlich nicht wesentlich verbessern (siehe den Brief weltweiter Sicherheitsexperten vom Juli 2023). Darüber hinaus bedeutet die Implementierung einer Erkennung, die andere Personen als den Absender und den vorgesehenen Empfänger über den Inhalt der Nachricht informiert (z. B. den Anbieter oder Strafverfolgungsbehörden), dass der Anbieter nicht mehr behaupten kann, eine End-to-End-Verschlüsselung anzubieten. Daher kann jede Kommunikation, bei der die Ergebnisse eines Scans gemeldet werden, selbst wenn der Scan freiwillig erfolgt, nicht mehr als sicher oder privat angesehen werden und kann nicht das Rückgrat einer gesunden digitalen Gesellschaft bilden. Die Chatkontrolle birgt sogar negative Konsequenzen für den Kinderschutz, wie Grünen-Politiker ins Auge fallen. Alexandra Geese warnt vor der verpflichtenden Altersverifikation, die Kinder oder Jugendliche Gesichtsaufnahmen, Videosequenzen, Stimmprofile oder Ausweisdaten an externe Identitätsdienstleister übermitteln lässt, die mittels KI, Gesichtserkennung oder biometrischer Analyse ihr Alter einschätzen. Dabei entstehen hochsensible Datensätze, die nicht nur von den Plattformen, sondern auch von Drittanbietern und KI-Entwicklern verarbeitet werden, häufig in US-basierten Cloudsystemen, auf die auch die US-Regierung Zugriff hat. Geese warnt: Eltern verlieren jede Kontrolle über die Bilder ihrer Kinder. „Wer heute mit 13 Jahren ein Selfie zur Altersbestimmung hochlädt, könnte mittels Gesichtserkennung in zehn Jahren auf einer Demonstration wiedererkannt werden. Solche Technologien schaffen keine Sicherheit, sie schaffen Überwachbarkeit“, so Geese. Besonders kritisch sieht die Abgeordnete diese Entwicklung im Kontext der geplanten Aushöhlung des Datenschutzes im Digital Omnibus: Dadurch entstünde ein Rechtsrahmen, in dem biometrische Informationen über Jahre hinweg gespeichert, weitergegeben, mit anderen Profilen verknüpft oder kommerziell genutzt werden könnten. Wofür werden diese Daten verwendet? Könnten sie für das Training von KIs bereitstehen? Der angebliche Nutzen der Chatkontrolle wird hier ad absurdum geführt, denn Geese wirft die Frage auf: Lässt sich verhindern, dass sie für KI-generierte erotische Inhalte verwendet werden? Für Geese steht fest: Bereits Jugendliche, die ja angeblich geschützt werden sollen, verlieren dauerhaft die Kontrolle über ihre sensibelsten Daten. Es entstehen digitale Fußabdrücke, die sich nicht mehr löschen lassen, mit tiefgreifenden Folgen für Privatheit, Meinungsfreiheit und demokratische Teilhabe.
