Was wirklich im EU-Entwurf zur Chatkontrolle steht

Nun kommt sie also doch, die Chat-Kontrolle der EU. Freilich taucht diese Bezeichnung in der entsprechenden Pressmitteilung des Rats der Europäischen Union nicht einmal auf. Die ist lediglich betitelt mit: „Sexueller Missbrauch von Kindern: Rat legt Standpunkt zum Gesetz über den Schutz von Kindern vor Missbrauch im Internet fest“. Und wer würde dagegen etwas einwenden wollen? Allerdings geht es eben nicht nur um den berechtigten Schutz von Kindern, sondern um weit mehr. Ursprünglich hatte die EU-Kommission im Mai 2022 einen Entwurf  vorgelegt, durch den die Anbieter von Messengerdiensten dazu verpflichtet gewesen wären, sämtliche Kommunikation und Dateien ihrer Kunden hinsichtlich möglicher Verstöße gegen die sogenannte CSA-Verordnung („Child Sexual Abuse“) zu durchleuchten. Dieser Entwurf fiel jedoch zunächst durch. Nicht zuletzt, weil Deutschland nicht mitziehen wollte, sodass die eigentlich schon für den 14. Oktober geplante Abstimmung im EU-Rat nicht stattfand (achgut berichtete). Justizministerin Stefanie Hubig hatte unmissverständlich klargestellt, dass anlasslose Chatkontrolle in einem Rechtsstaat tabu sein müsse und private Kommunikation nie unter Generalverdacht stehen dürfe.

Am 26. November haben sich die EU-Staaten nun auf einen Entwurf geeinigt, der einen Kompromiss darstellen und angeblich auf Freiwilligkeit beruhen soll. Aber was steht tatsächlich alles drin in diesem rund 200 Seiten umfassenden Dokument, das bislang ausschließlich in englischer Sprache vorliegt? Laut Pressemitteilung sind Digitalunternehmen mit der Annahme des neuen Gesetzes in erster Linie dazu verpflichtet, die Verbreitung von Darstellungen sexuellen Kindesmissbrauchs und die Kontaktaufnahme zu Kindern zu verhindern. Die zuständigen nationalen Behörden sollen befugt werden, Unternehmen gegebenenfalls zur Entfernung von Inhalten, zum Zugang dazu und zur Streichung von Suchergebnissen über Online-Suchmaschinen zu verpflichten. Mit der Verordnung soll auch eine neue EU-Agentur, das „EU-Zentrum für die Prävention und Bekämpfung sexuellen Kindesmissbrauchs“, geschaffen werden.

Außerdem müssen Anbieter von Online-Diensten bewerten, wie hoch das Risiko ist, dass ihre Dienste für Kindesmissbrauch verwendet werden könnten. Auf der Grundlage dieser Bewertung müssen sie dann Maßnahmen zur Minderung dieses Risikos ergreifen. Die Mitgliedstaaten sollen nationale Behörden benennen, die für die Prüfung dieser Risikobewertungen und der ergriffenen Maßnahmen zuständig sind. Bei Verstößen sollen Zwangsgelder verhängt werden können. Mit der Freiwilligkeit ist es also doch nicht allzu weit her. 

Der Rat will zudem drei „Risikokategorien“ einführen. Anbieter von Messengerdiensten, die unter die Kategorie „hohes Risiko“ fallen, können von den Behörden verpflicht werden, zur Entwicklung von Technologien beizutragen, um die Risiken im Zusammenhang mit ihren Diensten zu mindern. Darüber hinaus möchte der Rat eine momentan noch befristete Regelung dauerhaft einführen: Derzeit können Anbieter von Messengerdiensten freiwillig Inhalte, die über ihre Plattformen ausgetauscht werden, auf Darstellungen sexuellen Kindesmissbrauchs überprüfen, diese melden und entfernen. Was nur wegen einer Ausnahme von der EU-Datenschutzverordnung möglich ist. Diese Ausnahme sollte eigentlich am 3. April 2026 auslaufen, soll nun aber weiterhin gelten. 

Müssen sich demnächst ausnahmslos alle Chatnutzer ausweisen?

Das neue EU-Zentrum soll künftig die von den Online-Anbietern bereitgestellten Informationen bewerten und verarbeiten und eine Datenbank für Meldungen pflegen. Es soll auch für den Austausch von Unternehmensinformationen mit Europol und den nationalen Strafverfolgungsbehörden zuständig sein. Darüber hinaus soll es „Indikatoren“ für sexuellen Kindesmissbrauch zur Verfügung stellen, auf die Unternehmen bei ihren freiwilligen Maßnahmen zurückgreifen können. In Artikel 4 des Verordnungsentwurfs, der die „Risikominderung“ thematisiert, wird ausdrücklich genannt, dass „Anbieter von Diensten der zwischenmenschlichen Kommunikation“ Maßnahmen zur Altersüberprüfung ergreifen können, um Kinder als Nutzer ihrer Dienste „zuverlässig zu identifizieren“. Das hätte jedoch zur Folge, dass sich ausnahmslos alle Chatnutzer ausweisen müssten, um ihr Alter zu bestätigen. Anonyme Kommunikation im Internet wäre dann nicht mehr möglich, was beispielsweise für Whistleblower oder Dissidenten fatale Folgen hätte. Nach Artikel 6 sollen auch Software-Anbieter generell Maßnahmen zur Altersüberprüfung ergreifen.

Ebenfalls in Artikel 4 ist festgehalten, dass Online-Anbieter als eine mögliche Maßnahme Funktionen einführen sollen, die den Nutzern Informationen über Meldemechanismen bereitstellen und sie an Hotlines und „vertrauenswürdige Organisationen“ weiterleiten, wenn sie Material oder Unterhaltungen entdecken, die auf potenziellen sexuellen Missbrauch von Kindern im Internet hindeuten. Hier wären allerdings Falschmeldungen geradezu vorprogrammiert, denn im Prinzip könnte jeder jederzeit irgendwelche verdächtigen Chats melden. Und insbesondere  dann, wenn Online-Anbieter Chats mit Hilfe von Algorithmen und Künstlicher Intelligenz etwa nach verdächtigen Schlüsselwörtern scannen, könnte  zum Beipiel jede sarkastische Formulierung potenziell als „kriminell“ erkannt werden, da keine KI wirklich Sarkasmus versteht. Die Kontrollbehörden sollen zudem ausdrücklich die Befugnis erhalten, Vor-Ort-Kontrollen in Räumlichkeiten durchzuführen oder eine Justizbehörde zu ersuchen, solche Kontrollen anzuordnen, um Informationen über einen mutmaßlichen Verstoß gegen die Verordnung in jeglicher Form – unabhängig vom Speichermedium –  zu prüfen, zu beschlagnahmen oder Kopien davon anzufertigen. Nun gut, an Hausdurchsuchungen hat man sich ja zumindest in Deutschland schon fast gewöhnt.

Ausgenommen vom Anwendungsbereich der Verordnung sollen übrigens ausschließlich Kommunikationsdienste sein, die beispielsweise für Zwecke der nationalen Sicherheit genutzt werden. Hingegen kann das neue EU-Zentrum gemeinsame Untersuchungen über Ländergrenzen hinweg koordinieren – was mit der Floskel „reibungsloses Funktionieren des Binnenmarkts“ umschrieben wird – und sogar mit Behörden von Drittländern oder mit internationalen Organisationen zusammenarbeiten. Und es kann laut Artikel 50 beschließen, „anderen Stellen und Personen auf begründeten Antrag hin“ einen „angemessenen Zugang zur Abfrage“ ihrer Datenbank zu gewähren, wenn sie nachweisen können, dass dieser Zugang zur Verwirklichung der Ziele der Verordnung beitragen könnte. 

Falls der Verordnungsentwurf im Laufe der nun anstehenden Verhandlungen zwischen dem Rat und dem Europäischen Parlament in seiner jetzigen Form durchkommt, wäre dies ein weiterer Schritt Richtung Zentralisierung und Machtkonzentration auf EU-Ebene, umfassender Überwachung nahezu aller EU-Bürger, massiver Datenerhebung und Unterdrückung der freien Meinungsäußerung. Denn wer würde es noch wagen, sich einigermaßen ungezwungen im Internet zu äußern, wenn er mit ständiger Kontrolle durch irgendwelche Algorithmen und möglicherweise Denunziationen wegen scherzhafter Chats rechnen muss? Und letztlich könnten über diese Verordnung im Verbund mit dem schon in Kraft getretenen Digital Services Act auch jedwede oppositionelle Regungen wunderbar eingehegt werden. Unter dem Vorwand des Kindeswohls.