Hoffentlich stellt die EU-Kommission endlich den Entwurf zur Chatkontrolle vor. Die Chatkontrolle ist super, klar soll die Kommunikation überwacht werden. Von allen Privatpersonen, egal ob Polizist, Richter, Staatsanwaltschaft, Sozialpädagogen, Menschen die in der Eingliederungshilfe Arbeiten und Hilfe bewilligen. Ich finde es super wenn die Kommunikation EU weit mit KI überwacht wird.
Bei uns auf der Arbeit nerven die ein auch mit diesem Signal, das ist ja sicher. Mein Gedanke immer: die müssen alle überwacht werden – EU weit, erst recht die die auf Signal und Co. ausweichen.
Herrlich wie Sich Bürgerrechtler, Chaos Computer Club, Organisationen sowie Andrea Breyer aufregen. Einfach nur köstlich und unterhaltsam für Befürworter wie mich. Dann kann dieses geplante EU-Vorhaben ja nur gut sein – Je lauter die schreien desto besser das Überwachungsvorhaben.
Hoffentlich wird der Entwurf endlich vorgestellt, 2-3 mal wurde es ja schon verschoben was ich schade finde. Es soll schließlich mal weiter gehen im EU-Gesetzgebungsverfahren mit der Chatkontrolle.
Fotos missbrauchter Kinder fluten Teile des Netzes. Die Zahl erfasster Darstellungen sexuellen Missbrauchs in Deutschland nahm 2021 im Jahresvergleich um mehr als 100 Prozent auf knapp 40.000 zu. „Europa ist mittlerweile zu einem Drehkreuz für den Handel mit Missbrauchsdarstellungen geworden“, sagt die Missbrauchsbeauftragte der Bundesregierung, Kerstin Claus, der Deutschen Presse-Agentur. Wenn man sich den Anstieg der Fälle ansehe, stelle sich die Frage, „ob wir den gigantischen Mengen, die im Internet angeboten werden, überhaupt noch etwas entgegensetzen können“.
Die EU-Kommission will es versuchen und voraussichtlich Mitte der Woche einen Gesetzesvorschlag im Kampf gegen Darstellungen sexuellen Missbrauchs im Internet vorlegen. Doch inwieweit rechtfertigt der gute Zweck den Eingriff in die private Kommunikation der Bürger?
Aktuelle Übergangslösung läuft nach drei Jahren aus
Facebook, Google und Co haben Privatnachrichten ihrer Nutzer bis zum Dezember 2020 freiwillig nach Missbrauchsdarstellungen gescannt. Dabei suchten sie nach Bildern, die etwa durch frühere Ermittlungen bekannt und mit einer Art digitalem Fingerabdruck, einem sogenannten Hash, versehen worden waren. Treffer wurden an das US-Zentrum für vermisste und ausgebeutete Kinder NCMEC gegeben, wo sie geprüft und gegebenenfalls an die Behörden wie dem Bundeskriminalamt (BKA) geschickt wurden. Ab Ende 2020 fehlte dafür in der EU jedoch zeitweise die rechtliche Grundlage. Hier ging die Zahl der Hinweise dem NCMEC zufolge zunächst um 58 Prozent zurück.
Deshalb einigten sich die EU-Staaten und das Europaparlament vor rund einem Jahr auf eine Übergangslösung, die nach spätestens drei Jahren ausläuft. Seitdem dürfen die Plattformen die Nachrichten ihrer Nutzer wieder auf Hashes scannen. Nun fällt allerdings auch das Aufspüren sogenannter Groomings unter die Regeln, worunter man das Heranmachen von Erwachsenen an Kinder im Netz versteht. EU-Innenkommissarin Ylva Johansson will in dieser Woche eine dauerhafte Lösung vorschlagen.
Für die Unternehmen könnte eine Pflicht zum Scannen kommen
Die Details des Vorschlags sind noch unklar. Die Richtung gibt Johansson jedoch schon länger vor. Sie werde ein Gesetz vorschlagen, das „die Unternehmen verpflichtet, den sexuellen Missbrauch von Kindern zu erkennen, zu melden und zu entfernen“, sagte sie im Januar der „Welt am Sonntag“. Fraglich ist unter anderem, ob sich diese Pflicht auf bekannte Darstellungen beschränkt. Auch das Aufspüren von Grooming könnte in irgendeiner Form verbindlich werden. Außerdem dürfte die Kommission vorschlagen, ein EU-Zentrum zum Kampf gegen Kindesmissbrauch zu schaffen. Über die Vorschläge verhandeln dann die EU-Staaten und das Europaparlament.
„Chatkontrolle wäre anlasslose Massenüberwachung“
Bürgerrechtler sind alarmiert. Im März schrieben 47 Organisationen einen Brandbrief (PDF) an EU-Kommissionschefin Ursula von der Leyen und Innenkommissarin Johansson. Unterzeichnet hat auch der Verein Digitale Gesellschaft, dem Tom Jennissen angehört. Er warnt davor, dass künftig jede etwa über WhatsApp verschickte Nachricht von den Unternehmen gescannt werden könnte. Dies sei ein „ganz massiver und unverhältnismäßiger Eingriff in die Kommunikation“ und widerspreche allen rechtsstaatlichen Grundsätzen, sagt er der dpa.
Jennissen befürchtet, dass auf Grundlage eines Generalverdachts sogar in verschlüsselte Kommunikation eingegriffen werden könnte. Johansson hat dagegen bereits deutlich gemacht, was für sie schwerer wiegt: Natürlich seien Datenschutz und Verschlüsselung wichtig, sagte sie der „Welt am Sonntag“. „Aber der Fokus muss in erster Linie auf dem Schutz der Kinder liegen.“ Anstelle eines Gesetzes, das womöglich gerichtlich gekippt werde, brauche es mehr Prävention und eine bessere Ausstattung der Behörden, fordert dagegen Jennissen.
Auch der FDP-Europaabgeordnete Moritz Körner betont, der Kampf gegen Kinderpornografie dürfe nicht als Vorwand missbraucht werden, „um eine noch nie dagewesene Zerstörung unserer Privatsphäre“ zu rechtfertigen. „Die Chatkontrolle wäre eine anlasslose Massenüberwachung.“ Auch Körner fordert eine bessere Ausstattung der Polizei, der EU-Behörde Europol und mehr Kooperation der EU-Staaten.
Befürworter setzen auf Technik gegen Verbreitung im Netz
Für eine weitgehende Filter-Pflicht setzt sich etwa die US-Stiftung Thorn zum Schutz von Kindern ein. Thorn entwickelt selbst Filter, die nicht nur bekanntes Missbrauchsmaterial finden, sondern auch neues. Zudem arbeitet die Stiftung an einem Instrument zum Aufspüren von Grooming. „Unternehmen müssen rechtlich befugt sein, zielgerichtete digitale Technologien einzusetzen, um die virale Verbreitung von sexuellem Kindesmissbrauchsmaterial auf ihren Plattformen zu unterbinden“, fordert Thorn.
CHATKONTROLLE:CCC warnt vor „fundamental fehlgeleiteter Technologie“
Am Mittwoch, dem 11. Mai 2022 veröffentlicht die EU-Kommission voraussichtlich den Gesetzesentwurf zur sogenannten Chatkontrolle. Geplant ist eine KI-basierte Prüfung aller Nachrichteninhalte und Bilder direkt auf unseren Geräten.
https://www.ccc.de/de/updates/2022/eu-kommission-will-alle-chatnachrichten-durchleuchten
Die EU-Kommission will in Kürze ihre Pläne zur Chatkontrolle vorlegen. Das stößt weiter auf scharfe Kritik von Internetaktivisten wie dem CCC.
Der Chaos Computer Club (CCC) warnt eindringlich vor der Gefahren der sogenannten Chatkontrolle auf den Endgeräten der Nutzer. „Dieses Client-Side-Scanning wäre nicht die erste überzogene und fehlgeleitete Überwachungsmethode, die mit dem Kampf gegen Kindesmissbrauch begründet wird“, teilte die Hackerorganisation am 9. Mai 2022 mit.
Das massenhafte Scannen greife nicht nur vertrauliche Kommunikation an ihren Grundfesten an, sondern sei obendrein unwirksam. Kriminelle nutzten bereits heute Verbreitungswege, die von diesen Scans nicht betroffen wären. Der CCC kommt zu dem Schluss: „Die Chatkontrolle ist als fundamental fehlgeleitete Technologie grundsätzlich abzulehnen.“
Hintergrund des Statements sind Pläne der EU-Kommission, den Anbietern von Mail- und Messengerdiensten dauerhaft die Durchleuchtung von Nutzerinhalten zu ermöglichen. Im Juli 2021 billigte das Europaparlament eine vorläufige Verordnung, die zunächst für drei Jahre gilt.
Die EU-Kommission will den Entwurf am 11. Mai 2022 vorlegen. Er könnte jedoch deutlich weiter als die aktuelle Regelung gehen. Das betrifft vor allem die Möglichkeit, verschlüsselte Inhalte, wie sie bei Messengerdiensten wie Whatsapp oder Signal versendet werden, zu überprüfen. Diskutiert wird beispielsweise ein Zweitschlüssel („Exceptional Access“), mit dem Strafverfolgungsbehörden oder Geheimdienste auf die dann nicht mehr Ende-zu-Ende-verschlüsselten Inhalte zugreifen könnten.
Als Alternative wird vorgeschlagen, dass die Inhalte mit einer Art Uploadfilter auf dem Smartphone oder Computer des Benutzers analysiert und je nachdem an Behörden ausgeleitet werden. Auch damit würde die Ende-zu-Ende-Verschlüsselung ausgehebelt.
CCC: Grundrechte werden außer Kraft gesetzt
Ein solches Konzept zerstört nach Ansicht des CCC die Möglichkeit einer vertrauenswürdigen Kommunikation. Denn dazu müsse das eigene Gerät integer sein und dürfe Inhalte nicht an Dritte weitergeben. Zudem müsse die Verschlüsselung sicher sein, so dass nicht dem Netz vertraut werden müsse. „Mit dem Fernmeldegeheimnis und dem Grundrecht auf Gewährleistung der Vertraulichkeit und Integrität informationstechnischer Systeme setzt die Chatkontrolle gleich zwei fundamentale Grundrechte außer Kraft“, kritisiert die Hackervereinigung.
Darüber hinaus sei bisher nicht klar, wer die Erkennungsalgorithmen und -datenbanken definieren und kontrollieren solle. „Ein derart intransparentes System kann und wird nach seiner Einführung leicht erweitert werden. So ist schon heute absehbar, dass sich die Rechteverwertungsindustrie für das System ebenso brennend interessieren wird wie demokratiefeindliche Regierungen“, heißt es weiter. Umso erschreckender sei, „mit welcher Arglosigkeit es nun eingeführt werden soll“.
Der CCC befürchtet zudem, dass die künstliche Intelligenz zu Detektion von Missbrauchsbildern auch Fotos fälschlicherweise als illegal markieren wird. Kleinste Fehlerquoten würden zu großen Mengen an falsch erkannten und ausgeleiteten Nachrichten führen: „Allein in Deutschland werden weit mehr als eine halbe Milliarde Nachrichten pro Tag versendet. Auch enorm ‚gute‘ Erkennungsraten würden zur Ausleitung mehrerer Tausend Nachrichten pro Tag führen“, heißt es in der Stellungnahme.
Christian Dauck 