Ungebildete Gegner der EU-Chatkontrolle: Ihr kennt doch auch Kivi und E-Evidence oder?! Est ist erstaunlich was es alles gibt und wie KI (Künstliche Intelligenz) in der Strafverfolgung immer mehr Fuß fasst undder Austausch von Beweismitteln Landesweit ausgebaut wird.
Von Kivi hab ich anfangs auch nicht viel gehört. Landesmedienanstalten setzen KI ein hieß es immer und hab die Nachrichten weiter überflogen. Denn Landesmedienanstalten das sind doch die, die sich vorwiegen mit Ferngesehen und TV beschäftigen, aber weit gefehlt.
Warum Protest gegen die EU-Chatkontrolle? Wo ihr doch schon jetzt alle bereit seit euch von einer KI überwachen zulassen und das eure Daten Landesweit abgefragt und weiter gegen werden dürfen.
Warum so fixiert auf die EU-Chatkontrolle und Sie Negativ machen? Denkt ihr wirklich es braucht euch für Digitale-Bildung: das ihr mir (Autist, Förderschulabschluss, WfBM) und andere was beibringen könnt. Ich halte euch Gegner der EU-Chatkontrolle für ziemlich Digital-Ungebildet. Ihr startet ein Aufschrei gegen die Chatkontrolle aber gegen Kivi und E-Evidence höre ich von euch nichts. Das ist lug und Betrug an der Zivilgesellschaft, in und außerhalb der EU.
Diese müsst ihr ja für ziemlich dumm halten, es gibt so viel mehr als die EU-Chatkontrolle – irgendwelche KIs suchen schon heute bzw. jetzt nach Strafbaren Inhalten und Nutzerdaten fließen zwischen Strafverfolgungsbehörden schon jetzt über Ländergrenzen hinweg. Was ihr nicht wollt gib es in irgendeiner anderen Form schon – Diese überwachte digitalen Welt ist jetzt schon da und kommt nicht erst morgen, übermorgen oder in 3 Jahren mit der EU-Chatkontrolle. Auch ihr Akzeptiert diese überwachte digitalen Welt mit KIs und Weitergabe eurer Daten, sonst würde ihr kein Internet nutzen. Sie ist allgegenwärtig und da!
Schlusswort
Sei der Wiederstand noch so groß. KI wird sich schlussendlich immer mehr in der Strafverfolgung etablieren (direkt und indirekt), offline und online. Das ist super. Ich freue mich auf diese interessante und spannende Zukunft der KI-Strafverfolgung, in der Analogen und Digitalen Welt. Digitale Freiheit ist eine Illusion!
KI findet tausende rechtswidrige und jugendgefährdende Inhalte im Internet
Die Landesmedienanstalten suchen mit neuer Software nach Rechtsverstößen im Internet – und finden derzeit mehr potenziell Illegales, als sie bearbeiten können.
Es gehört zu den Aufgaben der 14 Landesmedienanstalten in Deutschland, Rechtsverstöße in Medien zu bekämpfen. Bis vor wenigen Jahren waren sie fast ausschließlich mit TV- und Radio-Inhalten beschäftigt. Mittlerweile weiten sie ihre Kontrollfunktion auf das Internet aus.
Tobias Schmid, Direktor der nordrhein-westfälischen Landesanstalt für Medien, treibt diese Bemühungen der Medienwächter am aktivsten voran. Er hat YouTube- und Instagram-Influencern blaue Briefe geschickt, wenn sie in ihren Videos Schleichwerbung machten. Schmid war es auch, der gegen das Pornoportal xHamster Netzsperren angeordnet hat, weil es den Jugendschutz nicht mit einem zertifizierten Verfahren sicherstellt.
Bereits 2017 hat die Landesmedienanstalt NRW ihre Initiative „Verfolgen statt nur löschen“ in die Welt gesetzt. Das Projekt hat zum Ziel, dass Inhalte wie Beleidigungen und Verleumdungen von den Betreibern sozialer Netzwerke nicht nur gelöscht oder gesperrt werden, sondern dass auch die Täter strafrechtlich verfolgt werden.
Die Anfänge waren allerdings bescheiden. „Die Idee, mit sieben studentischen Hilfskräften Inhalte im Internet zu regulieren, hat etwas Sozialromantisches“, sagt Schmid heute. Gleichwohl schlossen sich immer mehr Landesbehörden der Initiative an. Im Frühjahr 2020 beschlossen sie, ein System zu entwickeln, das automatisch auf die Suche nach illegalen Inhalten geht.
KI als Massenscanner
Die Idee, künstliche Intelligenz einzusetzen, lag nahe. Das neue Werkzeug hat den Namen KIVI erhalten, wobei das „VI“ für das lateinische Wort vigilare steht, also für „überwachen“. Um das System zusammenzustellen, kombinierte der beauftragte Dienstleister Condat eine Reihe verschiedener Systeme. Für die Bilderkennung kamen zum Beispiel die neuronalen Netze VGG19 und Inception V4 zum Einsatz, die mit eigenen Daten auf ihre neuen Aufgaben trainiert wurden. Texte analysiert das System ebenfalls mit einem neuronalen Netz (DenseNN) sowie mit dem einfacheren Naive-Bayes-Verfahren. Konkret sucht KIVI unter anderem nach Gewaltdarstellungen, Volksverhetzung und der Verwendung verfassungsfeindlicher Kennzeichen.
Für das Training kommen sowohl Positiv- als auch Negativbeispiele zum Einsatz. Als allgemeines Negativmaterial hat Condat zum Beispiel Daten aus Googles Open-Images-Datensatz an das System verfüttert. Die KI werde laut Landesmedienanstalt auch durch tägliches Feedback, ob sich ein gefundener Verdacht bestätigt hat oder nicht, weitertrainiert.
Im Bereich Pornografie verzichtet Condat auf eine eigene Erkennung und bindet stattdessen den Amazon-Dienst Rekognition ein, der nach Angaben der Medienwächter im Praxisbetrieb eine Erkennungsgenauigkeit von 90 Prozent erreicht. Im Bereich der Verstöße gegen die Menschenwürde und des politischen Extremismus gibt die Landesanstalt eine Erkennungsrate von knapp 40 Prozent an.
Auslese von Hand
Letztlich arbeite KIVI nicht autonom, sondern diene nur der Arbeitserleichterung, betonte die federführende Landesmedienanstalt NRW zur Vorstellung der ersten Ergebnisse des Projekts im April 2022. Die Entscheidung, ob ein potenzieller Rechtsverstoß an Strafermittlungsbehörden gemeldet wird, treffe immer ein Mensch.
Die Software soll aber einen Großteil der Routinearbeit übernehmen. Sie verschlagwortet jeden Treffer automatisch und überführt ihn in ein Ticketing-System. Die Software sucht auch nach Hinweisen auf den Wohnort des jeweiligen Urhebers, um die Inhalte den zuständigen Landesbehörden zuzuteilen. Wo dies nicht möglich ist, landen die Inhalte in einem gemeinsamen Pool. Auf einem übersichtlichen Team-Dashboard ist jederzeit der aktuelle Bearbeitungsstatus der eingelesenen Inhalte einsehbar und erlaubt den direkten Absprung in die zu prüfenden Quellen.
Studentische Hilfskräfte sortieren die Treffer weiter vor. Erst nachdem Juristen die Inhalte überprüft haben, werden schließlich weitere Schritte gegen potenzielle Straftäterinnen oder Straftäter ergriffen.
KIVI soll die Arbeit nicht nur effektiver machen, sondern auch stressfreier. Statt Mitarbeiter ständig unvermittelt mit Inhalten wie Erschießungsvideos oder harter Pornografie zu konfrontieren, zeigt die Weboberfläche von KIVI Screenshots zuerst nur verschwommen an. Auf diese Weise können sich die Sachbearbeiter auf die Inhalte einstellen.
Verdoppelte Fallzahlen
Laut der FAQ auf der Homepage der nordrhein-westfälischen Medienaufsicht durchsucht KIVI die verschiedensten Plattformen, von Twitter und YouTube bis zu Telegram und der russischen Plattform VK. Es könne „täglich mehr als 10.000 Seiten automatisch durchsuchen“. Die Medienwächter arbeiten auch daran, weitere relevante Plattformen in KIVI zu integrieren, etwa Reddit. Facebook und Instagram kann der KI-Medienwächter derzeit ebenfalls noch nicht scannen.
Innerhalb eines Jahres hat KIVI 20.685 Funde gemeldet, von denen 14.907 geprüft wurden. In 6766 Fällen stellten die Medienwächter einen Verstoß gegen deutsche Gesetze fest. Davon betrafen 692 Verstöße den politischen Extremismus und 67 Delikte den Bereich Gewalt und Menschenwürdeverstöße. Pro Monat resultiere das in zirka 30 Strafanzeigen, die sich meist auf mehrere Verstöße beziehen. Das entspreche einer Verdoppelung im Vergleich zu der Zeit vor dem Einsatz von KIVI. Wo die Polizei nichts erreicht, leiten die Medienwächter die Löschung der Inhalte ein.
Der Flaschenhals ist aber nach wie vor die menschliche Arbeit. KIVI wird täglich nur für wenige Stunden aktiviert, weil die Anstalten sonst die Flut an möglichen Verstößen nicht bewältigen könnten. Diese Zahl wollen die Medienwächter noch deutlich nach oben schrauben. So sind nun alle Medienanstalten Deutschlands an das System angeschlossen, sodass sich Mehrfachprüfungen vermeiden lassen und sich einzelne Behörden auf bestimmte Einsatzbereiche spezialisieren können.
Zudem hoffen die Medienwächter darauf, dass sich KIVI über die deutschen Grenzen hinaus verbreitet und so noch mehr Beschwerden bearbeitet werden können. Anfragen aus Frankreich, Spanien, Österreich, Belgien und Luxemburg lägen bereits vor, erklärte Schmid Anfang April.
Europarat: Abkommen ermöglicht grenzübergreifende digitale Beweissicherung
Provider im Gebiet des Europarats und darüber hinaus müssen künftig direkt mit Strafverfolgern aus bis zu 66 Ländern kooperieren, um digitale Spuren zu sichern.
Erstmals gibt es ein internationales Abkommen für den grenzübergreifenden Zugriff von Strafverfolgern auf Providerdaten. 22 Staaten haben am Donnerstag in Straßburg das dafür seit 2017 ausgehandelte Zweite Zusatzprotokoll zur Cybercrime-Konvention des Europarats unterzeichnet. Deutschland gehört nicht dazu und will erst später unterzeichnen.
Erste Verpflichtung für Durchgriffsrecht auf Provider
Das Zusatzprotokoll bringe die 2001 zur Zeichnung aufgelegte Cybercrime-Konvention auf den Stand der neuesten technologischen Herausforderungen, sagte Marija Pejčinović Burić, Generalsekretärin des 46-Mitglieder starken internationalen Staatenbundes. Zu den Unterzeichnerstaaten der Cybercrime-Konvention gehören bereits 66 Staaten in aller Welt, sie alle können auch das Zusatzprotokoll unterzeichnen.
Die Cybercrime-Konvention war das erste internationale Abkommen, das internationale Standards für die Kriminalisierung von Computerstraftaten wie Datendiebstahl oder Kinderpornographie im Netz setzte. Umstritten war zur Zeit der Verabschiedung der „Hackerparagraph“, der den Unterzeichnerstaaten auferlegte, das „Eindringen in Computersysteme“ unter Strafe zu stellen.
Bestandsdaten direkt erhältlich
Auch mit dem zweiten Zusatzprotokoll betritt die Cybercrime-Konvention Neuland. Erstmals verpflichten sich die Unterzeichnerstaaten gemäß Artikel 7, die gesetzlichen Voraussetzungen für direkte Zugriffe von Strafverfolgungsbehörden auf die Bestandsdaten bei Providern zu schaffen. Zu Bestandsdaten gehören laut dem „Erläuternden Bericht“ grob alles, was nicht Verkehrsdaten oder Inhaltsdaten sind, es bleiben also die Art des genutzten Dienstes, die Identität, Postadresse oder Standort, Telefon- oder andere Zugangsnummer, Zahlungsinformation und mehr, sowie Informationen zu bestimmten Zeiten genutzter IP-Adressen.
Die Informationen seien für den Start von Ermittlung auch gegen Bürger im eigenen Land unverzichtbar, die ausländische Diensteanbieter nutzten. Ohne Umweg über die jeweils lokalen Behörden könnte der Zugriff auf ermittlungsrelevante Daten von durchschnittlich 9 Monaten auf 6 Wochen reduziert werden, hofft Alexander Seger, Exekutivsekretär des Vertragsbüros der Cybercrime-Konvention und Chef des Bereichs Cybercrime beim Europarat.
Fragen zur praktischen Ausgestaltung
US-Provider bieten anders als etwa EU-Dienstleister bereits heute an, freiwillig mit Strafverfolgern zusammenzuarbeiten. Die Freiwilligkeit begünstige erhebliche Unterschiede bei der Beantwortung und eine gewisse Willkür der Provider. Was heute noch beantwortet würde, bekäme morgen vielleicht keine Reaktion mehr, beschreibt Seger die Sorge.
Wie nach dem neuen Zusatzprotokoll die Provider verpflichtet werden sollen, die Anfragen zu beantworten, muss die praktische Umsetzung noch zeigen. Grundsätzlich müssen angefragte Unternehmen, die eine Auskunft verweigern, ihre Gründe darlegen. Die anfragende Behörde kann die Angelegenheit dann zu den Partnerbehörden des jeweiligen Landes eskalieren, um den Zugriff dann gemäß Artikel 8 des Protokolls zu erzwingen. Ist das verfolgte Delikt im Zielland nicht strafbar, könnte von dort ein Nein kommen.
Die USA, von wo aktuell das Gros der freiwilligen Providerauskünfte kommt, haben in den Verhandlungen auf die Aufnahme einer Klausel gedrängt, Bestandsdaten immer zuerst bei den Providern abzufragen. Das Kalkül dafür war laut Seger, den Kanal für die Auskünfte zu Inhaltsdaten und Verkehrsdaten nach Artikel 8, beziehungsweise Eilverfahren (Artikel 9) oder die Notfallzusammenarbeit (Artikel 9) nicht zu blockieren.
Zugriff auf Whois-Daten
Spät noch ins Protokoll aufgenommen haben die 66 Verhandlungspartner der Konvention eine Bestimmung zum direkten Zugriff auf Domaininhaberdaten. Seitdem die Internet Corporation for Assigned Names and Numbers (ICANN) die über Jahrzehnte veröffentlichten Kontaktdaten zu Domaininhabern wegen der EU-Datenschutzgrundverordnung (DSGVO) depublizierte, gibt es Streit um den Zugriff durch die Strafverfolger.
Artikel 6 des Zusatzprotokolls regelt das Zugriffsrecht nun zumindest für die Vertragsparteien des Europarats. Registrare und Registries – auch Länderregistries – sollen auf Basis der Regelung die Kontaktdaten von Domaininhabern an ausländische Strafverfolger herausgeben. Weisen sie die Anfragen zurück, soll zu einer dafür vorgesehenen nationalen Stelle eskaliert werden.
Datenschutz ausreichend?
Die Diskussionen über Datenschutzfragen hätten bei der Abfassung des zweiten Protokolls die meiste Zeit eingenommen, versicherte Seger im Pressegespräch. Ein ganzer Abschnitt ist dem Datenschutz gewidmet. Die Bürgerrechtsorganisation European Digital Rights (EDRi) mahnte trotzdem, dass beispielsweise die Regeln über die Weiterverwendung der Daten zu vage seien.
Im „Erklärenden Bericht“ steht etwa, dass auch die Weitergabe im Rahmen internationaler Kooperation im Bereich der Strafverfolgung, die Nutzung für Berichte von Regierungs- und Aufsichtsbehörden, aber auch die Weitergabe an Privatkläger oder die Medien „nicht inkompatibel“ mit dem Protokoll sei.
EDRi forderte daher, das neue Protokoll dem Europäischen Gerichtshof vorzulegen, um zu überprüfen, ob es mit den Grundrechten der EU harmoniere. US-Datenschutzvorkehrungen waren vor dem höchsten US-Gericht immerhin mehrfach durchgefallen.
Rechtsgarantien durch Notifizierung?
Deutschland gehört nicht zu den Erstunterzeichnerstaaten, wie das Bundesjustizministerium bestätigte. Grund dafür ist vor allem, dass die deutsche Sprachfassung noch nicht vorgelegen habe. Zur Unterzeichnung sind die Staaten zugleich verpflichtet, weil der Inhalt des Protokolls die grenzüberschreitende Zusammenarbeit in Strafsachen betrifft. Die fällt in die EU-Kompetenz, und der Rat hat die Unterzeichnung am 5. April beschlossen. Der Ratsbeschluss enthält allerdings laut dem BMJ auch gewisse Absicherungen. Die EU-Staaten werden demnach von den Möglichkeiten zur Notifizierung der direkten Provideranfragen Gebrauch machen.
Christian Dauck 