Bundestag: Antrag der Linksfraktion zur Bekämpfung des sexuellen Missbrauchs von Kindern abgelehnt

Die Linksfraktion ist mit ihrer Forderung gescheitert, eine Stellungnahme des Bundestages gegenüber der Bundesregierung zur geplante EU-Verordnung zur Festlegung von Vorschriften für die Prävention und Bekämpfung des sexuellen Missbrauchs von Kindern zu erwirken.

Super das man die Beschlussempfehlung des Ausschusses für Inneres und Heimat angenommen hat.

Gegen einen entsprechenden Antrag (20/2336) stimmten am Donnerstag, 19. Januar 2023, alle übrigen Fraktionen des Hauses. Der Ausschuss für Inneres und Heimat hatte eine Beschlussvorlage (20/4963) zur Abstimmung vorgelegt. Gemäß Artikel 23 Absatz 3 des Grundgesetzes gibt die Bundesregierung dem Bundestag Gelegenheit zur Stellungnahme vor ihrer Mitwirkung an Rechtsetzungsakten der Europäischen Union. Kommt eine entsprechende Stellungnahme zustande berücksichtigt die Bundesregierung diese bei den Verhandlungen. 

Antrag der Linksfraktion

Die Linksfraktion forderte die Bundesregierung auf, sich in den Verhandlungen auf EU-Ebene und in bilateralen Gesprächen mit anderen Mitgliedsstaaten gegen die geplante EU-Verordnung zur Festlegung von Vorschriften für die Prävention und Bekämpfung des sexuellen Missbrauchs von Kindern einzusetzen. Die Bekämpfung sexueller Gewalt an Kindern solle mit Maßnahmen verfolgt werden, die effektiv seien und keinen Verstoß gegen die Europäische Grundrechtecharta darstellten, hieß es in dem Antrag der Abgeordneten. Dies betreffe Methoden wie Chatkontrolle, Netzsperren, Upload-Filter oder Altersverifizierungen für Messenger.

Darüber hinaus solle sich die Bundesregierung für ein „klares Verbot aller Varianten von Client-Side-Scanning“, also die Durchsuchung und eventuell Ausleitung von Kommunikation auf Endgeräten von Nutzern, einsetzen, sofern diese nicht anlassbezogen seien oder ohne aktive Einwilligung Betroffener geschehen. (lbr/hau/19.01.2023)

Quelle: https://www.bundestag.de/dokumente/textarchiv/2023/kw03-de-praevention-kindesmissbrauch-927034

Kritik vom Bundesrat: EU-Kommission verteidigt Chatkontrolle als Ultima Ratio

Kinder und die Schattenseiten des Internets

Die von ihr vorgeschlagene Überwachung privater verschlüsselter Nachrichten erfolge nur, wenn sie „mit bestehender Technologie“ möglich sei, so die Kommission.

Die EU-Kommission sieht sich bei ihrem heftig umstrittenen Verordnungsentwurf zur Online-Überwachung weitgehend auf einer Linie mit dem Bundesrat. Wie die Länderkammer messe man „der Meinungs-, Kommunikations- und Medienfreiheit eine fundamentale Bedeutung bei“, heißt es in einer Stellungnahme der EU-Kommission zu der Eingabe des Bundesrats. Sie teile auch die Position, „wonach zu gewährleisten ist, dass Eingriffe in diese Rechte so gering wie möglich zu halten“ seien. Alle Maßnahmen müssten „unbedingt erforderlich und verhältnismäßig“ sein.

Mit dem umkämpften Vorhaben sollen auch Anbieter durchgängig verschlüsselter Messaging- und anderer Kommunikationsdienste wie WhatsApp, Apple, Signal und Threema über behördliche Anordnungen dazu verpflichtet werden können, Fotos und Videos von Kindesmissbrauch in den Nachrichten ihrer Nutzer ausfindig zu machen. Der Bundesrat brachte gegen diese Initiative, private Kommunikation nach auffälligen Mustern und möglicherweise über das Aushebeln von Verschlüsselung zu durchsuchen, im September „schwerwiegende grundrechtliche Bedenken“ vor.

Die Kommission verweist dagegen auf „eine Reihe von Schutzmaßnahmen“. So sei eine Chatkontrolle alias „Aufdeckung“ als „Mittel letzter Wahl“ vorgesehen (Ultima Ratio). Sollte eine entsprechende Anordnung erforderlich sein, trage der Vorschlag der „Notwendigkeit Rechnung, für Ausgewogenheit zwischen allen betroffenen Grundrechten zu sorgen“. Letztlich entscheide das die zuständige Koordinierungsbehörde – unter Berücksichtigung eines entworfenen „Durchführungsplans“ des betroffenen Betreibers, der Stellungnahmen der Datenschutzbehörde und des geplanten speziellen EU-Zentrums. Dann könne eine Aufdeckungsanforderung beantragt werden. Abgewogen werden müsse, ob die Auflage zielgerichtet und eine wirksame Chatkontrolle „in dem bestimmten Dienst mit bestehender Technologie ohne unverhältnismäßige Eingriffe in die Privatsphäre der elektronischen Kommunikation möglich ist“.

„Die Aufdeckung ist unter ausschließlicher Verwendung der vom EU-Zentrum bereitgestellten Indikatoren durchzuführen“, heißt es in dem Schreiben, das die federführende Innenkommissarin Ylva Johansson sowie der für interinstitutionelle Beziehungen zuständige Kommissionsvizepräsident Maroš Šefčovič unterzeichnet haben. Damit werde gewährleistet, dass der sexuelle Missbrauch von Kindern im Internet nach dem Prinzip „Treffer/kein Treffer“ aufgedeckt werde. Die auf den Dienst angewandte Erkennungstechnologie könnte so die Nachrichten weder „verstehen“ noch „sonstige Kenntnisse oder Informationen sammeln“. Sie stelle nur fest, „dass die aufgedeckten Inhalte mit den Indikatoren übereinstimmen“.

Der Entwurf dürfte so keine „abschreckende Wirkung“ auf die Medienfreiheit haben oder die Sicherheit der Kommunikation zwischen Journalisten und Informanten und ihren Recherchetätigkeiten in irgendeiner Weise beeinträchtigen, meint die Kommission. Nationale Vorschriften wie die Option, eine Aussage zu verweigern und das Verbot der Verwendung von Beweismitteln blieben in allen Bereichen – auch im investigativen Journalismus – unberührt.

Wie der Bundesrat sei man der Auffassung, „dass Darstellungen sexuellen Kindesmissbrauchs umgehend zu entfernen sind“. Dafür bestehende Verfahren blieben unberührt. Eine generelle Löschpflicht könnte dagegen etwa „in laufende Ermittlungen eingreifen“ und sei daher nicht erstrebenswert. Die Bundesregierung hat seit Langem das Prinzip „Löschen statt Sperren“ verankert. Die Kommission drängt trotzdem parallel erneut auf Websperren, die als Zensurinstrument gelten.

Quelle: https://www.heise.de/news/Kritik-vom-Bundesrat-EU-Kommission-verteidigt-Chatkontrolle-als-Ultima-Ratio-7458725.html

Chatkontrolle: Termine 2023

Die Europäische Kommission hat 2020 ein Gesetz auf den Weg gebracht, das es erlaubt, alle privaten Chats, Nachrichten und E-Mails verdachtslos und flächendeckend auf verbotene Darstellungen Minderjähriger und Anbahnungsversuche (Kontaktaufnahme zu Minderjährigen) zu durchsuchen. 

Das heißt: Facebook Messenger, Gmail & Co dürfen jede Kommunikation auf verdächtiges Text- und Bildmaterial scannen. Und zwar vollautomatisiert, durch den Einsatz von sog. ‘Künstlicher Intelligenz’ – ohne, dass ein Verdacht vorliegen muss. 

8. Mai, 22. Juni, 5. Juli, 20. Juli, 6. September, 22. September, 5. Oktober, 19. Oktober, 3. November, 24. November 2022: Der Gesetzesentwurf wurde in der Ratsgruppe “Strafverfolgung” diskutiert.

28. September 2022: Ratsworkshop zu Durchsuchungstechnologien

10. Oktober 2022: Der Vorschlag wurde präsentiert und diskutiert im führenden Ausschuss (LIBE) – Videoaufzeichnung

16. November 2022: Ratstreffen (Altersverifikation und Verschlüsselung)

30. November 2022: Erstes treffen der Schattenberichterstatter des Europäischen Parlaments

8. – 9. Dezember 2022: Tagung des des Rates „Justiz und Inneres“ in Brüssel

14. Dezember 2022: Treffen der Schattenberichterstatter: Anhörungen

10. Januar 2023: Treffen der Schattenberichterstatter: Anhörungen

24. Januar 2023: Treffen der Schattenberichterstatter: Anhörungen

Protokoll und Drahtberichte: Ampel trägt Chatkontrolle im EU-Minister-Rat grundsätzlich mit

Die SPD-Innenministerin Nancy Faeser legt in der EU der Chatkontrolle keine Steine in den Weg.

Auch nach monatelangen Debatten steht die Position der Bundesregierung zum Verordnungsvorschlag der EU-Kommission für den Kampf gegen sexuelle Gewalt an Kindern und damit verknüpften Instrumenten wie der Chatkontrolle noch nicht. Während einige Ressortchefs rasch erklärten, dass sie die damit verknüpfte massive Überwachung nebst Angriff auf sichere Verschlüsselung ablehnten, war die Haltung des federführenden Bundesinnenministeriums lange kaum greifbar.

Bis zum Jahresende soll die Ressortabstimmung über das umstrittene Dossier nun abgeschlossen und die Linie der Exekutive festgezurrt werden, damit diese sich in die parallel bereits laufende Diskussion im EU-Ministerrat einbringen kann. Der digitalpolitische, SPD-nahe Verein D64 sieht die regierungsinternen Gespräche aber auf keinem gutem Kurs. Er warnt: Seinen Informationen zufolge „laufen die Vorschläge des Innenministeriums weiterhin auf das Ende der Privatheit von Kommunikation hinaus“.

„E-Mails, Messenger-Dienste und weitere Kommunikationsplattformen sollen anlasslos und massenhaft überwacht werden“, kritisiert D64 die Haltung von Bundesinnenministerin Nancy Faeser (SPD). „Konkret soll Verschlüsselung durch Client-Side-Scanning (CSS) unterlaufen werden. Dies bedeutet, dass jeder verschlüsselte Chat, zum Beispiel WhatsApp- oder Signal-Nachrichten, auf den Endgeräten gescannt und bei Verdachtsmeldungen zur Überprüfung weitergeleitet“ werde. Zudem sollten Upload-Filter und Netzsperren sowie „extrem fehleranfällige Künstliche Intelligenz“ (KI) eingesetzt werden. Unschuldige Bürger würden so zu Verdächtigen, intime Austausche könnten von Dritten eingesehen werden.

Mit dem Entwurf der Kommission sollen auch Anbieter durchgängig verschlüsselter Messaging- und anderer Kommunikationsdienste wie WhatsApp, Apple, Signal und Threema über behördliche Anordnungen dazu verpflichtet werden, Fotos und Videos von Kindesmissbrauch in den Nachrichten ihrer Nutzer ausfindig zu machen und die private Kommunikation flächendeckend zu scannen. Faeser begrüßte die Initiative zunächst, erklärte sie später in Teilen aber für rechtlich heikel.

Insgesamt verstrickte sich die Sozialdemokratin bisher in der Frage in Widersprüche. Sie erklärte etwa, sie halte eine anlasslose Kontrolle verschlüsselter privater Kommunikation „für nicht vereinbar mit unseren Freiheitsrechten“. Nötig sei eine rechtsstaatliche Balance. Andererseits sprach sie insgesamt von einem „sehr wichtigen Kommissionsvorschlag“, den es gemeinsam voranzutreiben gelte, „um diese entsetzliche Kriminalität wirksam einzudämmen“.

Aus dem Bundesinnenministerium war aktuell zu entnehmen, dass Anbieter wie Facebook und Google schon jetzt Inhalte freiwillig automatisiert auf Missbrauchsdarstellungen durchsuchten. Diese – ebenfalls umstrittenen – Maßnahmen brächten immer wieder wichtige Ansätze für Ermittlungen.

Die FDP-geführten Bundesministerien für Digitales und Justiz stellten dagegen jüngst rote Linien gegen die Chatkontrolle auf. Sie wollen etwa verhindern, dass die Ende-zu-Ende-Verschlüsselung von Messengern unterwandert wird. Zuvor hatte Digitalminister Volker Wissing eine allgemeine Chatkontrolle als „nicht hinnehmbar“ ausgeschlossen. Bundesfamilienministerin Lisa Paus von den Grünen geht das Werkzeug ebenfalls zu weit.

Die Ampel-Parteien haben sich in ihrem Koalitionsvertrag gegen flächendeckende Kinderporno-Scans, für das Recht auf anonyme und pseudonyme Nutzung des Internets sowie die Stärkung von durchgehender Verschlüsselung ausgesprochen.

Jens Zimmermann, digitalpolitischer Sprecher der SPD-Bundestagsfraktion, betonte gegenüber heise online, diese Passagen seien für ihn maßgeblich. Er gehe davon aus, dass die Bundesregierung auf europäischer Ebene auf dieser Basis verhandele und „alle Maßnahmen unterstützt, die einen wirksamen Beitrag zur Bekämpfung des sexuellen Missbrauchs leisten können, ohne aber den Schutz der Vertraulichkeit der Kommunikation“ und das Computer-Grundrecht in Frage zu stellen.

Auch für Tobias Bacherle, Obmann der Grünen-Fraktion im Digitalausschuss, ergibt sich aus der Koalitionsvereinbarung eine klare Schlussfolgerung: „Wir setzen uns gegen die sogenannte Chatkontrolle, also das Client-Side Scanning ein.“ Das Vorhaben könne „zu einer gefährlichen Blaupause für autoritäre Staaten werden“. Nötig sei stattdessen „eine effektivere und zielgerichtete Verfolgung dieser Gräueltaten“. Das setze bei mehr Personal in den Strafverfolgungsbehörden und den weiteren Ausbau von Kompetenzen an, um bestehende Datensätze besser auswerten und nachverfolgen zu können.

Sexuelle Gewalt gegen Kinder sei „ein ernsthaftes und globales Problem ist, das wir als Ampel-Koalition konsequent und mit der vollen Härte des Rechtsstaats verfolgen“, hob Manuel Höferlin, innenpolitischer Sprecher der FDP-Fraktion, hervor. Die Chatkontrolle lehne er aber ab, „denn sie würde den größten Dammbruch für die Vertraulichkeit der Kommunikation seit der Erfindung des Internets bedeuten“. Das Regierungsbündnis sollte besser Quick Freeze auf den Weg bringen, „um den Ermittlern endlich ein Instrument im Kampf gegen die Darstellung sexualisierter Gewalt im Internet zu geben“.

Es sei vor allem als Faesers Aufgabe als Verfassungsministerin „Grundrechte und Demokratie in Deutschland zu verteidigen“, unterstrich Erik Tuchtfeld, Co-Vorsitzender von D64. Der Verein erhoffe sich von der sozialdemokratischen Hausspitze „eine Abkehr von der Innenpolitik der letzten 16 Jahre, die von verfassungswidrigen Überwachungsmaßnahmen geprägt war„. Diese seien immer wieder vor Gericht gescheitert sind und hätten Deutschland so unsicherer gemacht. Die Exekutive müsse sich auf EU-Ebene entschieden gegen die Chatkontrolle stellen.

Die Bürgerrechtsorganisation Digitalcourage verwies darauf, dass die am Freitag wegen Korruptionsverdacht festgenommene Vizepräsidentin des EU-Parlaments, Eva Kaili, zusammen mit EU-Innenkommissarin Ylva Johansson in Brüssel als „treibende Kraft hinter der Chatkontrolle“ fungiert habe. Die Aktivisten fordern daher, das Gesetzgebungsverfahren auszusetzen und die Rolle der griechischen Sozialdemokratin „schonungslos aufzuklären“. Sämtliche Gesetze, an denen Kaili mitgewirkt habe, gehörten auf den Prüfstand. Eine entsprechende Petition ist offen für Mitunterzeichner.

Bislang hält sich Deutschland auf Ratsebene mit Kritik an Chatkontrolle und Online-Blockaden zurück, geht aus einem Protokoll und einem Drahtbericht hervor, die Netzpolitik.org veröffentlicht hat. Vor allem Finnland und Österreich bringen demnach bislang Einwände vor. Die tschechische Ratspräsidentschaft will den Kommissionsentwurf dagegen noch verschärfen.

Quelle: https://www.heise.de/news/Messenger-Ueberwachung-Faesers-Position-zu-Chatkontrolle-stoesst-auf-viel-Kritik-7392629.html

Wer darf mitlesen? Bundesregierung sucht Haltung zur Chatkontrolle

  • Die EU-Kommission will Facebook, WhatsApp und andere Anbieter verpflichten, private Kommunikation auf Hinweise zu Kindesmissbrauch zu scannen.
  • Abgeordnete von SPD, Grünen und FDP sowie Justizminister Buschmann lehnen die „Chatkontrolle“ strikt ab.
  • Das Bundesinnenministerium findet in den Plänen der Europäischen Union dagegen auch positive Aspekte.
  • Noch ist es der Koalition nicht gelungen, sich auf eine Position festzulegen. Die Union drückt aufs Tempo.

Darf ein Staat sich Einblick in die private Kommunikation seiner Bürgerinnen und Bürger verschaffen, um dort Darstellungen von sexualisierter Gewalt gegen Kinder aufzuspüren? Sollen WhatsApp, Signal, Facebook, Telegram und andere Anbieter dafür Text- und Bildnachrichten durchleuchten?

Über dieses Thema wird gerade in Europa diskutiert. Anlass sind die Pläne der Europäischen Kommission zur sogenannten Chatkontrolle. Auch die deutsche Bundesregierung will dazu bald eine gemeinsame Haltung finden – doch die ist bisher nicht in Sicht.

Chatkontrolle: Das sind die Pläne der EU-Kommission

Im vergangenen Mai hat die EU-Kommission den Entwurf für eine Verordnung vorgestellt, mit der sie gegen sexualisierte Gewalt gegen Kinder vorgehen will. Innen-Kommissarin Ylva Johansson will es Sicherheitsbehörden zum Beispiel erleichtern, kinderpornografisches Material aufzuspüren. Konkret sieht der Entwurf unter anderem vor:

  • Die EU will soziale Netzwerke und Messenger wie WhatsApp, Signal, Facebook oder Instagram verpflichten, die private Kommunikation ihrer Nutzerinnen und Nutzer zu scannen: Sie sollen dort gezielt nach Darstellungen sexueller Gewalt gegen Kinder suchen. Dazu müssten sie wahrscheinlich die Verschlüsselung von privaten Nachrichten umgehen oder aussetzen.
  • Ein neues EU-Zentrum soll die technischen Möglichkeiten für dieses Scannen schaffen und verdächtige Inhalte prüfen.
  • Bekämpfen will die EU nicht nur den Austausch von Fotos und Videos, sondern auch das sogenannte Grooming. Dabei erschleichen sich Erwachsene im Internet das Vertrauen von Kindern und Jugendlichen, um sie sexuell zu belästigen. Deswegen müssten die Anbieter auch Textnachrichten durchleuchten.
  • Anbieter sollen zudem die Möglichkeit bekommen, den Zugang von Minderjährigen zu bestimmten Apps komplett zu beschränken. Kinder und Jugendliche sollen Programme, die für sie gefährlich werden können, dann gar nicht mehr nutzen können.

EU-Kommissarin Johannsson weist auf den hohen Handlungsbedarf hin: Allein 2021 seien rund 85 Millionen Missbrauchsdarstellungen entdeckt worden. Dass sexualisierte Gewalt gegen Kinder entschiedener bekämpft werden muss, würde wohl jeder unterschreiben. Doch Kritikerinnen und Kritiker sehen in den EU-Plänen einen zu massiven Eingriff in die Privatsphäre. Diese Kritik ist in Deutschland nicht nur von Bürgerrechtsorganisationen zu hören, sondern auch von Parteien aus den Bundesländern und von Datenschützern.

Viel Widerstand von SPD, Grünen und FDP

„Eine europäische Koordination der Strafverfolgungsbehörden ist grundsätzlich sinnvoll. Auch ein EU-Zentrum könnte man so ausgestalten, dass es eine gute Sache wird“, sagt der Grünen-Bundestagsabgeordnete Tobias Bacherle, Obmann seiner Fraktion im Digital-Ausschuss. Eine Hintertür bei den Messengern einzubauen, würde aus seiner Sicht aber eine neue Sicherheitslücke schaffen. „Damit würde man eine Technologie entwickeln und marktreif machen, die auch auf andere Themen umprogrammiert oder von anderen Staaten eingefordert werden könnte“, sagt Bacherle. „Private Kommunikation muss privat bleiben. Auch Opfer müssen zum Beispiel geschützt kommunizieren können.“

Die SPD-Abgeordnete und Innen-Politikerin Carmen Wegge hält ein europäisches Vorgehen bei dem Thema ebenfalls für sinnvoll. Trotzdem müsse die Verhältnismäßigkeit gewährleistet sein. „Beim aktuellen Vorschlag der EU-Kommission ist das aus meiner Sicht nicht der Fall“, so Wegge. Mit der umstrittenen Verordnung bestehe die Gefahr einer Architektur, „die in den Messengern aktiv Schwachstellen einbaut und eine anlasslose Überwachung von privater Kommunikation an- und ausschaltbar werden lässt“.

Der FDP-Europa-Abgeordnete Moritz Körner sieht auch das Scannen von Textnachrichten kritisch: „Dies würde das Ende des digitalen Briefgeheimnisses für die EU-Bürger bedeuten“, schreibt er auf seiner Homepage.

Auch Bundesjustizminister Marco Buschmann (FDP) hat sich gegen das Vorhaben aus Brüssel ausgesprochen. Digitale Bürgerrechte sind aus seiner Sicht keine Bürgerrechte zweiter Klasse. „Ich bin sehr skeptisch, was diesen neuen Entwurf angeht – sowohl rechtlich, aber gerade auch politisch.“ Die Vertraulichkeit privater Kommunikation mache diese erst wirklich frei. „Deshalb lehnen wir generelle flächendeckende Überwachungsmaßnahmen privater Korrespondenz gerade auch im digitalen Raum ab“, so Buschmann.

Innenministerin Nancy Faeser: „Rechtsstaatliche Balance halten“

Neben dem Justizressort sehen auch die Bundesministerien für Familie sowie für Verkehr und Digitales die EU-Pläne kritisch. Die Federführung bei dem Thema hat allerdings das Bundesinnenministerium. Dort sieht man die Sache offenbar differenzierter.

Bundesinnenministerin Nancy Faeser (SPD) will eine „rechtsstaatliche Balance“ halten: Auch sie lehnt es ab, dass verschlüsselte private Kommunikation anlasslos kontrolliert werden kann. „Das halte ich für nicht vereinbar mit unseren Freiheitsrechten.“ Sie findet allerdings auch positive Aspekte an den Vorschlägen der EU. „Insgesamt haben wir einen sehr wichtigen Kommissionsvorschlag, den wir gemeinsam vorantreiben wollen, um diese entsetzliche Kriminalität wirksam einzudämmen.“

Faeser hat ihr Ziel folgendermaßen formuliert: „Wir werden erstmals europäische Instrumente schaffen, um Onlineplattformen in die Pflicht zu nehmen, damit Missbrauchsdarstellungen entdeckt, gelöscht und die Täter verfolgt werden.“ Wie genau das aussehen könnte, ist bisher aber unklar.

Ein Sprecher des Bundesinnenministeriums weist auf Anfrage unserer Redaktion zudem darauf hin, dass einige Maßnahmen schon jetzt von den Anbietern auf freiwilliger Basis umgesetzt werden. Aus Sicht des Ministeriums liefern diese Maßnahmen immer wieder wichtige Ansätze für Ermittlungen. Die rechtliche Basis ist eine befristete Verordnung, die im August 2024 ausläuft. „Der Kommissionsentwurf strebt eine rechtssichere und dauerhafte Rechtsgrundlage im Kampf gegen sexuellen Missbrauch von Kindern an“, so der Sprecher.

Die Kritiker der Chatkontrolle sind überzeugt, dass ein größerer Erfolg beim Kampf gegen Missbrauchsdarstellungen auch ohne neue Eingriffsmöglichkeiten des Staates möglich wären. „Mehr Daten allein helfen der Sache noch nicht“, sagt der Grünen-Abgeordnete Bacherle. Die Sicherheitsbehörden müssten Daten auch verarbeiten und auswerten, um festzustellen, ob es sich um strafbare Inhalte oder unproblematische Amateurfotos handelt. „Das Bundesinnenministerium hat bisher nicht gesagt, was den Sicherheitsbehörden für eine effektivere Strafverfolgung fehlt.“

Mehrheiten auf EU-Ebene unklar

Für die Verhandlungen auf europäischer Ebene braucht die deutsche Bundesregierung eine gemeinsame Position. Diese Position suchen die Ministerien gerade. Die Opposition drückt aufs Tempo. Er begrüße die Zielrichtung des EU-Vorstoßes, teilt Alexander Throm, innenpolitischer Sprecher der CDU/CSU-Fraktion, mit. Die Union hat auch bei einem anderen umstrittenen Thema – der Vorratsdatenspeicherung – nicht so große Datenschutzbedenken wie die Ampel-Parteien.

Allerdings sieht auch Throm noch technischen und rechtlichen Klärungsbedarf. In der vergangenen Sitzung des Innenausschusses im Bundestag habe man die Bundesregierung um eine Stellungnahme gebeten, sagt er. Die Ampel-Koalition habe den Tagesordnungspunkt aber abgesetzt.“Offenbar, weil die Bundesregierung bei diesem Thema selbst noch keine abgestimmte Position hat.“

Die Verhandlungen im Europäischen Rat werden im Januar weitergehen. Ob die Kommissionspläne dort durchfallen oder bestätigt werden, ist noch offen. Das Veto eines einzelnen Staates könnte die Chatkontrolle nicht stoppen, entschieden wir per Mehrheit. Als erstes EU-Mitgliedsland hat sich Anfang November Österreich klar gegen die Pläne der EU-Kommission gestellt. Der EU-Unterausschuss des Nationalrats sprach sich mit großer Mehrheit gegen das Gesetzesvorhaben aus. Auch Polen, die Niederlande und Finnland gelten als skeptisch.

Quelle: https://web.de/magazine/politik/mitlesen-bundesregierung-sucht-haltung-chatkontrolle-37543324


Doma GIF - Find & Share on GIPHY
Die Union hat auch bei einem anderen umstrittenen Thema – der Vorratsdatenspeicherung – nicht so große Datenschutzbedenken wie die Ampel-Parteien.

Bundesinnenministerin Nancy Faeser (SPD) will eine „rechtsstaatliche Balance“ halten: Auch sie lehnt es ab, dass verschlüsselte private Kommunikation anlasslos kontrolliert werden kann. „Das halte ich für nicht vereinbar mit unseren Freiheitsrechten.“ Sie findet allerdings auch positive Aspekte an den Vorschlägen der EU. „Insgesamt haben wir einen sehr wichtigen Kommissionsvorschlag, den wir gemeinsam vorantreiben wollen, um diese entsetzliche Kriminalität wirksam einzudämmen.“

Die Opposition drückt aufs Tempo. Er begrüße die Zielrichtung des EU-Vorstoßes, teilt Alexander Throm, innenpolitischer Sprecher der CDU/CSU-Fraktion, mit. Die Union hat auch bei einem anderen umstrittenen Thema – der Vorratsdatenspeicherung – nicht so große Datenschutzbedenken wie die Ampel-Parteien.

Die Verhandlungen im Europäischen Rat werden im Januar weitergehen. Ob die Kommissionspläne dort durchfallen oder bestätigt werden, ist noch offen. Das Veto eines einzelnen Staates könnte die Chatkontrolle nicht stoppen, entschieden wir per Mehrheit.

Bei der Bundestagswahl muss ich wohl wieder CDU gewählt werden, gerade bei der Sicherheit ist mir diese Partei am liebsten. Mal schauen wie sich das mit der Chatkontrolle entwickelt, spannend und interessant.

Es gibt zwar auch Kritiker und Skeptiker aber ohne die wäre es auch zu einfach bzw. zu langweilig, wo bleibt denn da der Spaß wenn die tollen strengen/scharfen Sicherheitsgesetze auf dem Silbertablett kommen.

Christian Dauck

Bericht: Twitter-Moderation verstärkt automatisiert, Verstecken statt Löschen

Laut einem Medienbericht setzt Twitters Moderatorenteam verstärkt auf automatisches Erkennen regelwidriger Inhalte. Gelöscht werden soll aber seltener.

Nach der Übernahme durch Elon Musk und dessen Firmenumbau setzt der Kurznachrichtendienst Twitter inzwischen verstärkt auf Automation beim Moderieren von Inhalten. Nutzer-Postings, die möglicherweise Regeln der Plattform verletzen, will das Unternehmen hauptsächlich automatisch erkennen und eine Überprüfung durch Menschen seltener einsetzen. Außerdem sollen fragwürdige Inhalte künftig seltener gelöscht und stattdessen besser versteckt (also etwa nicht mehr vorgeschlagen) werden und schwieriger auffindbar sein. Das sagte die Vizepräsidentin für Vertrauen und Sicherheit bei dem Unternehmen, Ella Irwin, der Nachrichtenagentur Reuters.

Beim Thema Kindesmissbrauch will Twitter zudem vermehrt Hashtags mit einem thematischen Bezug dazu zu verhindern sowie Suchergebnisse zu diesem Thema auszusortieren. Das wolle man auch dann durchsetzen, wenn dabei eine eigentlich harmlose Verwendung bestimmter Schlüsselwörter unbeabsichtigt eingeschränkt werde, sagte Irwin gegenüber Reuters.

In einem Interview am Donnerstag sagte sie zudem, die größte Veränderung (seit der Übernahme durch Musk) sei die vollständige Befähigung des Teams (für Inhaltemoderation), schnell und möglichst aggressiv vorzugehen. Nachdem Musk zahlreiche gesperrte Konten wieder freigegeben hatte – darunter von Ex-US-Präsident Trump –, hatten Beobachter einen Anstieg regelwidriger Inhalte beobachtet, etwa den Gebrauch rassistischer Schimpfwörter. Das hatte der Plattform zeitweise einen beschädigten Ruf und einen Rückgang von Werbeeinnahmen eingetragen, weil Musks Willen angezweifelt worden war, gegen regelwidrige Inhalte vorzugehen.

Um das Thema Moderation von Twitter-Inhalten ging es auch bei einem Treffen zwischen Musk und dem französischen Staatspräsidenten Emmanuel Macron bei dessen USA-Besuch. Dabei sagte Musk eine deutliche Verstärkung zu bei dem Bemühen, Inhalte zu prüfen und zugleich die Redefreiheit zu bewahren. Irwin berichtete Reuters davon, dass Musk das Moderationsteam von Twitter mehrfach aufforderte, bei seinen Eingriffen weniger darüber nachzudenken, wie sich das auf das Nutzerwachstum oder die Einnahmen des Unternehmens auswirken könne.

Macron selbst twitterte über sein Treffen mit Musk, er habe mit dem Firmeninhaber eine „klare und ehrliche Diskussion“ geführt. Musk habe sich dazu bekannt, gegen terroristische und gewalttätige, extremistische Inhalte vorzugehen und Kinder online besser zu schützen.

Quelle: https://www.heise.de/news/Bericht-Twitter-Moderation-verstaerkt-automatisiert-Verstecken-statt-Loeschen-7365474.html

Bundesrat billigt: Novelle des Bundesnaturschutzgesetzes, EEG-Novelle 2023, Ersatzkraftwerke bei Gasmangel und Wind-an-Land-Gesetz

Bundesrat billigt Novelle des Bundesnaturschutzgesetzes

Nur einen Tag nach dem Bundestag haben auch die Länder die Novelle des Bundesnaturschutzgesetzes gebilligt – sie ist Teil des so genannten Osterpakets der Bundesregierung. Das Gesetz kann nun dem Bundespräsidenten zur Unterzeichnung vorgelegt und anschließend im Bundesgesetzblatt verkündet werden. Es soll unmittelbar am Tag darauf in Kraft treten.

Mehr Windenergie an Land

Ziel der Novelle ist, den naturverträglichen Ausbau der erneuerbaren Energien und vor allem der Windenergie an Land bis 2045 zu beschleunigen und damit die Energiesicherheit zu gewährleisten – auch vor dem Hintergrund der aktuellen Krise.

Dazu wird im Bundesnaturschutzgesetz der Grundsatz verankert, dass Errichtung und Betrieb von Windenergieanlagen im überragenden öffentlichen Interesse liegen und der öffentlichen Sicherheit dienen. So dürfen künftig auch Landschaftsschutzgebiete in die Suche nach Flächen für den Windenergieausbau einbezogen werden.

Bundeseinheitliche Prüfstandards

Bundeseinheitliche Standards sollen die Genehmigungsverfahren vereinfachen und beschleunigen – vor allem bei der artenschutzrechtlichen Prüfung. Hier liegt der Fokus auf der Signifikanzprüfung beim Tötungs- und Verletzungsverbot für Vögel und auf der artenschutzrechtlichen Ausnahmeerteilung.

Zusätzliche artenschutzbezogene Erleichterungen sieht das Gesetz für das sogenannte Repowering von Windanlagen vor, das ältere Windräder durch leistungsfähigere neue ersetzt.

Ausgleich zwischen Natur- und Klimaschutz

Das Bundesamt für Naturschutz ist künftig dafür zuständig, zum dauerhaften Schutz besonders betroffener Arten – zum Beispiel bestimmte Brutvögel und Fledermäuse – nationale Artenhilfsprogramme aufzustellen und umzusetzen. Zur Finanzierung sollen auch Anlagenbetreiber beitragen.


Bundesrat macht Weg frei für EEG-Novelle 2023

Der Bundesrat hat am 8. Juli 2022 das vom Bundestag am 7. Juli 2022 verabschiedete Gesetz zu Sofortmaßnahmen für einen beschleunigten Ausbau der erneuerbaren Energien und weiteren Maßnahmen im Stromsektor gebilligt. Es kann daher – ebenso wie die anderen Teile des so genannten Osterpakets der Bundesregierung – dem Bundespräsidenten zur Unterzeichnung zugeleitet werden.

Grundlegende Überarbeitung des EEG

Die Novelle richtet die Klima-, Energie- und Wirtschaftspolitik auf den 1,5-Grad-Klimaschutz-Pfad aus und überarbeitet dazu das gesamte Erneuerbare-Energien-Gesetz grundlegend und umfassend, ändert flankierend zahlreiche andere Gesetze. Ziel ist es, im Jahr 2045 Treibhausgasneutralität zu erreichen.

Ausbauziele 2030

Die Novelle definiert ambitioniertere Ausbauziele für die erneuerbaren Energien: Im Jahr 2030 sollen 80 Prozent des in Deutschland verbrauchten Stroms aus erneuerbaren Energien stammen.

Höhere Ausbaupfade und Ausschreibungsmengen

Um dieses Ziel zu erreichen, legt das Gesetz Ausbaupfade und Ausschreibungsmengen für die einzelnen Technologien zur Erzeugung von Strom aus erneuerbaren Energien fest. So erhöht es die aktuellen Ausbauraten bei der Windenergie an Land auf 10 Gigawatt pro Jahr, so dass im Jahr 2030 insgesamt rund 115 Gigawatt Leistung aus Windkraft stammt. Den Ausbau von Solarenergie schreibt das Gesetz auf 22 Gigawatt pro Jahr vor – im Jahr 2030 sollen insgesamt rund 215 Gigawatt Solar-Leistung in Deutschland erreicht sein.

Endgültiges Aus für EEG-Umlage

Das Gesetz schafft die EEG-Umlage dauerhaft ab, nachdem sie durch eine kürzliche Änderung bereits auf Null abgesenkt worden war.

Beschleunigte Genehmigungsverfahren

Gesetzlich wird klargestellt, dass alle erneuerbaren Energien – auch die Wasserkraft – im überragenden öffentlichen Interesse stehen. Dies ist für Planungs- und Genehmigungsabwägungen relevant und soll zur Beschleunigung der Verfahren beitragen.

Gesplittetes Inkrafttreten

Nach Unterzeichnung durch den Bundespräsidenten kann die Novelle im Bundesgesetzblatt verkündet werden. Einige Passagen treten direkt am Tag darauf bzw. in einigen Wochen bzw. Monaten in Kraft, das Gesetz im Übrigen am 1. Januar 2023.


Ersatzkraftwerke bei Gasmangel – Bundesrat stimmt zu

Nur einen Tag nach der Beschlussfassung des Bundestages hat der Bundesrat am 8. Juli 2022 einem Gesetz zugestimmt, das die Bereithaltung von Ersatzkraftwerken zur Reduzierung des Gasverbrauchs im Stromsektor im Fall einer drohenden Gasmangellage vorsieht. In einer begleitenden Entschließung fordern die Länder insbesondere Maßnahmen zum Schutz von Verbraucherinnen und Verbrauchern und zur Sicherung der Versorgungssicherheit.

Nutzung von Reservekraftwerken

Das Gesetz ermöglicht es, dem Strommarkt durch Änderungen im Energiewirtschaftsgesetz befristet zusätzliche Kapazitäten zur Stromerzeugung mit Stein- und Braunkohle sowie Mineralöl zur Verfügung zu stellen.

Dazu können Kraftwerke genutzt werden, die derzeit nur eingeschränkt verfügbar sind, demnächst stillgelegt würden oder sich in einer Reserve befinden. Dies soll die Gasverstromung soweit wie möglich ersetzen, um Erdgas einzusparen.

Außerdem schafft das Gesetz eine Verordnungsermächtigung, um im Falle einer Gefährdung des Gasversorgungssystems sehr schnell den Einsatz von Gaskraftwerken beschränken und dadurch den Gasverbrauch in der Stromerzeugung noch weiter senken zu können.

Hilfen für Gasunternehmen

Änderungen am Energiesicherungsgesetz aus Mai 2022 ermöglichen bereits eine Treuhandverwaltung oder Enteignung von Unternehmen der kritischen Infrastruktur. Das nunmehr verabschiedete Gesetz erleichtert nun auch den Einstieg des Bundes bei strauchelnden Gasimporteuren.

Es ermöglicht zudem, die steigenden Kosten der Gasbeschaffung durch ein Umlagesystem auf alle Gasverbraucherinnen und -verbraucher zu verteilen.

Die Bundesregierung wird insofern ermächtigt, ohne Zustimmung des Bundesrates durch Rechtsverordnung einen durch eine saldierte Preisanpassung finanzierten finanziellen Ausgleich vorzusehen. Voraussetzung ist, dass eine erhebliche Reduzierung der Gasimportmengen nach Deutschland unmittelbar bevorsteht oder von der Bundesnetzagentur festgestellt worden ist.

Eine vergleichbare Regelung hat die Bundesregierung für die der Gasebene nachgeordnete Marktebene der Fernwärme bereits getroffen. Dieser Verordnung hat der Bundesrat am 8. Juli 2022 ebenfalls zugestimmt.

Schutzschirm für energiewirtschaftliche Lieferkette

In der Entschließung bringt der Bundesrat seine Sorge über die sich verschärfende Gasmarktkrise zum Ausdruck. Er bittet die Bundesregierung, kurzfristig alle notwendigen Schritte zur Stabilisierung der Versorgungssicherheit zu unternehmen und insbesondere die Einführung eines Schutzschirms für die komplette energiewirtschaftliche Lieferkette zu prüfen. Um Härten für Verbraucherinnen und Verbraucher zu vermeiden, solle zudem ein befristetes Moratorium für Strom- und Gaspreise geprüft werden.

Unterzeichnung, Verkündung und Inkrafttreten

Das Gesetz wird nun über die Bundesregierung dem Bundespräsidenten zur Unterzeichnung zugeleitet. Es wird größtenteils am Tag nach der Verkündung im Bundesgesetzblatt in Kraft treten, in Teilen am zweiten Tag nach der Verkündung und in Teilen erst nach der beihilfenrechtlichen Genehmigung durch die Europäische Kommission. Die die Ersatzkraftwerke betreffenden Regelungen treten mit Ablauf des 31. März 2024 außer Kraft.

Die Entschließung wurde der Bundesregierung zugeleitet. Sie entscheidet, wann sie sich mit den Anliegen des Bundesrates befasst. Feste Fristen gibt es hierfür nicht.


Bundesrat billigt Wind-an-Land-Gesetz

Der Bundesrat hat am 8. Juli 2022 das Gesetz zur Erhöhung und Beschleunigung des Ausbaus von Windenergieanlagen an Land gebilligt, das der Bundestag einen Tag zuvor verabschiedet hatte. Es flankiert die erhöhten Ausbauziele für Stromgewinnung aus erneuerbaren Energien der EEG-Novelle 2023, die ebenfalls erfolgreich Bundestag und Bundesrat passierte. Damit können alle Teile des „Osterpakets“ der Bundesregierung dem Bundespräsidenten zur Unterzeichnung vorgelegt werden.

2 Prozent Landesflächen für Windenergie

Bis spätestens 31. Dezember 2032 müssen 2 Prozent der Landesflächen für Windenergie an Land zur Verfügung stehen – dies bedeutet mehr als eine Verdoppelung der derzeit ausgewiesenen Fläche, die aktuell 0,8 Prozent der Bundesfläche beträgt. Tatsächlich verfügbar sind nach Angaben der Bundesregierung lediglich 0,5 Prozent.

Verbindliche Flächenziele für die Bundesländer

Das neue Windenergieflächenbedarfsgesetz gibt den Ländern in zwei Etappen verbindliche Flächenziele vor – sogenannte Flächenbeitragswerte: Ein Verteilungsschlüssel legt für jedes Bundesland konkrete Quoten bis 2027 bzw. 2032 fest. Er berücksichtigt die bereits vorhandenen Flächenpotenziale für den Ausbau der Windkraftanlagen in den einzelnen Ländern. Die Staffelung reicht von 0,5 Prozent für Stadtstaaten bis zu 2,2 Prozent für einige Flächenländer.

Einschränkung der Länderöffnungsklausel

Die bisherige Länderöffnungsklausel, die es den Ländern bislang erlaubt, Mindestabstände der Windräder von bis zu einem Kilometer zu Wohngebieten festzulegen, bleibt zwar bestehen. Die Landesregeln greifen jedoch nur dann, wenn die im Verteilerschlüssel festgelegten Flächenziele in den jeweiligen Ländern erreicht sind.

Privileg für Repowering bestehender Standorte

Das Gesetz erleichtert das so genannte Repowering von älteren Windkraftanlagen, bei denen neue, leistungsstärkere Elemente am alten Standort eingesetzt werden können.

Weiteres Ziel des Gesetzes ist es, die Planungsmethodik und ihre gerichtliche Kontrolle zu vereinfachen, die Planung zu beschleunigen und die Rechtssicherheit zu erhöhen, heißt es in der Gesetzesbegründung. Hierzu erfolgen Änderungen unter anderem im Baugesetzbuch.

Inkrafttreten in einigen Monaten

Das Gesetz kann nach Unterzeichnung durch den Bundespräsidenten im Bundesgesetzblatt verkündet werden. Es soll im siebten Monat nach der Verkündung in Kraft treten.

Quelle: https://www.bundesrat.de/DE/plenum/bundesrat-kompakt/22/1023/1023-pk.html

Ungebildete Gegner der EU-Chatkontrolle: Ihr habt doch auch von Kivi und E-Evidence gehört oder?! Digitale Freiheit ist eine Illusion!

Ungebildete Gegner der EU-Chatkontrolle: Ihr kennt doch auch Kivi und E-Evidence oder?! Est ist erstaunlich was es alles gibt und wie KI (Künstliche Intelligenz) in der Strafverfolgung immer mehr Fuß fasst undder Austausch von Beweismitteln Landesweit ausgebaut wird.

Von Kivi hab ich anfangs auch nicht viel gehört. Landesmedienanstalten setzen KI ein hieß es immer und hab die Nachrichten weiter überflogen. Denn Landesmedienanstalten das sind doch die, die sich vorwiegen mit Ferngesehen und TV beschäftigen, aber weit gefehlt.

Warum Protest gegen die EU-Chatkontrolle? Wo ihr doch schon jetzt alle bereit seit euch von einer KI überwachen zulassen und das eure Daten Landesweit abgefragt und weiter gegen werden dürfen.

Warum so fixiert auf die EU-Chatkontrolle und Sie Negativ machen? Denkt ihr wirklich es braucht euch für Digitale-Bildung: das ihr mir (Autist, Förderschulabschluss, WfBM) und andere was beibringen könnt. Ich halte euch Gegner der EU-Chatkontrolle für ziemlich Digital-Ungebildet. Ihr startet ein Aufschrei gegen die Chatkontrolle aber gegen Kivi und E-Evidence höre ich von euch nichts. Das ist lug und Betrug an der Zivilgesellschaft, in und außerhalb der EU.

Diese müsst ihr ja für ziemlich dumm halten, es gibt so viel mehr als die EU-Chatkontrolle – irgendwelche KIs suchen schon heute bzw. jetzt nach Strafbaren Inhalten und Nutzerdaten fließen zwischen Strafverfolgungsbehörden schon jetzt über Ländergrenzen hinweg. Was ihr nicht wollt gib es in irgendeiner anderen Form schon – Diese überwachte digitalen Welt ist jetzt schon da und kommt nicht erst morgen, übermorgen oder in 3 Jahren mit der EU-Chatkontrolle. Auch ihr Akzeptiert diese überwachte digitalen Welt mit KIs und Weitergabe eurer Daten, sonst würde ihr kein Internet nutzen. Sie ist allgegenwärtig und da!

Schlusswort

Sei der Wiederstand noch so groß. KI wird sich schlussendlich immer mehr in der Strafverfolgung etablieren (direkt und indirekt), offline und online. Das ist super. Ich freue mich auf diese interessante und spannende Zukunft der KI-Strafverfolgung, in der Analogen und Digitalen Welt. Digitale Freiheit ist eine Illusion!

KI findet tausende rechtswidrige und jugendgefährdende Inhalte im Internet

Die Landesmedienanstalten suchen mit neuer Software nach Rechtsverstößen im Internet – und finden derzeit mehr potenziell Illegales, als sie bearbeiten können.

Innerhalb eines Jahres hat KIVI 20.685 Funde gemeldet, von denen 14.907 geprüft wurden. In 6766 Fällen stellten die Medienwächter einen Verstoß gegen deutsche Gesetze fest. Davon betrafen 692 Verstöße den politischen Extremismus und 67 Delikte den Bereich Gewalt und Menschenwürdeverstöße. Pro Monat resultiere das in zirka 30 Strafanzeigen, die sich meist auf mehrere Verstöße beziehen.

Es gehört zu den Aufgaben der 14 Landesmedienanstalten in Deutschland, Rechtsverstöße in Medien zu bekämpfen. Bis vor wenigen Jahren waren sie fast ausschließlich mit TV- und Radio-Inhalten beschäftigt. Mittlerweile weiten sie ihre Kontrollfunktion auf das Internet aus.

Tobias Schmid, Direktor der nordrhein-westfälischen Landesanstalt für Medien, treibt diese Bemühungen der Medienwächter am aktivsten voran. Er hat YouTube- und Instagram-Influencern blaue Briefe geschickt, wenn sie in ihren Videos Schleichwerbung machten. Schmid war es auch, der gegen das Pornoportal xHamster Netzsperren angeordnet hat, weil es den Jugendschutz nicht mit einem zertifizierten Verfahren sicherstellt.

Bereits 2017 hat die Landesmedienanstalt NRW ihre Initiative „Verfolgen statt nur löschen“ in die Welt gesetzt. Das Projekt hat zum Ziel, dass Inhalte wie Beleidigungen und Verleumdungen von den Betreibern sozialer Netzwerke nicht nur gelöscht oder gesperrt werden, sondern dass auch die Täter strafrechtlich verfolgt werden.

Die Anfänge waren allerdings bescheiden. „Die Idee, mit sieben studentischen Hilfskräften Inhalte im Internet zu regulieren, hat etwas Sozialromantisches“, sagt Schmid heute. Gleichwohl schlossen sich immer mehr Landesbehörden der Initiative an. Im Frühjahr 2020 beschlossen sie, ein System zu entwickeln, das automatisch auf die Suche nach illegalen Inhalten geht.

Tobias Schmid, der Direktor der nordrhein-westfälischen Landesmedienanstalt, hat sich die Rechtsdurchsetzung im Netz auf die Fahnen geschrieben., Bild: Landesmedienanstalt NRW
Tobias Schmid, der Direktor der nordrhein-westfälischen Landesmedienanstalt, hat sich die Rechtsdurchsetzung im Netz auf die Fahnen geschrieben.(Bild: Landesmedienanstalt NRW)

Die Idee, künstliche Intelligenz einzusetzen, lag nahe. Das neue Werkzeug hat den Namen KIVI erhalten, wobei das „VI“ für das lateinische Wort vigilare steht, also für „überwachen“. Um das System zusammenzustellen, kombinierte der beauftragte Dienstleister Condat eine Reihe verschiedener Systeme. Für die Bilderkennung kamen zum Beispiel die neuronalen Netze VGG19 und Inception V4 zum Einsatz, die mit eigenen Daten auf ihre neuen Aufgaben trainiert wurden. Texte analysiert das System ebenfalls mit einem neuronalen Netz (DenseNN) sowie mit dem einfacheren Naive-Bayes-Verfahren. Konkret sucht KIVI unter anderem nach Gewaltdarstellungen, Volksverhetzung und der Verwendung verfassungsfeindlicher Kennzeichen.

Für das Training kommen sowohl Positiv- als auch Negativbeispiele zum Einsatz. Als allgemeines Negativmaterial hat Condat zum Beispiel Daten aus Googles Open-Images-Datensatz an das System verfüttert. Die KI werde laut Landesmedienanstalt auch durch tägliches Feedback, ob sich ein gefundener Verdacht bestätigt hat oder nicht, weitertrainiert.

Im Bereich Pornografie verzichtet Condat auf eine eigene Erkennung und bindet stattdessen den Amazon-Dienst Rekognition ein, der nach Angaben der Medienwächter im Praxisbetrieb eine Erkennungsgenauigkeit von 90 Prozent erreicht. Im Bereich der Verstöße gegen die Menschenwürde und des politischen Extremismus gibt die Landesanstalt eine Erkennungsrate von knapp 40 Prozent an.

Letztlich arbeite KIVI nicht autonom, sondern diene nur der Arbeitserleichterung, betonte die federführende Landesmedienanstalt NRW zur Vorstellung der ersten Ergebnisse des Projekts im April 2022. Die Entscheidung, ob ein potenzieller Rechtsverstoß an Strafermittlungsbehörden gemeldet wird, treffe immer ein Mensch.

Die Software soll aber einen Großteil der Routinearbeit übernehmen. Sie verschlagwortet jeden Treffer automatisch und überführt ihn in ein Ticketing-System. Die Software sucht auch nach Hinweisen auf den Wohnort des jeweiligen Urhebers, um die Inhalte den zuständigen Landesbehörden zuzuteilen. Wo dies nicht möglich ist, landen die Inhalte in einem gemeinsamen Pool. Auf einem übersichtlichen Team-Dashboard ist jederzeit der aktuelle Bearbeitungsstatus der eingelesenen Inhalte einsehbar und erlaubt den direkten Absprung in die zu prüfenden Quellen.

Studentische Hilfskräfte sortieren die Treffer weiter vor. Erst nachdem Juristen die Inhalte überprüft haben, werden schließlich weitere Schritte gegen potenzielle Straftäterinnen oder Straftäter ergriffen.

KIVI soll die Arbeit nicht nur effektiver machen, sondern auch stressfreier. Statt Mitarbeiter ständig unvermittelt mit Inhalten wie Erschießungsvideos oder harter Pornografie zu konfrontieren, zeigt die Weboberfläche von KIVI Screenshots zuerst nur verschwommen an. Auf diese Weise können sich die Sachbearbeiter auf die Inhalte einstellen.

Im Jahr 2020 half noch keine KI bei der Suche nach Verstößen. KIVI soll die Arbeit der Medienwächter deutlich effektiver machen., Bild: Landesmedienanstalt NRW
Im Jahr 2020 half noch keine KI bei der Suche nach Verstößen. KIVI soll die Arbeit der Medienwächter deutlich effektiver machen.(Bild: Landesmedienanstalt NRW)

Laut der FAQ auf der Homepage der nordrhein-westfälischen Medienaufsicht durchsucht KIVI die verschiedensten Plattformen, von Twitter und YouTube bis zu Telegram und der russischen Plattform VK. Es könne „täglich mehr als 10.000 Seiten automatisch durchsuchen“. Die Medienwächter arbeiten auch daran, weitere relevante Plattformen in KIVI zu integrieren, etwa Reddit. Facebook und Instagram kann der KI-Medienwächter derzeit ebenfalls noch nicht scannen.

Innerhalb eines Jahres hat KIVI 20.685 Funde gemeldet, von denen 14.907 geprüft wurden. In 6766 Fällen stellten die Medienwächter einen Verstoß gegen deutsche Gesetze fest. Davon betrafen 692 Verstöße den politischen Extremismus und 67 Delikte den Bereich Gewalt und Menschenwürdeverstöße. Pro Monat resultiere das in zirka 30 Strafanzeigen, die sich meist auf mehrere Verstöße beziehen. Das entspreche einer Verdoppelung im Vergleich zu der Zeit vor dem Einsatz von KIVI. Wo die Polizei nichts erreicht, leiten die Medienwächter die Löschung der Inhalte ein.

Der Flaschenhals ist aber nach wie vor die menschliche Arbeit. KIVI wird täglich nur für wenige Stunden aktiviert, weil die Anstalten sonst die Flut an möglichen Verstößen nicht bewältigen könnten. Diese Zahl wollen die Medienwächter noch deutlich nach oben schrauben. So sind nun alle Medienanstalten Deutschlands an das System angeschlossen, sodass sich Mehrfachprüfungen vermeiden lassen und sich einzelne Behörden auf bestimmte Einsatzbereiche spezialisieren können.

Zudem hoffen die Medienwächter darauf, dass sich KIVI über die deutschen Grenzen hinaus verbreitet und so noch mehr Beschwerden bearbeitet werden können. Anfragen aus Frankreich, Spanien, Österreich, Belgien und Luxemburg lägen bereits vor, erklärte Schmid Anfang April.

Quelle: https://www.heise.de/news/KI-sucht-rechtswidrige-und-jugendgefaehrdende-Inhalte-im-Internet-7072959.html


Europarat: Abkommen ermöglicht grenzübergreifende digitale Beweissicherung

Provider im Gebiet des Europarats und darüber hinaus müssen künftig direkt mit Strafverfolgern aus bis zu 66 Ländern kooperieren, um digitale Spuren zu sichern.

Erstmals gibt es ein internationales Abkommen für den grenzübergreifenden Zugriff von Strafverfolgern auf Providerdaten. 22 Staaten haben am Donnerstag in Straßburg das dafür seit 2017 ausgehandelte Zweite Zusatzprotokoll zur Cybercrime-Konvention des Europarats unterzeichnet. Deutschland gehört nicht dazu und will erst später unterzeichnen.

Das Zusatzprotokoll bringe die 2001 zur Zeichnung aufgelegte Cybercrime-Konvention auf den Stand der neuesten technologischen Herausforderungen, sagte Marija Pejčinović Burić, Generalsekretärin des 46-Mitglieder starken internationalen Staatenbundes. Zu den Unterzeichnerstaaten der Cybercrime-Konvention gehören bereits 66 Staaten in aller Welt, sie alle können auch das Zusatzprotokoll unterzeichnen.

Die Cybercrime-Konvention war das erste internationale Abkommen, das internationale Standards für die Kriminalisierung von Computerstraftaten wie Datendiebstahl oder Kinderpornographie im Netz setzte. Umstritten war zur Zeit der Verabschiedung der „Hackerparagraph“, der den Unterzeichnerstaaten auferlegte, das „Eindringen in Computersysteme“ unter Strafe zu stellen.

Auch mit dem zweiten Zusatzprotokoll betritt die Cybercrime-Konvention Neuland. Erstmals verpflichten sich die Unterzeichnerstaaten gemäß Artikel 7, die gesetzlichen Voraussetzungen für direkte Zugriffe von Strafverfolgungsbehörden auf die Bestandsdaten bei Providern zu schaffen. Zu Bestandsdaten gehören laut dem „Erläuternden Bericht“ grob alles, was nicht Verkehrsdaten oder Inhaltsdaten sind, es bleiben also die Art des genutzten Dienstes, die Identität, Postadresse oder Standort, Telefon- oder andere Zugangsnummer, Zahlungsinformation und mehr, sowie Informationen zu bestimmten Zeiten genutzter IP-Adressen.

Die Informationen seien für den Start von Ermittlung auch gegen Bürger im eigenen Land unverzichtbar, die ausländische Diensteanbieter nutzten. Ohne Umweg über die jeweils lokalen Behörden könnte der Zugriff auf ermittlungsrelevante Daten von durchschnittlich 9 Monaten auf 6 Wochen reduziert werden, hofft Alexander Seger, Exekutivsekretär des Vertragsbüros der Cybercrime-Konvention und Chef des Bereichs Cybercrime beim Europarat.

US-Provider bieten anders als etwa EU-Dienstleister bereits heute an, freiwillig mit Strafverfolgern zusammenzuarbeiten. Die Freiwilligkeit begünstige erhebliche Unterschiede bei der Beantwortung und eine gewisse Willkür der Provider. Was heute noch beantwortet würde, bekäme morgen vielleicht keine Reaktion mehr, beschreibt Seger die Sorge.

Wie nach dem neuen Zusatzprotokoll die Provider verpflichtet werden sollen, die Anfragen zu beantworten, muss die praktische Umsetzung noch zeigen. Grundsätzlich müssen angefragte Unternehmen, die eine Auskunft verweigern, ihre Gründe darlegen. Die anfragende Behörde kann die Angelegenheit dann zu den Partnerbehörden des jeweiligen Landes eskalieren, um den Zugriff dann gemäß Artikel 8 des Protokolls zu erzwingen. Ist das verfolgte Delikt im Zielland nicht strafbar, könnte von dort ein Nein kommen.

Die USA, von wo aktuell das Gros der freiwilligen Providerauskünfte kommt, haben in den Verhandlungen auf die Aufnahme einer Klausel gedrängt, Bestandsdaten immer zuerst bei den Providern abzufragen. Das Kalkül dafür war laut Seger, den Kanal für die Auskünfte zu Inhaltsdaten und Verkehrsdaten nach Artikel 8, beziehungsweise Eilverfahren (Artikel 9) oder die Notfallzusammenarbeit (Artikel 9) nicht zu blockieren.

Spät noch ins Protokoll aufgenommen haben die 66 Verhandlungspartner der Konvention eine Bestimmung zum direkten Zugriff auf Domaininhaberdaten. Seitdem die Internet Corporation for Assigned Names and Numbers (ICANN) die über Jahrzehnte veröffentlichten Kontaktdaten zu Domaininhabern wegen der EU-Datenschutzgrundverordnung (DSGVO) depublizierte, gibt es Streit um den Zugriff durch die Strafverfolger.

Artikel 6 des Zusatzprotokolls regelt das Zugriffsrecht nun zumindest für die Vertragsparteien des Europarats. Registrare und Registries – auch Länderregistries – sollen auf Basis der Regelung die Kontaktdaten von Domaininhabern an ausländische Strafverfolger herausgeben. Weisen sie die Anfragen zurück, soll zu einer dafür vorgesehenen nationalen Stelle eskaliert werden.

Die Diskussionen über Datenschutzfragen hätten bei der Abfassung des zweiten Protokolls die meiste Zeit eingenommen, versicherte Seger im Pressegespräch. Ein ganzer Abschnitt ist dem Datenschutz gewidmet. Die Bürgerrechtsorganisation European Digital Rights (EDRi) mahnte trotzdem, dass beispielsweise die Regeln über die Weiterverwendung der Daten zu vage seien.

Im „Erklärenden Bericht“ steht etwa, dass auch die Weitergabe im Rahmen internationaler Kooperation im Bereich der Strafverfolgung, die Nutzung für Berichte von Regierungs- und Aufsichtsbehörden, aber auch die Weitergabe an Privatkläger oder die Medien „nicht inkompatibel“ mit dem Protokoll sei.

EDRi forderte daher, das neue Protokoll dem Europäischen Gerichtshof vorzulegen, um zu überprüfen, ob es mit den Grundrechten der EU harmoniere. US-Datenschutzvorkehrungen waren vor dem höchsten US-Gericht immerhin mehrfach durchgefallen.

Deutschland gehört nicht zu den Erstunterzeichnerstaaten, wie das Bundesjustizministerium bestätigte. Grund dafür ist vor allem, dass die deutsche Sprachfassung noch nicht vorgelegen habe. Zur Unterzeichnung sind die Staaten zugleich verpflichtet, weil der Inhalt des Protokolls die grenzüberschreitende Zusammenarbeit in Strafsachen betrifft. Die fällt in die EU-Kompetenz, und der Rat hat die Unterzeichnung am 5. April beschlossen. Der Ratsbeschluss enthält allerdings laut dem BMJ auch gewisse Absicherungen. Die EU-Staaten werden demnach von den Möglichkeiten zur Notifizierung der direkten Provideranfragen Gebrauch machen.

Quelle: https://www.heise.de/news/Europarat-Abkommen-ermoeglicht-grenzuebergreifende-digitale-Beweissicherung-7091186.html

Ja zur Chatkontrolle/Klage und Demo dagegen, Pfui

Ja zur Chatkontrolle/Klage und Demo dagegen, Pfui. Ein tolles Vorhaben – Super! Schlimm wie Netzaktivisten, Politiker, und Bürgerrechtsorganisationen sturm gegen die Chatkontrolle laufen und sich so hinter die Täter stellen (Beihilfe zur einer Straftat leisten). Sowie gleichzeitig die Opfer im Digitalen und öffentlichen Raum auf übelste Verhöhnen.

Gerade deshalb ja zur Chatkontrolle! Kein Schutz von Tätern im Digitalen Raum!

Mutig im Digitalen Raum und öffentlichen Raum (Brief an die EU-Kommission) für ein Ja zu Chatkontrolle werben, das mach ich als Befürworter der Chatkontrolle. Ich mag solche Sicherheitsgesetze sehr und habe viele Praktika im Internet gemacht, deshalb empfinde ich für die Gegner zur Chatkontrolle nur einen Brechreiz.

Vor allem auch weil die Gegner im Internet US-Konzerne nutzen, wo sich US-Behörden kräftig bedienen, das stört die nicht aber wehe die EU bringt ein Gesetz gegen Kinderpornographie auf dem weg, ihr die Gegner habt ja nicht mehr alle Latten am Zaun.

Ein anderes Beispiel: viele Kindergärten nutzen WhatsApp-Eltern Gruppen und dann ist man gegen die Chatkontrolle der EU – nicht euer ernst.

Chatkontrolle: EU-Kommission bringt Verordnung für Kinderporno-Scans auf den Weg

Ylva Johansson am Mittwoch in Brüssel.

Auch verschlüsselte Dienste von WhatsApp, Apple & Signal sollen mit Anordnungen gezwungen werden können, Fotos und Videos von Kindesmissbrauch aufzuspüren.

Die EU-Kommission hat am Mittwoch den Entwurf einer Verordnung zur Bekämpfung von Kindesmissbrauch veröffentlicht. Damit sollen auch Anbieter verschlüsselter Messenger wie WhatsApp, Signal, Threema oder Apples iMessage dazu gezwungen werden können, Fotos und Videos von Kindesmissbrauch in den Nachrichten ihrer Nutzer ausfindig zu machen sowie gegen Grooming vorzugehen. Zur Koordination mit den Behörden in den Mitgliedsländern soll eine neue EU-Zentralstelle aufgebaut werden.

Folgen die betroffenen Unternehmen einer solchen Vorgabe nicht, drohen ihnen hohe Geldstrafen von bis zu 6 Prozent ihres weltweiten Jahresumsatzes. Welche Techniken dabei zum Einsatz kommen sollen, schreibt die Kommission nicht vor. Sie will sich hier bewusst „neutral“ verhalten. Eine umfassende Inhaltekontrolle ist bei Diensten mit Ende-zu-Ende-Verschlüsselung aber derzeit nicht möglich.

Praktisch dürften WhatsApp & Co. daher nicht darum herumkommen, besonders umstrittene Methoden anzuwenden. Sie müssten möglicherwiese ihre kryptografischen Verfahren aufweichen oder andere Lösungen wie einen Hashabgleich oder Scans direkt auf den Endgeräten („Client-side Scanning“, CSS) einsetzen. Ein solches CSS gefährdet laut Experten die Sicherheit der Nutzer massiv und öffnet die Türen für Massenüberwachung.

Zunächst müssen dem Vorschlag der Kommission zufolge alle Anbieter von Hosting- oder interpersonellen Kommunikationsdiensten in der EU eine Risikobewertung zum möglichen Missbrauchs ihrer Dienste für die Verbreitung von Abbildungen sexuellen Kindesmissbrauchs oder für Grooming vornehmen. Sie sollen bereits ergriffene Abhilfemaßnahmen aufzeigen. Anbieter von App-Stores sollen gezwungen werden, eine Altersüberprüfung durchzuführen.

Wenn die bisherigen Aktivitäten der Betreiber in den Augen der zuständigen Behörden nicht ausreichen, können diese eine Anordnung erlassen. Hosting-Anbieter können damit verpflichtet werden, Material über sexuellen Kindesmissbrauch zu löschen oder den Zugang dazu in allen Mitgliedstaaten zu sperren. Zugangsprovider können gezwungen werden, URLs zu blockieren, die auf einschlägige Bilder oder Videos hinweisen, die selbst nicht entfernt werden können.

Die Kommission will auch Rechte der Opfer stärken, deren Missbrauchsdarstellungen noch im Internet kursieren. Sie sollen von der geplanten EU-Zentralstelle informiert werden. Damit könnten sie sich dann auch an die Anbieter der betreffenden Hosting-Dienste wenden oder Hilfe über die zuständigen Ämter in Anspruch nehmen, wenn sie das Löschen oder eine Sperre erwirken wollen.

Die Kommission bemüht sich, ihre Initiative als verhältnismäßig darzustellen. Anordnungen zum Aufdecken von Missbrauchsmaterial „sind zeitlich begrenzt und zielen auf eine bestimmte Art von Inhalten in einem bestimmten Dienst ab“, betont die Kommission. Die Anbieter müssten zudem Methoden verwenden, „die nach dem Stand der Technik in der Branche den geringsten Eingriff in die Privatsphäre darstellen“ und die Quote von Fehlalarmen „so weit wie möglich begrenzen“.

Die EU-Zentralstelle soll von den Anbietern gemeldete Fälle überprüfen, bevor sie sie an die Strafverfolgungsbehörden und Europol weiterleitet. Das neue Amt soll aber direkt bei der EU-Polizeibehörde in Den Haag angesiedelt sein, um Kosten zu sparen und die Kooperation mit den Ermittlern zu verbessern. Sowohl Anbieter als auch Nutzer hätten zumindest das Recht, jede sie betreffende Maßnahme vor Gericht anzufechten.

„Verschlüsselung ist ein wichtiges Instrument für den Schutz der Cybersicherheit und der Vertraulichkeit der Kommunikation“, erklärt die Kommission in einer Frage-Antwort-Liste. „Gleichzeitig könnte ihre Verwendung als sicherer Kanal von Kriminellen missbraucht werden, um ihre Handlungen zu verbergen.“ Dies würde die Bemühungen behindern, „die Täter des sexuellen Kindesmissbrauchs vor Gericht zu bringen“.

Würden durchgängig verschlüsselte Dienste von der Pflicht befreit, gegen die Verbreitung von Missbrauchsmaterial vorzugehen, „hätte dies schwerwiegende Folgen für die Kinder“, betont die Kommission. Pro Tag könnten nach Schätzungen des US-amerikanischen National Centre for Missing and Exploited Children (NCMEC) derzeit bis zu 2100 einschlägige Hinweise unterbleiben.

Innenkommissarin Ylva Johansson wandte sich bei der Präsentation des Vorschlags an Missbrauchsopfer direkt: „Ihr sollt diese Albträume nicht noch einmal durchleben müssen.“ Polizeibeamte versprach sie „bahnbrechende europäische Gesetze, die ihnen helfen, Straftäter zu fassen“. 85 Millionen einschlägige Fotos und Videos seien allein 2021 von fünf Unternehmen an das NCEMC gemeldet. Es gebe eine „6000-prozentige Steigerung in der EU“.

Die Vorgaben seien „maßgeschneidert“, unterstrich die Schwedin. Neben dem EU-Zentrum würden auch Datenschutzbehörden einbezogen. Es gehe nicht um das Ausschnüffeln privater Kommunikation, sondern nur darum, „diese spezifische Inhalte zu finden“. Gebraucht werde ein Magnet, der nur die Nadel sehe, nicht das Heu. Was zähle, „ist das Ergebnis“.

Quelle: https://www.heise.de/news/Chatkontrolle-EU-Kommission-bringt-Verordnung-fuer-Kinderporno-Scans-auf-den-Weg-7081975.html


Chatkontrolle-Gesetz: Das steckt hinter den umstrittenen Plänen der EU

Die EU will die Verbreitung von Kinderpornografie im Internet durch ein Gesetz erschweren. Kritiker sprechen von „Massenüberwachung“ und protestieren in Berlin.

Die Europäische Union will am Mittwoch ein neues Gesetz zur sogenannten Chatkontrolle vorstellen. Wie unter anderem die österreichische Tageszeitung Der Standard berichtete, soll damit der Verbreitung von Darstellungen sexualisierter Gewalt gegen Kinder Einhalt geboten werden. Allerdings ist das Gesetz bei Datenschützern massiv umstritten. Der Gesetzentwurf wurde vor der Vorstellung geleakt, die Organisation Netzpolitik veröffentlichte den Entwurf.

Durch das Gesetz sollen Messenger wie WhatsApp oder Signal sowie E-Mail-Anbieter dazu verpflichtet werden, mithilfe von KKünstlicher Intelligenz (KI) nach Missbrauchsmaterial zu suchen und Verdachtsfälle an Strafverfolgungsbehörden weiterzuleiten. Die Maßnahme würde die Chatverschlüsselung aufheben, so viele Datenschützer.

Trotz aller Kritik will die EU wohl an dem Gesetz festhalten. Sie sieht das Gesetz als wichtigen Schritt im Kampf gegen Darstellungen von Kindesmissbrauch im Internet an. Fraglich ist allerdings, ob das geplante Gesetz zur Chatkontrolle überhaupt mit geltendem EU-Recht gegen Massenüberwachung kompatibel wäre.

Quelle: https://www.berliner-zeitung.de/news/chatkontrolle-gesetz-das-steckt-hinter-den-umstrittenen-plaenen-der-eu-li.227198


EU-Abgeordneter reicht Klage wegen Chatkontrolle ein

Der Abgeordnete des Europaparlaments und Bürgerrechtler Dr. Patrick Breyer (Piratenpartei) geht im Wege einer Unterlassungsklage gegen Meta, den Mutterkonzern von Facebook vor. Der Grund: Verdachtslose, automatisierte Nachrichtendurchsuchung. Derzeit besteht eine europarechtliche Regelung, nach welcher eben solche Diensteanbieter wie Facebook oder auch Google die privaten Nachrichten ihrer Nutzer nach Darstellungen sexuellen Missbrauchs von Minderjährigen scannen dürfen. Geplant ist von der EU-Kommission jedoch, die verdachtslose Nachrichten- und Chatkontrolle für sämtliche Anbieter von E-Mail-, Messenger- und Chatdiensten verpflichtend zu machen. 

Quelle: https://www.onlinehaendler-news.de/e-recht/gesetze/136388-eu-abgeordneter-klage-chatkontrolle-eu-meta

Chatkontrolle: Hoffentlich stellt die EU-Kommission endlich den Entwurf dazu vor

Hoffentlich stellt die EU-Kommission endlich den Entwurf zur Chatkontrolle vor. Die Chatkontrolle ist super, klar soll die Kommunikation überwacht werden. Von allen Privatpersonen, egal ob Polizist, Richter, Staatsanwaltschaft, Sozialpädagogen, Menschen die in der Eingliederungshilfe Arbeiten und Hilfe bewilligen. Ich finde es super wenn die Kommunikation EU weit mit KI überwacht wird.

Bei uns auf der Arbeit nerven die ein auch mit diesem Signal, das ist ja sicher. Mein Gedanke immer: die müssen alle überwacht werden – EU weit, erst recht die die auf Signal und Co. ausweichen.

Herrlich wie Sich Bürgerrechtler, Chaos Computer Club, Organisationen sowie Andrea Breyer aufregen. Einfach nur köstlich und unterhaltsam für Befürworter wie mich. Dann kann dieses geplante EU-Vorhaben ja nur gut sein – Je lauter die schreien desto besser das Überwachungsvorhaben.

Hoffentlich wird der Entwurf endlich vorgestellt, 2-3 mal wurde es ja schon verschoben was ich schade finde. Es soll schließlich mal weiter gehen im EU-Gesetzgebungsverfahren mit der Chatkontrolle.


Fotos missbrauchter Kinder fluten Teile des Netzes. Die Zahl erfasster Darstellungen sexuellen Missbrauchs in Deutschland nahm 2021 im Jahresvergleich um mehr als 100 Prozent auf knapp 40.000 zu. „Europa ist mittlerweile zu einem Drehkreuz für den Handel mit Missbrauchsdarstellungen geworden“, sagt die Missbrauchsbeauftragte der Bundesregierung, Kerstin Claus, der Deutschen Presse-Agentur. Wenn man sich den Anstieg der Fälle ansehe, stelle sich die Frage, „ob wir den gigantischen Mengen, die im Internet angeboten werden, überhaupt noch etwas entgegensetzen können“.

Die EU-Kommission will es versuchen und voraussichtlich Mitte der Woche einen Gesetzesvorschlag im Kampf gegen Darstellungen sexuellen Missbrauchs im Internet vorlegen. Doch inwieweit rechtfertigt der gute Zweck den Eingriff in die private Kommunikation der Bürger?

Facebook, Google und Co haben Privatnachrichten ihrer Nutzer bis zum Dezember 2020 freiwillig nach Missbrauchsdarstellungen gescannt. Dabei suchten sie nach Bildern, die etwa durch frühere Ermittlungen bekannt und mit einer Art digitalem Fingerabdruck, einem sogenannten Hash, versehen worden waren. Treffer wurden an das US-Zentrum für vermisste und ausgebeutete Kinder NCMEC gegeben, wo sie geprüft und gegebenenfalls an die Behörden wie dem Bundeskriminalamt (BKA) geschickt wurden. Ab Ende 2020 fehlte dafür in der EU jedoch zeitweise die rechtliche Grundlage. Hier ging die Zahl der Hinweise dem NCMEC zufolge zunächst um 58 Prozent zurück.

Deshalb einigten sich die EU-Staaten und das Europaparlament vor rund einem Jahr auf eine Übergangslösung, die nach spätestens drei Jahren ausläuft. Seitdem dürfen die Plattformen die Nachrichten ihrer Nutzer wieder auf Hashes scannen. Nun fällt allerdings auch das Aufspüren sogenannter Groomings unter die Regeln, worunter man das Heranmachen von Erwachsenen an Kinder im Netz versteht. EU-Innenkommissarin Ylva Johansson will in dieser Woche eine dauerhafte Lösung vorschlagen.

Die Details des Vorschlags sind noch unklar. Die Richtung gibt Johansson jedoch schon länger vor. Sie werde ein Gesetz vorschlagen, das „die Unternehmen verpflichtet, den sexuellen Missbrauch von Kindern zu erkennen, zu melden und zu entfernen“, sagte sie im Januar der „Welt am Sonntag“. Fraglich ist unter anderem, ob sich diese Pflicht auf bekannte Darstellungen beschränkt. Auch das Aufspüren von Grooming könnte in irgendeiner Form verbindlich werden. Außerdem dürfte die Kommission vorschlagen, ein EU-Zentrum zum Kampf gegen Kindesmissbrauch zu schaffen. Über die Vorschläge verhandeln dann die EU-Staaten und das Europaparlament.

Bürgerrechtler sind alarmiert. Im März schrieben 47 Organisationen einen Brandbrief (PDF) an EU-Kommissionschefin Ursula von der Leyen und Innenkommissarin Johansson. Unterzeichnet hat auch der Verein Digitale Gesellschaft, dem Tom Jennissen angehört. Er warnt davor, dass künftig jede etwa über WhatsApp verschickte Nachricht von den Unternehmen gescannt werden könnte. Dies sei ein „ganz massiver und unverhältnismäßiger Eingriff in die Kommunikation“ und widerspreche allen rechtsstaatlichen Grundsätzen, sagt er der dpa.

Jennissen befürchtet, dass auf Grundlage eines Generalverdachts sogar in verschlüsselte Kommunikation eingegriffen werden könnte. Johansson hat dagegen bereits deutlich gemacht, was für sie schwerer wiegt: Natürlich seien Datenschutz und Verschlüsselung wichtig, sagte sie der „Welt am Sonntag“. „Aber der Fokus muss in erster Linie auf dem Schutz der Kinder liegen.“ Anstelle eines Gesetzes, das womöglich gerichtlich gekippt werde, brauche es mehr Prävention und eine bessere Ausstattung der Behörden, fordert dagegen Jennissen.

Auch der FDP-Europaabgeordnete Moritz Körner betont, der Kampf gegen Kinderpornografie dürfe nicht als Vorwand missbraucht werden, „um eine noch nie dagewesene Zerstörung unserer Privatsphäre“ zu rechtfertigen. „Die Chatkontrolle wäre eine anlasslose Massenüberwachung.“ Auch Körner fordert eine bessere Ausstattung der Polizei, der EU-Behörde Europol und mehr Kooperation der EU-Staaten.

Für eine weitgehende Filter-Pflicht setzt sich etwa die US-Stiftung Thorn zum Schutz von Kindern ein. Thorn entwickelt selbst Filter, die nicht nur bekanntes Missbrauchsmaterial finden, sondern auch neues. Zudem arbeitet die Stiftung an einem Instrument zum Aufspüren von Grooming. „Unternehmen müssen rechtlich befugt sein, zielgerichtete digitale Technologien einzusetzen, um die virale Verbreitung von sexuellem Kindesmissbrauchsmaterial auf ihren Plattformen zu unterbinden“, fordert Thorn.

Quelle: https://www.heise.de/news/Kinder-oder-Datenschutz-Was-tun-im-Kampf-gegen-Kinderpornografie-7078712.html


CHATKONTROLLE:CCC warnt vor „fundamental fehlgeleiteter Technologie“

Am Mittwoch, dem 11. Mai 2022 veröffentlicht die EU-Kommission voraussichtlich den Gesetzesentwurf zur sogenannten Chatkontrolle. Geplant ist eine KI-basierte Prüfung aller Nachrichteninhalte und Bilder direkt auf unseren Geräten.

https://www.ccc.de/de/updates/2022/eu-kommission-will-alle-chatnachrichten-durchleuchten

Die EU-Kommission will in Kürze ihre Pläne zur Chatkontrolle vorlegen. Das stößt weiter auf scharfe Kritik von Internetaktivisten wie dem CCC.

Der Chaos Computer Club (CCC) warnt eindringlich vor der Gefahren der sogenannten Chatkontrolle auf den Endgeräten der Nutzer. „Dieses Client-Side-Scanning wäre nicht die erste überzogene und fehlgeleitete Überwachungsmethode, die mit dem Kampf gegen Kindesmissbrauch begründet wird“teilte die Hackerorganisation am 9. Mai 2022 mit.

Das massenhafte Scannen greife nicht nur vertrauliche Kommunikation an ihren Grundfesten an, sondern sei obendrein unwirksam. Kriminelle nutzten bereits heute Verbreitungswege, die von diesen Scans nicht betroffen wären. Der CCC kommt zu dem Schluss: „Die Chatkontrolle ist als fundamental fehlgeleitete Technologie grundsätzlich abzulehnen.“

Hintergrund des Statements sind Pläne der EU-Kommission, den Anbietern von Mail- und Messengerdiensten dauerhaft die Durchleuchtung von Nutzerinhalten zu ermöglichen. Im Juli 2021 billigte das Europaparlament eine vorläufige Verordnung, die zunächst für drei Jahre gilt.

Die EU-Kommission will den Entwurf am 11. Mai 2022 vorlegen. Er könnte jedoch deutlich weiter als die aktuelle Regelung gehen. Das betrifft vor allem die Möglichkeit, verschlüsselte Inhalte, wie sie bei Messengerdiensten wie Whatsapp oder Signal versendet werden, zu überprüfen. Diskutiert wird beispielsweise ein Zweitschlüssel („Exceptional Access“), mit dem Strafverfolgungsbehörden oder Geheimdienste auf die dann nicht mehr Ende-zu-Ende-verschlüsselten Inhalte zugreifen könnten.

Als Alternative wird vorgeschlagen, dass die Inhalte mit einer Art Uploadfilter auf dem Smartphone oder Computer des Benutzers analysiert und je nachdem an Behörden ausgeleitet werden. Auch damit würde die Ende-zu-Ende-Verschlüsselung ausgehebelt.

CCC: Grundrechte werden außer Kraft gesetzt

Ein solches Konzept zerstört nach Ansicht des CCC die Möglichkeit einer vertrauenswürdigen Kommunikation. Denn dazu müsse das eigene Gerät integer sein und dürfe Inhalte nicht an Dritte weitergeben. Zudem müsse die Verschlüsselung sicher sein, so dass nicht dem Netz vertraut werden müsse. „Mit dem Fernmeldegeheimnis und dem Grundrecht auf Gewährleistung der Vertraulichkeit und Integrität informationstechnischer Systeme setzt die Chatkontrolle gleich zwei fundamentale Grundrechte außer Kraft“, kritisiert die Hackervereinigung.

Darüber hinaus sei bisher nicht klar, wer die Erkennungsalgorithmen und -datenbanken definieren und kontrollieren solle. „Ein derart intransparentes System kann und wird nach seiner Einführung leicht erweitert werden. So ist schon heute absehbar, dass sich die Rechteverwertungsindustrie für das System ebenso brennend interessieren wird wie demokratiefeindliche Regierungen“, heißt es weiter. Umso erschreckender sei, „mit welcher Arglosigkeit es nun eingeführt werden soll“.

Der CCC befürchtet zudem, dass die künstliche Intelligenz zu Detektion von Missbrauchsbildern auch Fotos fälschlicherweise als illegal markieren wird. Kleinste Fehlerquoten würden zu großen Mengen an falsch erkannten und ausgeleiteten Nachrichten führen: „Allein in Deutschland werden weit mehr als eine halbe Milliarde Nachrichten pro Tag versendet. Auch enorm ‚gute‘ Erkennungsraten würden zur Ausleitung mehrerer Tausend Nachrichten pro Tag führen“, heißt es in der Stellungnahme. 

Quelle: https://www.golem.de/news/chatkontrolle-ccc-warnt-vor-fundamental-fehlgeleiteter-technologie-2205-165187.html