Nachrichten- und Chatkontrolle

Die Abschaffung des Digitalen Briefgeheimnisses

Die EU will private Chats, Nachrichten und E-Mails massenhaft, anlass- und unterschiedslos auf verdächtige Inhalte durchsuchen. Die Begründung: Strafverfolgung von Kinderpornographie. Die Konsequenz: Massenüberwachung durch vollautomatisierte Echtzeit-Chatkontrolle und damit die Abschaffung des digitalen Briefgeheimnisses.

Die Europäische Kommission hat 2020 einen Gesetzesvorschlag vorgelegt, der es erlauben soll, alle privaten Chats, Nachrichten und E-Mails verdachtslos und flächendeckend auf verbotene Darstellungen Minderjähriger und Anbahnungsversuche (Kontaktaufnahme zu Minderjährigen) zu durchsuchen. Das heißt: Facebook Messenger, Gmail & Co sollen jede Kommunikation auf verdächtiges Text- und Bildmaterial scannen. Und zwar vollautomatisiert, durch den Einsatz von sog. ‘Künstlicher Intelligenz’ – ohne, dass ein Verdacht vorliegen muss. Meldet ein Algorithmus einen Verdachtsfall, werden alle Nachrichteninhalte und Kontaktdaten automatisch und ohne menschliche Prüfung an eine private Verteilstelle und weiter an Polizeibehörden weltweit geleitet. Die Betroffenen sollen nie davon erfahren.

Einige US-Dienste wie GMail und Outlook.com praktizieren diese automatische Nachrichten- und Chatkontrolle bereits. Verschlüsselte Nachrichten sind zurzeit noch ausgenommen. Die EU-Kommission will mit einem zweiten Gesetz aber bald alle Anbieter zum Einsatz dieser Technologie verpflichten.

Was hat das Ganze mit dir zu tun?

  • Alle deine Chats und E-Mails werden automatisch auf verdächtige Inhalte durchsucht. Nichts ist mehr vertraulich oder geheim. Kein Gericht muss diese Durchsuchung anordnen. Sie passiert immer und automatisch.
  • Falls die Maschinenprüfung anschlägt, werden deine privaten Fotos und Videos von Mitarbeitern von internationalen Konzernen und Polizeibehörden angesehen. Auch intime Nacktbilder von dir werden dann von unbekannten Menschen auf der ganzen Welt gesichtet, in deren Hände sie nicht sicher sind.
  • Flirts und Sexting werden mitgelesen, denn Texterkennungsfilter schlagen besonders häufig auf solche intimen Chats an.
  • Du kannst unschuldig in den Verdacht geraten, Material von Kindesmissbrauch zu verschicken. Denn die Bilderkennungsfilter sind bekannt dafür, dass sie auch auf völlig legale Urlaubsfotos mit Kindern am Strand anschlagen. 90% aller maschinell gemeldeten Verdachtsfälle erweisen sich als unbegründet, so die Schweizer Bundespolizei. 40% aller in Deutschland eingeleiteten Ermittlungsverfahren richten sich gegen Minderjährige.
  • Bei deiner nächsten Auslandsreise könnten dich große Probleme erwarten. Verdachtsmeldungen werden unkontrollierbar an Staaten wie die USA, wo es keinerlei Datenschutz gibt, weitergeleitet – mit unabsehbaren Konsequenzen.
  • Geheimdienste und Hacker können einfacher Zugriff auf deine privaten Chats und E-Mails erhalten. Denn sobald sichere Verschlüsselung für den Einsatz der Chatkontrolle ausgehebelt wird, ist die Tür offen zum massenhaften Auslesen deiner Nachrichten durch jeden, der die technischen Mittel dazu hat.
  • Das ist nur der Anfang. Ist die Technologie zur Nachrichten- und Chatkontrolle einmal etabliert, kann sie spielend leicht auch für andere Zwecke eingesetzt werden. Und wer garantiert, dass die Verdächtigungsmaschinen künftig nicht auch unsere Smartphones und Laptops kontrollieren?

Der Zeitplan

Aktuell laufen die Trilog-Verhandlungen über den Gesetzentwurf, in denen Vertreter des Europäischen Parlaments mit den EU-Regierungen unter Beteiligung der EU-Kommission verhandeln. Dazu sind hier <die verschiedenen Positionen der drei Institutionen im Detail aufgeführt (englisch).  Kinderschutzorganisationen machen massiven Druck. Alle Fraktionen im Parlament wollen die verdachtslose Echtzeit-Chatkontrolle erlauben, mit Ausnahme von Grüne/Europäische Freie Allianz und GUE/NGL (Linke). Beschlossen werden soll das Gesetz Anfang 2021.

Im April 2021 will die EU-Kommission einen zweiten Gesetzentwurf vorlegen, der alle Anbieter von E-Mail-, Messaging- und Chatdiensten zur flächendeckenden und verdachtslosen Durchsuchung privater Nachrichten zwingen soll.

Nach einem Urteil des Europäischen Gerichtshofs ist die dauerhafte und flächendeckende automatisierte Analyse privater Kommunikation grundrechtswidrig und verboten (Abs. 177). Der Europaabgeordnete Patrick Breyer hat aus diesem Grund die US-Unternehmen Facebook und Google wegen Verletzung der Datenschutz-Grundverordnung bei den Datenschutzbehörden angezeigt.

Anstehende Termine (unter Vorbehalt)

  • 14. Januar 2021: Interne technische Verhandlungen des Europaparlaments
  • 15. Januar 2021: Technische Verhandlungen zwischen Rat, Kommission und Parlament (Technischer Trilog)
  • 18. Januar 2021: Schattenberichterstatter-Treffen der Verhandler des Europäischen Parlaments
  • 19. Januar 2021: Interne technische Verhandlungen des Europaparlaments
  • 20. Januar 2021: Technische Verhandlungen zwischen Rat, Kommission und Parlament (Technischer Trilog)
  • Voraussichtlich Ende Januar: Trilogverhandlung zwischen Rat, Kommission und Parlament (Politischer Trilog)
  • Voraussichtlich im März: Abstimmung im Europaparlament
  • Voraussichtlich April 2021: Gesetzesvorschlag der Kommission zum verpflichtenden Einsatz der Nachrichten- und Chatkontrolle

Was du tun kannst

Argumente gegen die Nachrichten- und Chatkontrolle

[accordion] [accordion-tab title=“Alle Bürgerinnen und Bürger werden ohne Anlass unter Verdacht gestellt, Straftaten zu begehen“ color=“first“] Die Text- und Bilderkennungsfilter werten unterschiedslos alle Nachrichten aus – unabhängig davon, ob ein konkreter Verdacht vorliegt oder nicht. Kein Richter muss dieser Durchsuchung zustimmen – ganz im Gegensatz zur analogen Welt, in der das Briefgeheimnis und damit die Vertraulichkeit der schriftlichen Kommunikation gewährleistet ist. Laut der Rechtsprechung des Europäischen Gerichtshofes ist eine permanente und verdachtslose automatische Auswertung privater Kommunikation grundrechtswidrig (Rechtssache C-511/18, Abs. 192). Die EU will die Gesetze trotzdem verabschieden. Sie vor Gericht zu stoppen kann Jahre dauern. Deswegen müssen die Gesetze bereits jetzt verhindert werden!
[/accordion-tab][accordion-tab title=“Die Vertraulichkeit privater Kommunikation wird nachhaltig zerstört“ color=“first“] Nutzerinnen und Nutzer von Messenger-Diensten und E-Mail müssen davon ausgehen, dass alle ihre Nachrichten künftig in Echtzeit mitgelesen und ausgewertet werden. Sensible Bild- und Textinhalte können an unbekannte Personen weltweit vollautomatisiert weitergeleitet werden und in falsche Hände geraten. Es sind bereits Fälle bekannt geworden, in denen die Mitarbeiter von US-Behördenabgefangene Nacktbilder von Nutzer*innen in Umlauf gebracht haben
[/accordion-tab][accordion-tab title=“Die Chatkontrolle zeigt Tausende zu Unrecht an“ color=“first“] Nach Angaben der Schweizer Bundespolizei sind 90% der maschinell angezeigten Inhalte nicht strafbar, etwa Urlaubsfotos am Strand mit nackten Kindern.
[/accordion-tab][accordion-tab title=“Sicher verschlüsselte Kommunikation ist in Gefahr“ color=“first“] Denn verschlüsselte Nachrichten können bisher nicht von den Algorithmen erfasst werden. Um die Chatkontrolle für jede Online-Kommunikation zu ermöglichen, müssen Hintertüren eingebaut werden. Sobald das geschieht, kann diese Sicherheitslücke von jeder und jedem, der oder die die technischen Mittel dazu hat, ausgenutzt werden. Private Kommunikation, aber auch Geschäftsgeheimnisse und sensible Regierungsinformationen, wären Angriffen ab dann schutzlos ausgesetzt. Sichere Verschlüsselung schützt Minderheiten, LGBTQI-Personen, Demokratieaktivisten, Journalisten usw.
[/accordion-tab][accordion-tab title=“Strafverfolgung wird privatisiert“ color=“first“] Denn in Zukunft entscheiden die Algorithmen von Unternehmen wie Facebook, Google und Microsoft, welche Inhalte als verdächtig eingestuft werden und welche nicht. Dabei geht es nicht nur um Bilder, sondern auch bestimmte Wort-Kombinationen, die den Chatfiltern verdächtig erscheinen. Eine Transparenzpflicht über die Algorithmen ist nicht vorgesehen. In einem Rechtsstaat gehört die Ermittlung von Straftaten aber in die Hände unabhängiger Beamter unter gerichtlicher Aufsicht.
[/accordion-tab][accordion-tab title=“Die Chatkontrolle ist ein Dammbruch“ color=“first“] Die Technologie zum automatischen Mitlesen privater online-Kommunikation ist gefährlich. Denn sie kann spielend leicht auch für andere Zwecke entfremdet werden. In autoritären Staaten werden solche Filter zur Verfolgung und Inhaftierung unliebsamerRegierungsgegner*innen verwendet.  Für die Algorithmen macht es keinen Unterschied, ob nach Kindesmissbrauch, nach Urheberrechtsverstößen, Drogenmissbrauch oder unliebsamen Meinungsäußerungen gesucht wird. Ist die Technik erst einmal flächendeckend etabliert, gibt es kein Zurück.
[/accordion-tab][accordion-tab title=“Die zurzeit verhandelte Übergangsverordnung ist untauglich“ color=“first“] Anders als beabsichtigt wird sie Facebook & Co. nicht erlauben, die Massenüberwachung fortzusetzen. Zwar wird die ePrivacy-Richtlinie eingeschränkt. Die Chatkontrolle verstößt aber mangels Rechtsgrundlage und Verhältnismäßigkeit weiterhin gegen die Datenschutz-Grundverordnung (DSGVO) Eine von Patrick Breyer eingereichte Beschwerde liegt der Datenschutzaufsicht bereits vor. [/accordion-tab] [/accordion]

Warum die Nachrichten- und Chatkontrolle wirkungslos ist

Die EU-Kommission argumentiert, dass die Chatkontrolle die Strafverfolgung von Kindesmissbrauch erleichtern soll. Das ist jedoch selbst unter Betroffenen von Missbrauch umstritten. Hier sind einige Argumente zusammengetragen, die verdeutlichen, warum die Chatkontrolle den Betroffenen und potentiellen Opfern sexuellen Missbrauchs letztlich sogar schadet:

  1. Schutzräume werden zerstört. Gerade Betroffene sexualisierter Gewalt sind auf die Möglichkeit angewiesen, sicher und vertraulich kommunizieren zu können. Räume zum sicheren Austausch untereinander oder etwa mit Therapeut*innen und Anwält*innen helfen Betroffenen bei der Verarbeitung und dem Umgang mit ihren Erfahrungen. Diese sicheren Räume werden ihnen nun durch die Einführung von Echtzeitüberwachung genommen.
  2. Jugendliche werden überproportional kriminalisiert. Besonders junge Heranwachsende senden sich online oft einvernehmlich sensible Bildaufnahmen zu. Dadurch werden ihre Chats besonders häufig von den Ermittlungsbehörden beobachtet und geprüft. Laut Kriminalstatistik richteten sich in der Vergangenheit 40% aller eingeleiteten Ermittlungsverfahren wegen Kinderpornografie gegen Minderjährige.
  3. Die Chatkontrollen erschweren die Strafverfolgung von Kindesmissbrauch. Denn sie verdrängen kriminelle Täter in den Untergrund, wo sie kaum noch zu überwachen sind. Auch in offenen Kanälen haben die Kontrollen die Menge der weitergegebenen Darstellungen nicht eingedämmt, wie die von Jahr zu Jahr steigenden Zahlen an Verdachtsmeldungen belegen.

Kritische Stellungnahmen und Hintergrundartikel zur Nachrichtendurchleuchtung