CHAT CONTROL III. – Der Weg zu einem vollständig identifizierten Internet weltweit

Der Präzedenzfall der Werbeindustrie

Seit Mitte der 2010er-Jahre sind große Werbeplattformen in der Lage, bemerkenswert präzise Profile einzelner Nutzer zu erstellen.

Durch die Kombination von Suchverlauf, Likes, geteilten Inhalten, Standortdaten, Geräte-Fingerabdrücken, dem Surfverhalten auf verschiedenen Websites und Verhaltenssignalen konnten Unternehmen Hobbys, politische Einstellungen, religiöse Interessen und sogar die sexuelle Orientierung mit hoher Genauigkeit ableiten.

Diese Profile bildeten die Grundlage für mikrogezielte Werbekampagnen.

Eine Forschungsarbeit aus dem Jahr 2015 zeigte, dass Googles System für zielgerichtete Werbung dazu missbraucht werden konnte, persönliche Informationen über Nutzer abzuleiten, indem Google-Werbewerkzeuge mit Informationen kombiniert wurden, die über Websites im Google Display Network gesammelt wurden.

Was Regeln nach dem Vorbild von Chat Control HINZUFÜGEN, ist die gesetzliche Verpflichtung und zentrale Koordinierung, ähnliche Analysen in großem Umfang und für vom Staat festgelegte Zwecke einzusetzen.

Ein weltweites Muster, keine rein europäische Angelegenheit

Anforderungen zur Altersverifikation, Risikobewertungen von Inhalten und Einschränkungen für jüngere Nutzer schreiten weltweit voran.

Australien hat ein Verbot sozialer Medien für unter 16-Jährige eingeführt.

Verschiedene US-Bundesstaaten haben Gesetze zur Altersverifikation für bestimmte Plattformen und Inhalte verabschiedet.

Die Europäische Union entwickelt Werkzeuge zur Altersverifikation, die mit digitalen Identitätssystemen verbunden sind.

Das Vereinigte Königreich ist am weitesten darin gegangen, diese Verpflichtungen in alltägliche Einschränkungen beliebter Dienste umzuwandeln.

Dies ist kein ausschließlich europäisches Experiment.

Gaming und alltägliche Einschränkungen: Das Beispiel Großbritannien

Im Vereinigten Königreich umfassen die mit dem Online Safety Act verbundenen Regeln inzwischen strengere Kontrollen für unter 16-Jährige in Gaming-Umgebungen.

Ab Frühjahr 2027 sollen Plattformen den Kontakt mit Fremden und Livestreaming-Funktionen für jüngere Nutzer auf Diensten wie Minecraft, Fortnite, Roblox und Xbox einschränken.

Alterskontrollen und standardmäßig aktivierte Sicherheitseinstellungen sind für soziale Funktionen mit „hohem Risiko“ vorgeschrieben. Ja, wie etwa Chats.

Diese Einschränkungen sind in der Praxis nur schwer wirksam durchzusetzen.

Kinder und potenzielle Täter können Dienste nutzen, um den Eindruck zu erwecken, sie befänden sich in anderen Rechtsräumen, bei der Kontoerstellung über ihr Alter lügen, die KI mithilfe einer anderen KI täuschen oder auf weniger regulierte Plattformen und Server ausweichen.

Die Durchsetzung beruht daher häufig auf unvollkommenen technischen Maßnahmen, die entschlossene Nutzer umgehen können.

Digitale Identität und das Ende praktischer Anonymität

Eine Altersverifikation erfordert logisch gesehen nicht, dass jede Website die vollständige rechtliche Identität einer Person kennt. Datenschutzfreundliche Systeme können theoretisch lediglich nachweisen, dass jemand eine bestimmte Altersgrenze, etwa 16 oder 18 Jahre, überschritten hat, ohne den Namen oder die vollständige Identität offenzulegen.

Die EU beschreibt ihre derzeitige Anwendung zur Altersverifikation, die in weniger als zwei Minuten gehackt wurde, als ein Mittel, um das Alter nachzuweisen, ohne Plattformen direkt unnötige persönliche Daten mitzuteilen. ;D

Eine schlechte Umsetzung könnte Sitzungen miteinander verknüpfbar machen, Nutzer ausschließen, Aufzeichnungen über Verifikationsvorgänge erzeugen oder sich schrittweise zu einem System ausweiten, bei dem man „genau beweisen muss, wer man ist“.

Das schlimmste Szenario ist ein Internet, in dem anonymes Lesen, Diskutieren und Veröffentlichen unmöglich wird. Whistleblower, Kritiker, politische Dissidenten, Missbrauchsopfer, Menschen, die sensible Gesundheitsthemen recherchieren, und alle, die unter einer feindseligen Familie oder Regierung leben, würden die Folgen zuerst tragen.

Menschen nutzen das Internet außerdem, um über Politik zu diskutieren, Demonstrationen zu organisieren, Petitionen zu verbreiten, Kampagnen zu koordinieren und rechtmäßige Oppositionsbewegungen aufzubauen. Wenn jedes Konto, jede Nachricht oder jedes Verifikationstoken mit einer realen Identität verknüpft werden kann, erhalten Behörden die Möglichkeit, diese Netzwerke zu kartieren, ohne dass jemand eine Straftat begangen hat.

Sobald die Identitäten der Organisatoren, Spender und Teilnehmer bekannt sind, können Online-Aktivitäten Folgen in der physischen Welt haben: Polizeibesuche, berufliche Probleme, Kontoschließungen, finanzielle Überprüfungen, Reisebeschränkungen oder Druck auf Familienmitglieder.

Das Ergebnis wäre nicht nur eine direktere Repression. Es würde auch zu weitverbreiteter Selbstzensur führen.

Menschen würden kontroverse Diskussionen vermeiden, sich von rechtmäßigen Kampagnen distanzieren und zu politischen oder gesellschaftlichen Themen schweigen, weil sie nicht mehr sicher sein könnten, wer ihre Beteiligung aufzeichnet, analysiert oder speichert.

Dies ist keine theoretische Sorge, die für eine ferne Zukunft erfunden wurde. Diese Systeme werden bereits in sämtlichen Algorithmen sozialer Medien eingesetzt.

Die Abschaffung der Anonymität würde diesen Prozess billiger, schneller und umfassender machen.

Der unerfahrene Staat

Diese Debatte geht außerdem davon aus, dass der Staat kompetent genug ist, das Online-Leben von Kindern besser zu beaufsichtigen als ihre Eltern. Diese Annahme verdient erheblich mehr Prüfung, als sie erhält.

Kinder werden online nicht dadurch sicher, dass eine Plattform eine Funktion vor ihnen versteckt oder eine Behörde alle Menschen durch ein System zur Altersverifikation zwingt. Sie werden sicherer, indem sie lernen, wie das Internet funktioniert, Manipulation erkennen, Betrugsversuche verstehen, mit Missbrauch umgehen und wissen, wann sie um Hilfe bitten müssen.

Dafür braucht es Vertrauen, Kommunikation und Erfahrung.

Ein Kind, das bis zum Erwachsenenalter vor jeder unangenehmen Interaktion geschützt wird, wird dadurch nicht zwangsläufig sicherer.

Es betritt das Internet möglicherweise einfach später, mit weniger Erfahrung und weniger Selbstvertrauen, während sich die Betrüger, Täter und Manipulatoren noch immer genau dort befinden, wo sie vorher waren.

Eltern, die offen mit ihren Kindern sprechen, klare Erwartungen setzen und beteiligt bleiben, können Urteilsvermögen auf eine Weise vermitteln, zu der kein Regulierer in der Lage ist. Eine Regierung kann weder die Reife eines einzelnen Kindes noch das Vertrauen innerhalb einer Familie oder die von den Eltern festgelegten Regeln kennen.

Sie kann nur Millionen von Menschen gleichzeitig pauschale Einschränkungen auferlegen.

Diese Einschränkungen werden zwangsläufig von Beamten, Regulierern und Auftragnehmern entworfen, die häufig weder die Technologie noch die Familien verstehen, die sie zu regieren versuchen.

Der Staat kann Straftaten bestrafen und tatsächliche Täter verfolgen. Er sollte nicht die Eltern ersetzen, bestimmen, wie jedes Kind das Internet zu nutzen hat, oder Erwachsene dazu zwingen, ihre Privatsphäre aufzugeben, weil manche Familien möglicherweise Hilfe beim Umgang mit Online-Risiken benötigen.

Das Ziel sollte nicht darin bestehen, Kinder hervorzubringen, die online niemals mit etwas Schwierigem konfrontiert wurden. Es sollte darin bestehen, junge Erwachsene heranzuziehen, die wissen, wie sie Gefahren erkennen, darauf reagieren und bei Bedarf um Hilfe bitten können.

Potenzielle Schäden

Es entstehen Datenschutzschäden, wenn Identitätsdokumente, Gesichtsdaten oder Verhaltensprofile an Verifikationsanbieter übergeben werden.

Es entstehen Sicherheitsschäden durch die Schaffung wertvoller Datenbanken, die Identitäten, Alter, Konten, Surfverhalten und Profiling miteinander verbinden und für staatliche Behörden zugänglich sind.

Es entstehen Ausschlussschäden, wenn Menschen ohne geeignete Dokumente, Kameras, Smartphones oder erfolgreiche Ergebnisse einer Gesichtsaltersschätzung keinen Zugang zu Diensten erhalten.

Es entstehen Schäden für die Meinungsfreiheit, weil Anonymität rechtmäßige, aber unpopuläre Meinungsäußerungen schützt.

Es entstehen Wettbewerbsschäden, weil große Plattformen regulatorische Kosten leichter tragen können als kleine Foren, unabhängige Entwickler und Open-Source-Dienste.

Es entstehen Schäden für die kindliche Entwicklung, wenn Kinder von Gemeinschaften, kreativen Werkzeugen, Unterstützungsnetzwerken und Möglichkeiten abgeschnitten werden, unter Anleitung den Umgang mit Risiken zu lernen.

Es entstehen Verlagerungsschäden, weil Kinder und Täter auf weniger regulierte, weniger sichtbare und gefährlichere Dienste ausweichen können.

Australiens Erfahrungen zeigen bereits das grundlegende Problem der Durchsetzung. Forscher stellten weitverbreitete Fehler bei den ersten Alterskontrollen fest, während Studien mit jungen Nutzern ergaben, dass viele die Einschränkungen als unfair oder wirkungslos betrachteten und lernten, sie zu umgehen.

Die grundlegenden Fragen

Diese Entwicklungen werfen Fragen auf, die über die technische Umsetzung hinausgehen.

Ist es der wirksamste Weg, Kinder zu schützen, ihren Zugang zu großen Teilen des Internets stark einzuschränken oder mit Zugangshürden zu versehen, oder verdrängt dies ihre Aktivitäten lediglich in weniger sichtbare Bereiche?

Ist die massenhafte Analyse sämtlicher Kommunikation ein notwendiges oder verhältnismäßiges Mittel, um Grooming und den Kontakt mit schädlichen Inhalten zu verhindern?

Und ganz grundsätzlich: Sollten Behörden ihre Ressourcen auf die Untersuchung und Verfolgung von Straftaten konzentrieren, die gerade geschehen oder bereits geschehen sind, anstatt Systeme aufzubauen, die darauf ausgelegt sind, potenzielles zukünftiges Verhalten der gesamten Bevölkerung zu überwachen?

TEIL 4 LESEN