Systemfrage: Digitale ID, Altersverifikation, Soziale Medien und „Es dient nur dem Schutz unserer Kinder!“

United Nations Legal Identity Agenda – Bildquelle: Screenshot-Ausschnitt Webseite UN

Nur vier Vorabanmerkungen zu den nachfolgenden Informationen:

1. Verbindet die Punkte.
2. Hegelsche Dialektik.
3. Angeblicher Schutz der Kinder und entsprechende Forderungen der Eltern.
4. Alsbald auch bei uns.

Schweden

Schweden hat angekündigt, dass seine digitale Identität (dID) am 1. Dezember 2026 eingeführt wird. Damit erhalten sowohl schwedische Staatsbürger als auch ausländische Einwohner eine staatliche Alternative zur BankID, einem von schwedischen Banken entwickelten digitalen Identitätsdienst.

Mit der als Sverige-ID bezeichneten dID können sich Nutzer identifizieren, Informationen austauschen und elektronische Signaturen leisten. Die dID ermöglicht auch den Zugang zu digitalen Diensten anderer EU-Länder, wie die Regierung am Dienstag bekannt gab.

Die dID wird gemäß den EU-Vorschriften das höchste Vertrauensniveau bieten und damit den Richtlinien für die EU-Digitalidentitäts-Wallet (EUDI) entsprechen. Derzeit bietet keine schwedische dID dieses Vertrauensniveau.

Die dID wird derzeit von der Polizeibehörde in Zusammenarbeit mit der Agentur für digitale Verwaltung (Digg) unter dem Finanzministerium entwickelt. Digg ist für die Umsetzung der eIDAS-Verordnung in Schweden verantwortlich und unterhält Sweden Connect, das den schwedischen eIDAS-Knoten, den technischen Rahmen und das allgemeine Register für sichere digitale ID-Transaktionen umfasst.

Die Polizei weist darauf hin, dass der nationale Personalausweis erst am 1. Dezember, wenn das Gesetz über die elektronische Identifizierung durch Behörden in Kraft tritt, mit der Sverige-ID verknüpft werden kann. Vor dem 1. Dezember ausgestellte nationale Personalausweise können nicht für die Sverige-ID verwendet werden.

Die schwedische dID wird mit zwei verschiedenen Arten von Personalausweisen verknüpft: dem nationalen Personalausweis für schwedische Staatsbürger und einem speziellen Personalausweis für registrierte Einwohner. Um eine dID zu erhalten, muss gleichzeitig ein Antrag auf Ausstellung eines Personalausweises gestellt werden.

Die Arbeiten an der dID begannen im letzten Jahr. Die Polizeibehörde erhielt für diese Aufgabe ein Budget von 40 Millionen schwedischen Kronen (ca. 4 Millionen Euro) für das Jahr 2025.

Mehr als 8,7 Millionen Schweden nutzen bereits die BankID, was einer Durchdringungsrate von 99,7 Prozent entspricht. Die Plattform bietet rund 7.500 Dienste an und hat sich in ganz Skandinavien verbreitet.

Quellen:
Sweden to launch government eID in December 2026
Can BankID spread its footprint outside of the Nordics?

Großbritannien

Die Konsultation der britischen Regierung zum Thema digitale ID hat begonnen, der detaillierte Plan für den Prozess wurde endlich bekannt gegeben, aber bislang ist nur klar, wie groß und weitreichend die Verwirrung über die vorgeschlagenen Maßnahmen ist.

Der Staatssekretär des Premierministers, Darren Jones, gab den Konsultationsplan am Dienstag bekannt, gerade als das Kabinettsamt den Prozess startete. Die Konsultation umfasst eine öffentliche Umfrage und Rückmeldungen von Interessengruppen.

(Download PDF)

Die Regierung plant, 100 zufällig ausgewählte Briten im Rahmen eines „Volksgremiums für digitale Identitäten“ um ihre Meinung zu bitten.

„Diese Konsultation geht weit über das Übliche hinaus, um die Menschen in alle wichtigen Debatten und auch in die kniffligen Kompromisse einzubeziehen (This consultation is going above and beyond to bring people in to all the big debates, and the knotty trade-offs too)“, sagte Jones.

Laut einem Bericht von Hippo Digital vom Dezember mit dem Titel „Qualitative insights concerning the UK Digital Identity scheme” (Qualitative Einblicke in das britische System der digitalen Identität)“ wird die Regierung wahrscheinlich feststellen, „dass die Menschen nicht verstehen, worum es bei dem Plan geht und wie er dem Einzelnen helfen kann“.

(Download PDF)

In ausführlichen Interviews gaben die Teilnehmer zu, dass sie nur wenig über das Programm wissen, aber glauben, dass es einen viel größeren Umfang hat als bisher kommuniziert wurde. Die Missverständnisse waren weit verbreitet und bekannt, von der vollständigen Ersetzung physischer Ausweise bis zur Schaffung einer riesigen neuen zentralisierten Datenbank. Ein Teilnehmer gab zu, dass seine Meinung weitgehend durch den gescheiterten Versuch der Einführung einer Britcard geprägt ist, und sagte: „Was sich im Vergleich zum letzten Mal geändert hat, weiß ich nicht. As far as what’s changed compared to last time I don’t know.)“

Der ursprünglich angegebene „Zweck“ der digitalen ID, illegale Einwanderung zu verhindern, wurde von den Befragten „weitgehend als ‚politische Anbiederung‘ abgetan (was widely dismissed as ‚political pandering‘)“.

Fast alle Befragten haben regelmäßig digitale Geldbörsen des privaten Sektors genutzt, würden aber dennoch eine von der Regierung ausgestellte Geldbörse bevorzugen, da ihr Misstrauen gegenüber der Regierung nicht mit ihrem Misstrauen gegenüber „Big Tech“ vergleichbar ist.

Die wichtigste Erkenntnis daraus dürfte daher sowohl für die privaten Anbieter als auch für die Regierung gelten. Wenn sich die britischen Anbieter digitaler Geldbörsen von den „Big Tech“-Unternehmen abheben können, ein Begriff, der im Allgemeinen für Unternehmen wie Alphabet, Amazon, Apple, Meta und Microsoft gilt, nicht jedoch für diejenigen, die auf der Liste der unter DIATF (jetzt „DVS“) zertifizierten Anbieter stehen.

Der Plan der Labour-Regierung sieht die Integration von Gesundheits- und Bildungsdaten und -diensten in die digitale ID vor, aber die für diese Bereiche zuständigen Minister, Bridget Phillipson und Wes Streeting, haben sich gegen eine Beteiligung ihrer Ministerien ausgesprochen. Die Identitätsprüfung für die Finanzierung sonderpädagogischer Förderung und für NHS-Dienstleistungen müsste getrennt von der nationalen digitalen ID erfolgen.

Derzeit konzentriert sich das Gesundheitsministerium laut einem Bericht der Times weiterhin auf die künftige Nutzung der NHS-App.

Der Geschäftsplan der Driver and Vehicle Standards Agency (DVSA) für dieses Jahr sieht hingegen vor, in Zusammenarbeit mit der Driver and Vehicle Licensing Agency (DVLA) „digitale Passzertifikate“ zu prüfen und diese in die GOV.UK Wallet zu integrieren, um die Ausstellung von Führerscheinen effizienter zu gestalten.

Da der Plan für die Konsultation am selben Tag wie die Konsultation selbst veröffentlicht wurde, sollte die Regierung darauf vorbereitet sein, von Interessengruppen, Experten und anderen zu hören, dass das Vereinigte Königreich Pläne lieber vor ihrer Umsetzung entwickeln, kommunizieren und genehmigen sollte.

Die Konsultation endet am 5. Mai.

Quellen:
Making public services work for you with your digital identity
Digital ID – What do you think?
UK provides ‘some certainty and reassurance to DVS providers’ on digital ID
Qualitative insights concerning the UK Digital Identity scheme December 2025
Hippo Digital finds inclusion, clarity gaps at root of UK digital ID trust problem
Why and how is the power of Big Tech increasing in the policy process? The case of generative AI
Preview of UK DVS Trust Framework 1.0 shows what ‘good digital identity looks like’
Cabinet revolt deals fresh blow to Starmer’s digital ID scheme
Driver and Vehicle Standards Agency business plan, 2025 to 2026

Kalifornien und Colorado

Kaliforniens neues Gesetz zur Online-Sicherheit (AB 1043, Digital Age Assurance Act), sieht ein Modell mit Altersangabe für Betriebssysteme vor. Nach diesem Gesetz, das am 1. Januar 2027 in Kraft treten soll, muss das Betriebssystem bei der Einrichtung eines neuen Geräts den Nutzer nach seinem Alter oder Geburtsdatum fragen. Dieses angegebene Alter wird verwendet, um die im App Store verfügbaren Inhalte zu kuratieren, und kann auf Anfrage an Entwickler weitergegeben werden, um eine altersgerechte Nutzung zu gewährleisten.

Ein Artikel in PC Gamer weist darauf hin, dass dies „mit vielen der heutigen Open-Source-Software, einschließlich Linux, unvereinbar klingt (sounds incompatible with many of today’s open source software, including Linux)“. Die Open-Source-Community ringt mit dem Problem, wie sie die Gesetze einhalten kann, ohne dabei gegen grundlegende Datenschutzprinzipien zu verstoßen.

Der Artikel befasst sich mit technischen Lösungen und zitiert Jef Spaleta, Projektleiter der beliebten Linux-Distribution The Fedora Project, der sagt:

Es könnte so einfach sein, dass wir die administrativen CLI- und GUI-Tools erweitern, um diese Datei im Rahmen der Kontoerstellung zu füllen. Das wäre vielleicht die einfachste Lösung und würde das Problem für das gesamte Ökosystem der Linux-Betriebssysteme lösen. Dann müssten die Anwendungen nur noch beginnen, diese Datei zu berücksichtigen.
—
(It might be as simple as that and we extend the administrative cli and gui tools to populate that file as part of account creation. That might be simplest and it solves the problem for the full ecosystem of Linux OSes. Then applications just have to start choosing to look at the file.)

Für Spaleta deutet dies auf einen D-Bus-Dienst hin, der die Kommunikation zwischen Programmen ermöglicht.

Ubuntu, eine weitere Linux-Distribution, ist ebenfalls unsicher, wie sie reagieren soll, und gibt an, sich vor der Ausarbeitung eines Plans mit ihren Anwälten zu beraten.

Der Punkt ist, dass AB 1043 den Open-Source-Entwicklern Kopfzerbrechen bereitet, indem es die Verantwortung für die Erfassung von Altersdaten den Betriebssystemen auferlegt. Sowohl der kalifornische Gesetzentwurf als auch ein ähnlicher Gesetzentwurf in Colorado, SB26-051, haben den Zorn der Entwickler eines Open-Source-Taschenrechners namens DB48X auf sich gezogen, der als „ein Projekt zur Neugestaltung und Verbesserung der ‚legendären‘ HP48-Taschenrechnerfamilie und der Programmiersprache RPL sowie zur Modifizierung neuerer Taschenrechner für deren Nutzung (a project to rebuild and improve upon the ‚legendary‘ HP48 family of calculators and RPL programming language, and for modding newer calculators to utilise it)“ beschrieben wird.

Anstatt Kaliforniens Vorgaben einzuhalten, hat DB48X beschlossen, den Zugang für Einwohner Kaliforniens und Colorados zu beschränken, wenn (und im Falle Colorados: falls) die Gesetze in Kraft treten. In einer rechtlichen Mitteilung zum Projekt heißt es:

DB48X ist wahrscheinlich ein Betriebssystem im Sinne dieser Gesetze. Es führt jedoch keine Altersüberprüfung durch, kann dies nicht und wird dies auch nicht tun.
—
(DB48X is probably an operating system under these laws. However, it does not, cannot and will not implement age verification.)

Die Entwickler von DB48X sind nicht allein. Ground News hat eine Zusammenstellung von Artikeln veröffentlicht, in denen verschiedene Beschwerden zum Ausdruck kommen. WebProNews sagt, dass das kalifornische Gesetz „jedem Entwickler eine Überwachungspflicht auferlegt – auch denen, die diese nicht erfüllen können (forces a surveillance mandate on every developer – including those who can’t comply)“. The Daily Economy sschreibt:

Kalifornien bettet die Altersüberprüfung direkt in digitale Geräte ein. Für diejenigen von uns, die sich um persönliche Freiheiten sorgen, ist dies ein Notfall.
—
(California is embedding age verification directly into digital devices. For those of us concerned with personal liberties, this is an emergency.)

PC Gamer weist auch auf die Herausforderungen bei der Durchsetzung eines Gesetzes hin, das bedeutet, dass „die Aufgabe, zu überprüfen, ob Personen sein Betriebssystem installiert haben, den kalifornischen Behörden zufällt (the job of checking whether people have installed its OS falls onto Californian authorities to deal with)“.

Sowohl der kalifornische als auch der coloradische Gesetzentwurf sehen zivilrechtliche Geldstrafen in Höhe von 2.500 Dollar für unbeabsichtigte Verstöße und 7.500 Dollar für vorsätzliche Verstöße vor, aber wie würden die meisten Verstöße überhaupt entdeckt werden?
—
(Both Californian and Coloradan bills set out civil fines of $2,500 for unintentional breaches and $7,500 for intentional breaches, but how would the majority of breaches be discovered in the first place?)

Kritiker monieren, warum Kalifornien nicht genau angibt, welches Niveau oder welchen Umfang die Altersüberprüfung haben muss. Wenn es sich nur um das Geburtsdatum handelt, sagt Spaleta, „könnte eine einfache Dropdown-Oberfläche ausreichen (a simple dropdown interface may suffice)“, was bedeutet, dass „die Wirksamkeit eines solchen Systems offenbar auf einem Ehrenkodex basiert (the effectiveness of such a system appears to be based on an honour system)“. Die Selbstauskunft an der Wurzel macht den gesamten Prozess zunichte; dieses geplante Gesetz zur Altersüberprüfung schreibt in Wirklichkeit überhaupt keine Altersüberprüfung vor. Technisch gesehen handelt es sich nicht einmal um eine Altersabsicherung.

Das kalifornische Gesetz tritt in weniger als einem Jahr in Kraft, und der Gesetzentwurf in Colorado (der sein Ziel treffender als „Altersnachweis“ bezeichnet) würde, sofern er verabschiedet wird, am 1. Januar 2028 in Kraft treten. Ironischerweise beklagt der Artikel am Ende die Geschwindigkeit, mit der sich neue Technologien normalisieren: Die Gesetze, so heißt es darin, „kommen zu einer Zeit, in der die Altersüberprüfung weltweit immer weiter verbreitet ist und heftiger Kritik ausgesetzt ist, wie beispielsweise einem offenen Brief von Wissenschaftlern und Forschern, in dem auf die vielen Fallstricke schlecht durchdachter Überprüfungsmethoden hingewiesen wird (coming at a time when age verification is being rolled out more widely across the globe and facing stern criticism, such as an open letter from scientists and researchers that notes the many pitfalls of ill-thought-out verification methods)“.

Der betreffende Brief dient als gemeinsame Referenz für diejenigen, die aus verschiedenen Gründen gegen Gesetze und Technologien zur Altersüberprüfung sind. Die Open-Source-Community schließt sich nun den Social-Media-Giganten, Datenschützern und Pornoseiteninhabern an, die sich gegen solche Gesetze aussprechen, die sie als invasiv und gefährlich bezeichnen – während die Politiker darauf bestehen, dass Eltern dies fordern, während sie daran arbeiten, das richtige Rechtsmodell zu finden.

Quellen:
Bill Text: CA AB1709 | 2025-2026 | Regular Session | Introduced
Resistance to operating system age checks coming from *checks notes* open source calculator and an OS that may just exclude Californians altogether
Wikipedia – D-Bus
SB26-051 Age Attestation on Computing Devices
DB48X High Performance Scientific Calculator, Reinvented
California’s AB 1043 Forces a Surveillance Mandate on Every Developer — Including the Ones Who Can’t Comply
California’s Age-Verification Law Is a Civil Liberties Test
2025 Online Biometric Age Assurance Market Report & Buyers Guide
AVPA, academics, advocacy groups trade letters over age assurance tech

Global

Die Altersüberprüfung hat eine memetische Wiederholbarkeit erreicht. Australiens Bemühungen, Kinder unter 16 Jahren von großen Social-Media-Plattformen fernzuhalten, werden auch anderswo nachgeahmt. Und die neue Bedrohung durch KI-Chatbots, die nicht einvernehmliche Pornografie erstellen und zu Gewalt auffordern, führt zu noch mehr Nachahmungen. Die Viralität der sozialen Medien hat sich gegen sie gewendet, da die Regierungen über die richtige Reaktion auf Forderungen nach strengeren Beschränkungen nachdenken.

Großbritannien hat die versprochene öffentliche Konsultation darüber gestartet, ob Altersbeschränkungen für Social-Media-Plattformen eingeführt werden sollen oder nicht.

In einer Mitteilung des Ministeriums für Wissenschaft, Innovation und Technologie (DSIT) wird dies als „die weltweit ehrgeizigste Konsultation zu sozialen Medien (the world’s most ambitious consultation on social media)“ bezeichnet. Es heißt, dass sie reale Pilotprojekte mit Familien und Teenagern umfassen wird, um zu untersuchen, wie potenzielle Beschränkungen für soziale Medien in der Praxis funktionieren könnten.

Zu den wichtigsten Fragen, die untersucht werden sollen, gehören die Festlegung eines Mindestalters für den Zugang zu sozialen Medien, die Zulässigkeit von süchtig machenden Designmerkmalen wie unendlichem Scrollen und Autoplay, die Möglichkeit einer obligatorischen Nachtruhe, der Status von KI-Chatbots – und „wie die Durchsetzung der Altersüberprüfung verstärkt werden sollte (how age verification enforcement should be strengthened)“.

Die Ergebnisse der Konsultation werden den weiteren Weg des Vereinigten Königreichs in Bezug auf die Gesetzgebung zur Altersüberprüfung beeinflussen. Auch wenn es wahrscheinlich Einwände von Seiten derjenigen geben wird, die Bedenken hinsichtlich des Datenschutzes haben, ist es doch sehr wahrscheinlich, dass das Vereinigte Königreich dem Beispiel Australiens folgen und eine Auswahl sehr großer Social-Media-Plattformen auf Nutzer ab 16 Jahren beschränken wird. Interessengruppen aus allen Bereichen nennen den „starken Druck seitens der Eltern als wichtigsten politischen Treiber“.

Wir wissen, dass Eltern überall damit zu kämpfen haben, wie viel Zeit ihre Kinder vor dem Bildschirm verbringen sollten, wann sie ihnen ein Handy geben sollten, was sie online sehen und welche Auswirkungen all dies hat.

Deshalb bitten wir Kinder und Eltern, sich an dieser wegweisenden Konsultation darüber zu beteiligen, wie junge Menschen in einem Zeitalter des raschen technologischen Wandels gedeihen können.
—
(We know parents everywhere are grappling with how much screen time their children should have, when they should give them a phone, what they are seeing online, and the impact all of this is having.

This is why we’re asking children and parents to take part in this landmark consultation on how young people can thrive in an age of rapid technological change.)

Die Konsultation läuft über drei Monate und endet am 26. Mai. Sie steht „allen offen, die eine Meinung dazu haben (“open to everyone with a view)“. Dazu gehören Eltern und Betreuer, junge Menschen, Jugendarbeiter, zivilgesellschaftliche Organisationen, Wissenschaftler und Vertreter verwandter Branchen, darunter Anbieter von Biometrie und digitaler Identität zur Altersüberprüfung oder Gesichtsalterabschätzung.

Die Regierung „wird im Sommer reagieren, schnell auf die gesammelten Erkenntnisse reagieren (will respond in the summer, acting swiftly on the evidence gathered)“ und dazu neue Gesetzgebungsbefugnisse nutzen.

Die Konsultation ist nicht nur eine Formalität, sagt DSIT.

Neben der formellen Konsultation startet die Regierung eine der umfangreichsten nationalen Debatten zu einem öffentlichen Thema der letzten Jahre. In den kommenden drei Monaten werden Familien, junge Menschen und Gemeinden in ganz Großbritannien eingeladen, ihre Meinung zu äußern, unter anderem durch spezielle Versionen der Konsultation für Kinder und Eltern. Die nationale Debatte umfasst Gemeinschaftsveranstaltungen, lokale Gespräche unter Leitung von Abgeordneten, Roundtable-Gespräche mit Influencern und die Einbindung von Schulen und zivilgesellschaftlichen Organisationen. Ein paralleles akademisches Gremium wird außerdem die sich entwickelnde Evidenzbasis bewerten und dabei auf internationale Erfahrungen aus Ländern wie Australien zurückgreifen.
—
(Alongside the formal consultation, the government is launching one of its most wide-ranging national conversations on a public issue in recent years. Over the coming 3 months, families, young people, and communities across the UK will be invited to share their views, including through dedicated children’s and parent’s versions of the consultation. The national conversation will include community events, MP-led local conversations, influencer roundtables, and engagement through schools and civil society organisations. A parallel academic panel will also assess the developing evidence base, drawing on international experiences from countries including Australia.)

Es wird erwartet, dass der britische Premierminister Keir Starmer ein Verbot unterstützen wird, nachdem er seine anfänglich zögerliche Haltung zugunsten einer konfrontativeren Position aufgegeben hat und den großen Social-Media-Unternehmen mit den Worten „Nur zu! (Bring it on!)“ begegnet ist.

In seinem Kommentar zu dem Vorschlag auf LinkedIn verweist Robin Tombs, Vorstandsvorsitzender von Yoti, auf den „Children’s Code Strategy Progress Update“ der britischen Datenschutzbehörde (ICO) – und auf die hohe Geldstrafe in Höhe von 14 Millionen Pfund (etwa 18 Millionen Euro), die sie gegen Reddit wegen der unrechtmäßigen Verarbeitung der Daten von britischen Nutzern unter 13 Jahren verhängt hat.

Reddit hat gegen die Geldstrafe Berufung eingelegt. Tombs hält es jedoch für unwahrscheinlich, dass diese erfolgreich sein wird, und merkt an, dass „die ICO vor 18 Monaten deutlich gemacht hat, dass die Verwendung personenbezogener Daten von Kindern unter 13 Jahren durch Plattformen eine Priorität darstellt (18 months ago the ICO made clear that platforms’ use of personal info of children U13 was a priority.)“.

Kurz gesagt, so Tombs, sei seit einiger Zeit klar, was von Plattformen erwartet werde – mehr als genug Zeit, um biometrische Technologien zur Altersüberprüfung als Weg zur Einhaltung der Vorschriften in Betracht zu ziehen. Beispielsweise die Altersschätzung, die „keine dokumentarischen Nachweise erfordert und eine datenschutzfreundlichere Methode sein könnte (doesn’t require documentary evidence and could be a more privacy-friendly method.)“.

Unabhängig davon „sollten Plattformen sicherstellen, dass ihre Altersüberprüfung ein angemessenes Maß an technischer Genauigkeit, Zuverlässigkeit, Robustheit und Fairness aufweist, das dem jeweiligen Risikoniveau entspricht (platforms should ensure their age assurance has an appropriate level of technical accuracy, reliability, robustness and fairness, based on the level of risk posed)“ – und sie sollten sorgfältig darauf achten, dass keine Fälle von unrechtmäßiger Datenverarbeitung gemäß den Kodizes auftreten.

Auch Polen reiht sich in die Liste der Länder ein, die Gesetze zur Altersüberprüfung verfolgen. In der Sprache der frühen sozialen Medien könnte man sagen, dass Gesetze, die Altersbeschränkungen für soziale Plattformen vorsehen, viral gegangen sind. Australien war der Patient Null, nachdem es im Dezember 2025 sein Gesetz zum Mindestalter für soziale Medien eingeführt hatte. Seitdem haben eine Handvoll Länder ihre Absicht signalisiert, etwas Ähnliches zu tun. In Europa haben Dänemark, Griechenland, Frankreich, Deutschland und Spanien Schritte in Richtung einer Gesetzgebung unternommen.

Als letztes Land hat Polen Interesse bekundet. In einem Interview mit Bloomberg nennt Bildungsministerin Barbara Nowacka einen „Rückgang der intellektuellen Kompetenz (decline in the intellectual competence)“ von Kindern und Jugendlichen als Motiv für die Einführung einer Altersüberprüfungsfunktion in der App mObywatel (mCitizen).

Chatbots entwickeln sich zum nächsten Ziel der Gesetzgebung, was wie ein frühzeitiger Versuch aussieht, mit dem Tempo des technologischen Wandels Schritt zu halten. Während OpenAI ein algorithmisches Tool zur Altersbestimmung ähnlich dem von YouTube getestet hat, muss es sich auch für eine wachsende Zahl von Todesfällen verantworten.

Auch Australien hat eine Vorreiterrolle im Bereich KI übernommen und im vergangenen Jahr von der Industrie entworfene Kodizes registriert, die die Regeln für altersgerechte Inhalte verschärfen, „einschließlich der klaren und gegenwärtigen Gefahr, die von meist unregulierten KI-gesteuerten Begleit-Chatbots ausgeht (ncluding the clear and present danger posed by mostly unregulated AI-driven companion chatbots)“. Irland hat kürzlich seinen Gesetzgebungsprozess zu Altersgesetzen beschleunigt, um auf Probleme mit Chatbots zu reagieren, die nicht einvernehmliche Deepfake-Nacktfotos produzieren. Und Kanada „prüft“ derzeit eine Verschärfung der Vorschriften für Chatbots, darunter die beliebten großen Sprachmodelle ChatGPT, Claude, Gemini und Grok.

Diese Woche verschärft Australien die Vorschriften. Reuters berichtet, dass der eSafety Commissioner neue Vorschriften erlassen hat, wonach KI-Chatbots „Australiern unter 18 Jahren den Zugang zu Pornografie, extremer Gewalt, Selbstverletzung und Essstörungen untersagen müssen, andernfalls drohen Geldstrafen von bis zu 49,5 Millionen australischen Dollar (restrict Australians under 18 from receiving pornography, extreme violence, self-harm and eating disorder content or face fines of up to $49.5 million Australian Dollar)“.

Die Regulierungsbehörde verspricht, „bei Verstößen alle uns zur Verfügung stehenden Befugnisse auszuschöpfen (use the full range of our powers where there is non-compliance)“. Dazu gehören insbesondere „Maßnahmen in Bezug auf Gatekeeping-Dienste wie Suchmaschinen und App-Stores, die wichtige Zugangspunkte zu bestimmten Diensten bieten (action in respect of gatekeeping services such as search engines and app stores that provide key points of access to particular services)“.

Derzeit sind Kanadas Pläne zur gesetzlichen Regulierung von KI-Chatbots noch weitgehend theoretischer Natur, obwohl die Idee angeblich in der Öffentlichkeit Unterstützung findet. Ein Bericht der Zeitung The Globe and Mail zitiert eine nationale Umfrage unter 1.424 Kanadiern, die vom Centre for Media, Technology and Democracy durchgeführt wurde und zu dem Ergebnis kam, dass „unter Kanadiern weit verbreitete Besorgnis über die von Chatbots ausgehenden Risiken (widespread concern among Canadians of the risk posed by chatbots)“ herrscht. Bemerkenswert ist, dass drei Viertel der Befragten Bedenken hinsichtlich einer emotionalen Abhängigkeit von Chatbots äußerten.

Laut Globe hat KI-Minister Evan Solomon „angedeutet, dass er in der bevorstehenden Datenschutzgesetzgebung Maßnahmen ergreifen will, um sicherzustellen, dass Chatbots und andere digitale Plattformen keine Daten von Kindern sammeln und verwenden können, auch nicht für Marketingzwecke (signalled that in forthcoming privacy legislation, he is preparing to take steps to ensure that chatbots and other digital platforms cannot collect and use the data of children, including for marketing purposes)“. Es wird erwartet, dass Kulturminister Marc Miller den Gesetzentwurf vorlegen wird.

Solomon ist jedoch ein lautstarker Befürworter von KI und plante, das Thema unter Berücksichtigung von Innovationen anzugehen.

Die Canadian Press fasst die Situation treffend zusammen:

Ottawa hat nicht bestätigt, dass es ein Verbot in Betracht zieht, hat es aber auch nicht ausgeschlossen.
—
(Ottawa hasn’t confirmed it’s considering a ban, but has also not ruled it out.)

Angesichts des Massenmordes in Tumbler Ridge, British Columbia, hat das Thema jedoch neue Dringlichkeit erhalten. Laut einem Bericht der CBC hat ChatGPT „bestätigt, dass es einen Account der 18-jährigen Schützin etwa ein halbes Jahr bevor sie am 10. Februar acht Menschen, darunter überwiegend Kinder, und anschließend sich selbst tötete, markiert und gesperrt hat (acknowledged it flagged and banned an account belonging to 18-year-old shooter about half a year before she killed eight people, most of them children, and then herself on Feb. 10)“.

Da die Schützin 18 Jahre alt war, hätte die Technologie zur Altersüberprüfung sie möglicherweise nicht daran gehindert, mit ChatGPT zu interagieren. Die regulatorische Zulässigkeit der Kommunikation deutet jedoch darauf hin, dass das größere Problem möglicherweise in der Nutzung von ChatGPT an sich liegt.

Quellen:
Private, effective age verification is possible: Australia age assurance technology trial
Effectiveness of age gates for social media algorithms, chatbots next targets in UK
UK examining age assurance accuracy, kids social media use to build on OSA
Proposals to ban social media for children
Facial age estimation spoof, VPN bypass claims called into question
With shift in UK online safety policy, Starmer tells Silicon Valley to ‘bring it on’
ICO hits Reddit with £14.5M fine for not implementing robust age assurance
ICO fines Reddit £14m for processing UK U13 data, appeals planned
Movement to get kids off social media gains momentum in EU
Poland Plans Social Media Ban for Kids in Challenge to US Tech
Poland to use its digital ID app for age verification on social platforms
For ChatGPT, OpenAI rolls out age inference system similar to YouTube’s
AI chatbots face age assurance clampdown prompted by teen suicide, psychosis
Regulatory bodies close in on AI chatbots as LLMs face greater scrutiny
AI platforms flippant about stopping deepfake porn; authorities stepping in
Canada’s AI minister considering age assurance requirements for chatbots
Ottawa planning measures to protect young and vulnerable from AI chatbots, minister says
Will the online harms bill ban kids from social media – maybe
When should AI companies alert police? What the Tumbler Ridge tragedy reveals about regulating AI