Kalifornien hat am 10. September ein Paket von Gesetzen zur Online-Sicherheit von Kindern unterzeichnet, und eines davon setzt einen Präzedenzfall, dem sich der Rest der Branche stellen muss.
Adam's Law
SB 1119, verfasst von Senator Steve Padilla zusammen mit den Assemblymembers Buffy Wicks und Rebecca Bauer-Kahan, betrifft KI-Begleit-Chatbots. Das Gesetz verpflichtet Betreiber, Krisenprotokolle für Fälle von Suizidgedanken einzuführen, elterliche Kontrollen bereitzustellen und Benachrichtigungen zu versenden, wenn ein Kind Sicherheitseinstellungen deaktiviert.
Die Bestimmung, die Neuland betritt, ist die zur Aufsicht. Das Gesetz wird als das erste im Land beschrieben, das Unternehmen zu unabhängigen Kindersicherheits-Audits und jährlichen Risikobewertungen verpflichtet. Keine Selbstbewertung, und kein Bericht, der erst eingereicht wird, nachdem etwas schiefgelaufen ist.
Der Rest des Pakets
Neben diesem Gesetz wurden ein Dutzend weitere Gesetze unterzeichnet. SB 867 betrifft Companion-Chatbot-Spielzeuge und weitet dieselbe Sorge auf physische Produkte aus, die sich an kleine Kinder richten. AB 1856 führt Signale zur Altersverifizierung für Softwareanwendungen ein. AB 1709 untersagt Social-Media-Plattformen, Nutzern unter 16 Jahren suchterzeugende Engagement-Funktionen anzubieten. AB 2 erhöht den Schadensersatz, dem eine große Plattform ausgesetzt sein kann, wenn ihr Verhalten einem Kind schadet, und Opfer von Deepfakes können zivilrechtliche Ansprüche von bis zu 250.000 US-Dollar pro Klage geltend machen.
Warum Kalifornien über Kalifornien hinaus wichtig ist
Unternehmen entwickeln selten ein Produkt für Kalifornien und ein anderes für den Rest der Welt. Eine in Sacramento formulierte Compliance-Vorgabe wird tendenziell zum nationalen Standard – so haben die Datenschutz- und Emissionsvorschriften des Bundesstaats seit Jahren funktioniert.
Was zu erwarten ist
Wer auf einer Companion-Chatbot-Plattform aufbaut oder irgendetwas mit einer Persona ausliefert, mit der ein Minderjähriger sprechen könnte, sollte die Audit-Pflicht als festen Posten einplanen. Es handelt sich um eine wiederkehrende externe Kostenstelle, nicht um eine einmalige Compliance-Übung, und sie trifft die Betreiber und nicht den zugrunde liegenden Modellanbieter.
Für alle anderen ist das aufschlussreiche Signal, dass Regulierungsbehörden aufgehört haben, Chatbots als generische Software zu behandeln, und begonnen haben, Companion-Produkte als eigene Kategorie mit eigenen Pflichten zu betrachten.