Drei Unternehmen, die in fast allem miteinander konkurrieren, sprechen im Stillen miteinander über Sicherheit. OpenAI bestätigte am 15. September, dass die Gespräche mit Anthropic und Google DeepMind bereits seit mehreren Wochen laufen.
Was zur Diskussion steht
Drei Mechanismen sind aufgetaucht. Der erste ist die Einbindung unabhängiger Prüfer in die Unternehmen, um die Sicherheitsarbeit von innen zu überwachen, statt sie nachträglich zu prüfen. Der zweite ist eine neue Branchenstandardorganisation. Der dritte und ungewöhnlichste ist die Abstimmung über das Tempo der Entwicklung an der technologischen Spitze selbst.
Chris Lehane, OpenAIs Leiter für globale Politik, sagte, das Unternehmen unterstütze eine Klausel im FRONTIER Act, die führende Labore verpflichten würde, unabhängige Prüforganisationen zuzulassen. Sam Altman erklärte, OpenAI werde unabhängige Prüfer einbinden. Demis Hassabis forderte eine neue US-Standardorganisation, die als Aufsichtsinstanz fungieren solle.
Was den Anstoß gab
Anthropic-CEO Dario Amodei veröffentlichte am Samstag einen Essay, in dem er argumentierte, die Branche solle zusammenarbeiten, um das Tempo der Spitzen-KI-Entwicklung zu verlangsamen und katastrophale Risiken zu vermeiden. Die Bestätigungen von OpenAI und Google folgten innerhalb weniger Tage.
Die kartellrechtliche Frage
Wenn Wettbewerber vereinbaren, langsamer voranzugehen, hat das auf den ersten Blick die Form einer illegalen Absprache. Lehanes Position ist, dass für die Abstimmung in Sicherheitsfragen keine staatliche Ausnahmegenehmigung nötig sei. Von TechCrunch zitierte Beobachter zeigten sich weniger sicher und wiesen darauf hin, dass die Gespräche Aufmerksamkeit auf sich ziehen könnten, sollte sich herausstellen, dass die Abstimmung den Wettbewerb unterdrückt.
Der politische Hintergrund spricht in die andere Richtung. Präsident Trump hat Bedenken zur KI-Sicherheit als Schwindel bezeichnet, und Berater David Sacks hat die Befürchtungen als übertrieben dargestellt. Die Labore schlagen also Selbstbeschränkung vor, zu einem Zeitpunkt, an dem die Regierung dies gar nicht fordert.
Warum es wichtig ist
Für alle, die Werkzeuge auswählen, stellt sich die praktische Frage, ob unabhängige Prüfung zum Normalfall wird. Ein Modell, das von einer externen Organisation geprüft wurde, ist etwas anderes als eines, dessen Sicherheitsaussagen allein auf dem Wort des Herstellers beruhen. Unterschrieben ist noch nichts – es handelt sich um Gespräche, nicht um Verpflichtungen –, aber die Richtung ist beobachtenswert, denn sie würde verändern, was die Sicherheitsdokumentation eines Anbieters tatsächlich wert ist.