Google, OpenAI und Anthropic planen offenbar eigene KI-Sicherheitsregeln – was sich für Entwickler ändern könnte

Die Sicherheit von KI-Modellen wird geprüft, und noch bevor es ein Gesetz gibt, könnten sich die Nutzungsbedingungen der KI-Anbieter ändern und für Entwickler gelten.

Google, OpenAI und Anthropic bereiten Berichten zufolge eine Organisation vor, die KI-Sicherheitsregeln selbst festlegen soll. Sie heißt SAFA (Standards Authority for Frontier AI). Sie würde zum Beispiel entscheiden, welche Tests eine neue KI vor der Veröffentlichung bestehen muss, wie Vorfälle gemeldet werden und wer prüfen darf.

Die Angaben stammen von The Information, die sich auf nicht genannte Quellen beruft. Die drei Unternehmen haben nichts offiziell angekündigt. Als Starttermin werden Ende 2026 oder Anfang 2027 genannt.

Warum die Unternehmen selbst aktiv werden

In den USA gibt es bislang kein Bundesgesetz, das hochentwickelte KI (Frontier AI) direkt regelt. Laut den Berichten wollten die Unternehmen zunächst eine staatliche Aufsicht, doch ein Entwurf für eine Executive Order fand in der Regierung nicht genug Unterstützung. Deshalb geht es nun in Richtung einer privaten Organisation.

SAFA soll Berichten zufolge der FINRA nachempfunden sein, der Selbstkontroll-Organisation der US-Brokerfirmen. Offen ist, wie Regelverstöße bestraft würden und ob SAFA Modelltests selbst durchführt oder externen Prüfern überlässt.

Wo Regierung und Kongress stehen

Executive Order (2. Juni): eine Anordnung, die der US-Präsident ohne den Kongress erlassen kann. Diese ist freiwillig: Unternehmen sind gebeten, der Regierung vor einer Veröffentlichung bis zu 30 Tage frühen Zugang zu einem Modell zu geben. Eine Genehmigung vor dem Start ist nicht vorgeschrieben.
FRONTIER Act im Repräsentantenhaus (23. Juli): ein Gesetzentwurf, nach dem große KI-Entwickler jedes Jahr Audits durchlaufen müssten und Beschäftigte geschützt würden, die Probleme im eigenen Unternehmen melden.
Senat: Maria Cantwell hat am 7. Oktober Grundsätze vorgelegt, keinen Gesetzentwurf. Modelle sollen demnach vor der Veröffentlichung ein unabhängiges Audit bestehen.

Was sich für Entwickler ändern könnte

Heute ist für Entwickler nichts verpflichtend. SAFA existiert noch nicht, die Executive Order ist freiwillig, und die Gesetzentwürfe sind nicht verabschiedet. Sobald sich Regeln durchsetzen, dürften sie Entwickler aber über die API-Bedingungen und Veröffentlichungsprozesse der KI-Anbieter erreichen. Das Folgende ist unsere Einschätzung auf Grundlage der Berichte.

Nutzungsbedingungen könnten sich ändern. Wenn Vorfallmeldungen oder externe Audits erwartet werden, dürften KI-Anbieter ihre API-Bedingungen anpassen. Agentenfunktionen, bei denen eine KI für Nutzer einen Computer bedient, könnten zu den ersten betroffenen gehören.
Neue Modelle könnten später erscheinen. Die Teilnahme an der frühen Regierungsprüfung fügt vor der Veröffentlichung einen weiteren Schritt hinzu.
Sicherheitsergebnisse könnten besser vergleichbar werden. Wenn Tests vereinheitlicht werden, lassen sich Bewertungsdokumente verschiedener Modelle nebeneinander lesen.
Kleine Teams könnten benachteiligt werden. Kritiker sagen, dass die Einhaltung für kleine Teams und Open-Source-Projekte teurer wird, wenn große Unternehmen die Audit-Standards setzen. Ein Diskussionsentwurf im Repräsentantenhaus enthält außerdem einen dreijährigen Stopp neuer KI-Gesetze der Bundesstaaten.

Wer stark von einem Modell abhängt, sollte die KI-Aufrufe im Code an einer Stelle bündeln und ein eigenes Testset pflegen, um später ohne großen Umbau den Anbieter wechseln zu können.

Was man beobachten sollte

Eine offizielle SAFA-Ankündigung samt Entwurf der Standards, ob der Stopp für Landesgesetze in einem endgültigen Gesetz bestehen bleibt, und Änderungen an den Nutzungsbedingungen der KI-Anbieter.