Die KI-Regulierung in den USA könnte mit Scott Wiener einen einflussreichen Fürsprecher im Kongress gewinnen. Nach seinem knappen Wahlsieg für Nancy Pelosis bisherigen Sitz will der kalifornische Politiker strengere Regeln für fortgeschrittene KI vorantreiben. Im Mittelpunkt stehen unabhängige Kontrollen, geschützte Hinweisgeber und die Frage, wie Menschen die Kontrolle über leistungsfähige Systeme behalten.

Das Wichtigste in Kürze

• Scott Wiener will nach seinem Wahlsieg strengere Regeln für fortgeschrittene KI im US-Kongress vorantreiben.
• Sein kalifornisches KI-Gesetz SB 1047 scheiterte am Veto des Gouverneurs, während das weniger weitreichende SB 53 unterzeichnet wurde.
• Wiener unterstützt eine starke Bundesaufsicht, Prüfpflichten, Schutz für Hinweisgeber und eine vorgeschriebene Abschaltmöglichkeit.
• Wiener lehnt Bundesgesetze ab, die eigene KI-Regeln der Bundesstaaten weitgehend verdrängen würden.

Nur wenige Stunden nach der Bekanntgabe seines Sieges sprach Wiener mit MIT Technology Review bereits über mögliche KI-Katastrophen. Laut dem Bericht gewann er das enge Rennen um den frei gewordenen Sitz der früheren Sprecherin des Repräsentantenhauses Nancy Pelosi in San Francisco. Seine Botschaft: Die technische Entwicklung schreite schneller voran als die politische Kontrolle.

Wie will Scott Wiener die KI-Regulierung in den USA verändern?

Wiener will verbindliche Sicherheitsregeln auf Bundesebene schaffen und die großen KI-Labore stärker kontrollieren. Dafür setzt er auf eine Aufsichtsbehörde, gesetzliche Pflichten und die Kontrollrechte des Kongresses.

Seine Erfahrung stammt aus dem Senat von Kalifornien. Dort beschäftigte er sich zunehmend mit Risiken besonders leistungsfähiger KI. Im Kongress möchte er diese Arbeit fortsetzen. Sollte ein eigener KI-Sonderausschuss entstehen, würde Wiener nach eigener Aussage gern mitarbeiten. Demokraten diskutieren einen solchen Ausschuss seit September.

Er unterstützt außerdem den Vorschlag des demokratischen Abgeordneten Ro Khanna aus Kalifornien, eine Bundesbehörde für KI einzurichten. Diese müsse starke Befugnisse haben und schnell handeln können. Für Wiener reicht es nicht, wenn Washington lediglich irgendein Gesetz verabschiedet. Die Regeln müssten den tatsächlichen Risiken entsprechen.

Warum sorgt sich Wiener um KI, die sich selbst verbessert?

Wiener befürchtet, dass KI ihre eigene Weiterentwicklung so stark beschleunigen könnte, dass Menschen die Kontrolle verlieren. Der Fachbegriff dafür lautet rekursive Selbstverbesserung.

Gemeint ist ein Prozess, bei dem KI wesentlich zur Verbesserung weiterer KI beiträgt. Leistungsfähigere Systeme könnten dann wiederum die nächste Entwicklungsstufe beschleunigen. Die Sorge richtet sich auf eine mögliche Rückkopplung, durch die Fortschritte zunehmend schwer steuerbar werden.

Den unmittelbaren Anlass für Wieners Warnung lieferte ein Bericht der gemeinnützigen KI-Organisation METR. Er erschien am Tag vor dem Interview. Laut MIT Technology Review wurde er vielfach als Hinweis darauf verstanden, dass Anthropic rekursive Selbstverbesserung erreicht habe. Diese Interpretation ist jedoch nicht gleichbedeutend mit einem im Ausgangsartikel belegten Kontrollverlust.

Wiener wertet den Bericht als Warnsignal. Während des rund 20-minütigen Gesprächs verwendete er den Begriff rekursive Selbstverbesserung etwa ein halbes Dutzend Mal. Er hatte gehofft, dass der Kongress noch vor Jahresende entschlossen handeln würde. Im Interview äußerte er Zweifel daran.

Was hat Wiener in Kalifornien bereits erreicht?

Wiener brachte in Kalifornien zwei zentrale Gesetzesvorhaben für fortgeschrittene KI voran, von denen eines unterzeichnet wurde. Damit hat er die Debatte über amerikanische KI-Regeln bereits konkret geprägt.

SB 1047 scheiterte am Veto des Gouverneurs

Wiener verfasste 2024 das Gesetzesvorhaben SB 1047. Es sollte zu einer der ersten grundlegenden gesetzlichen Regelungen für besonders leistungsfähige KI in den USA werden. Kaliforniens Gouverneur Gavin Newsom legte jedoch sein Veto ein.

SB 53 setzte weniger weitreichende Vorgaben durch

Anschließend unterstützte Wiener SB 53, eine weniger weitreichende Regelung, die Newsom unterzeichnete. Beide Vorhaben dienten später als Vorbilder für vorgeschlagene Bundesgesetze.

Die Entwicklung zeigt, warum Wieners Wechsel nach Washington relevant ist: Er kennt sowohl den politischen Widerstand gegen KI-Gesetze als auch den Weg zu einer verabschiedeten Regelung. Daraus folgt allerdings noch nicht, dass sich sein kalifornischer Ansatz im Kongress durchsetzen lässt.

Welche Schutzmaßnahmen fordert Wiener?

Wiener fordert mehrere Instrumente, die zusammen Risiken früher sichtbar machen und Eingriffe ermöglichen sollen. Eine Behörde allein wäre für ihn deshalb nicht genug.

• Eine starke Bundesaufsicht soll ausreichende Befugnisse besitzen und auf neue Entwicklungen schnell reagieren können.
• Geschützte Hinweisgeber sollen Missstände melden können, ohne wegen ihrer Hinweise Nachteile befürchten zu müssen.
• Verpflichtende Tests und Audits sollen die Sicherheit leistungsfähiger KI überprüfbar machen.
• Eine vorgeschriebene Abschaltmöglichkeit soll als zusätzlicher Schutzmechanismus dienen.
• Der Kongress soll seine Kontrollrechte nutzen, um KI-Labore zur Rechenschaft zu ziehen.

Bei der Regulierung von KI in den USA geht es Wiener auch um öffentliche Mitsprache. Die Bevölkerung müsse erfahren, was in den Laboren geschehe. Schließlich beträfen mögliche Folgen nicht nur die Unternehmen, die solche Systeme entwickeln.

Gleichzeitig lehnt er eine weitgehende Verdrängung einzelstaatlicher KI-Gesetze durch Bundesrecht ab. Bundesstaaten könnten neue Ansätze erproben und oft schneller reagieren als der Kongress. Eine nationale Regelung sollte diesen Spielraum aus seiner Sicht nicht pauschal beseitigen.

Warum steht Wieners Wahlkampfunterstützung in der Kritik?

Wieners Gegner kritisierten Unterstützung von mehr als 3 Millionen US-Dollar durch Public First Action, weil die Organisation erhebliche Mittel von Anthropic erhält. Die gemeinnützige Organisation befürwortet KI-Regulierung.

Die finanzielle Unterstützung seines Wahlkampfs führte zum Vorwurf, Wiener stehe der KI-Branche zu nahe. Wiener weist diese Darstellung zurück. In einer Nachricht nach dem Interview erklärte er, Public First habe ihn gerade wegen seiner bisherigen Regulierungsarbeit unterstützt.

Er verwies darauf, dass er Regeln gegen den Widerstand großer Technologieunternehmen vorangebracht habe. Die Kritik an der Unterstützung nannte er zynisch. Der Konflikt macht eine politische Schwierigkeit sichtbar: Befürworter strengerer Regeln können Unterstützung aus dem Umfeld derselben Branche erhalten, die sie kontrollieren wollen.

Warum ist Widerstand gegen Rechenzentren nicht dasselbe wie KI-Sicherheit?

Wiener sieht den Protest gegen Rechenzentren vor allem als Reaktion auf lokale Belastungen, nicht als gemeinsame Bewegung gegen katastrophale KI-Risiken. Diese Unterscheidung ist für seine politische Arbeit wichtig.

Laut dem Bericht wurden am Dienstag 40 von 41 Abstimmungsvorlagen gegen Rechenzentren angenommen. Das zeigt Widerstand gegen die Infrastruktur hinter KI. Es bedeutet aber nicht automatisch Zustimmung zu Wieners Sicherheitsagenda.

Nach seiner Einschätzung sorgen sich viele Menschen hauptsächlich um Auswirkungen nahe ihren Wohnungen, steigende Stromrechnungen und den Wasserverbrauch. Wer die Entwicklung von KI grundsätzlich ablehne, finde hier zwar eine konkrete Handlungsmöglichkeit. Für die meisten Betroffenen dürften jedoch die örtlichen Folgen entscheidend sein.

Die US-amerikanische KI-Regulierung muss damit unterschiedliche Anliegen zusammenbringen: Schutz vor möglichen Kontrollverlusten einerseits und unmittelbar spürbare Belastungen für Gemeinden andererseits.

Welche politischen Hürden bleiben in Washington?

Wieners Vorhaben trifft auf einen Kongress mit schwacher Bilanz bei der Technologieregulierung und auf einen skeptischen Präsidenten. Deshalb beschreibt er sich nur als vorsichtig optimistisch.

Verbündete gibt es dennoch. Senator Bernie Sanders hat sich mit einflussreichen Vertretern der KI-Sicherheitsbewegung getroffen und wiederholt über existenzielle KI-Risiken gesprochen.

Präsident Donald Trump bezeichnete Sorgen vor katastrophalen KI-Risiken im September dagegen als „Hoax“. Wiener sieht außerdem Trumps ablehnende Haltung gegenüber einer Zusammenarbeit mit China kritisch. Eine solche Zusammenarbeit hält er für nötig, um die schlimmsten Folgen von KI zu verhindern.

Trumps Unberechenbarkeit lässt Wiener einen begrenzten Hoffnungsspielraum. Zugleich warnt er vor einem gefährlichen Muster: Erst eine Katastrophe könnte den politischen Handlungsdruck schaffen. Genau das möchte er vermeiden.

Unsere Einordnung

Wieners Wahlsieg könnte die Debatte verschieben, weil ein erfahrener Autor einzelstaatlicher KI-Gesetze künftig auf Bundesebene mitarbeiten könnte. Neu ist nicht seine Warnung vor Risiken, sondern die politische Bühne, auf der er dafür Mehrheiten suchen will.

Aus unserer Sicht betrifft das zunächst KI-Unternehmen und Entwickler, die bei neuen Gesetzen mit Prüfpflichten und stärkerer Aufsicht rechnen müssten. Für Verbraucher sowie Leser in Deutschland und der EU ist vor allem relevant, wie transparent die Entwicklung leistungsfähiger Systeme wird. Welche konkreten Folgen amerikanische Vorschriften außerhalb der USA hätten, lässt die Quelle offen.

Eine zusätzliche Frage lautet: Wie lassen sich klare Sicherheitsanforderungen formulieren, wenn schon die Einordnung rekursiver Selbstverbesserung umstritten bleibt? Zu unbestimmte Regeln könnten schwer überprüfbar sein. In den nächsten Wochen lohnt deshalb der Blick auf konkrete Gesetzestexte, mögliche Ausschusspläne und die Befugnisse einer vorgeschlagenen Aufsichtsbehörde. Erst daran lässt sich beurteilen, ob aus Wieners Forderungen ein tragfähiger politischer Ansatz entsteht.

Für Leser bedeutet die Debatte über KI-Regulierung in den USA vor allem: Politische Ankündigungen sind noch keine wirksamen Schutzregeln. Entscheidend wird sein, welche Prüfungen, Informationspflichten und Eingriffsmöglichkeiten tatsächlich verbindlich werden.

(Quelle: https://www.technologyreview.com/2026/11/09/1148182/nancy-pelosis-replacement-is-ready-to-regulate-ai/)

Mehr dazu: alle Beiträge in dieser Rubrik

FAQ