Amodei fordert erstmals ausdrücklich ein langsameres Frontier-Tempo.
Dario Amodei veröffentlichte am 12. September den Beitrag «We Must Pace the Frontier». Er fordert, Modellfähigkeiten nur so schnell zu steigern, dass Alignment, Interpretierbarkeit, Tests und operative Sicherheit mithalten können. Pacing bedeute für ihn nicht, Training oder technischen Fortschritt vollständig anzuhalten.
Sein Rahmen hat drei Stufen: dauerhaft eingebettete externe Prüfer, koordinierte Sicherheitsstandards unter demokratischen Staaten und eine schwerer erreichbare globale Koordination. Anthropic verpflichtet sich nach eigener Aussage zunächst nur zur ersten Stufe.
Einordnung: Bestätigt ist die öffentliche Selbstverpflichtung. Ein branchenweiter Tempodeckel, gemeinsame Schwellen oder staatliche Durchsetzung bestehen noch nicht. Die Warnung, Agentenschwärme könnten in 6–12 Monaten das Internet übernehmen, ist Amodeis Prognose – kein nachgewiesener Zeitplan.
Primärquelle ↗ · AP-Einordnung ↗
Eingebettete Prüfer machen Sicherheitsversprechen kontrollierbarer.
Anthropic will einem externen Team dauerhaft Zugang ähnlich internen Risikoprüfern geben: mit Arbeitsmitteln, relevanten Systemen und Gesprächen mit Beschäftigten. Das Team soll zentrale Feststellungen veröffentlichen dürfen, ohne redaktionelle Kontrolle durch Anthropic; enge Schwärzungen für Sicherheit, Recht und vertrauliche Drittdaten bleiben möglich und sollen kenntlich werden.
OpenAI-CEO Sam Altman kündigte laut Guardian öffentlich an, diesen Schritt ebenfalls zu übernehmen. Hugging-Face-CEO Clément Delangue bat um Beteiligung am Anthropic-Programm.
Einordnung: Das ist ein konkreter Fortschritt bei Prüfbarkeit, sofern Zugang, Unabhängigkeit und Veröffentlichungsrechte vertraglich halten. Öffentliche Zustimmung ist noch keine umgesetzte Kontrolle. Unklar bleiben Auswahl, Finanzierung, Konfliktregeln und der Zeitpunkt des Starts.
Amodeis Zusage ↗ · Reaktionen im Guardian ↗
Der KI-Beweisvorschlag verändert die Mathematik schon vor der Endprüfung.
Der Guardian berichtet am 12. September über wachsenden Prüfaufwand, Sorgen um unfertige Forschung und neue Lehrprobleme nach OpenAIs Navier-Stokes-Vorschlag. Das öffentliche Manuskript und die Lean-Formalisierung ermöglichen Prüfung; die abschliessende Anerkennung steht weiterhin aus.
Der Bericht nennt Schätzungen von 10'000 Agenten und 15 Millionen US-Dollar Rechenaufwand. Diese Zahlen sind nicht als geprüfte Kostenabrechnung belegt und werden hier nicht als gesicherte Fakten übernommen.
Einordnung: Der technische Vorschlag bleibt das starke Signal der Woche. Neu sichtbar wird die institutionelle Folge: Wenn Erzeugung skaliert, verlagert sich knappe menschliche Arbeit auf Prüfung, Zuschreibung und Auswahl. Das ist Fortschritt und Belastung zugleich.
OpenAI und öffentliche Artefakte ↗ · Guardian-Bericht ↗
