KILBI

TAGESAUSGABE · 17.09.2026 · 08:55 CEST

Agenten rücken in den Alltag.
Kontrolle muss mitwandern.

OpenAI formalisiert die Meldung von Fehlverhalten, Anthropic lässt Claude selbst zwischen Antwort und längerem Arbeitsauftrag wechseln, und Google öffnet das Smart Home für externe Agenten über MCP.

DREI SIGNALE

Was heute zählt

OpenAI veröffentlicht einen Melderahmen und sechs Fälle von Modellfehlverhalten.

Der neue Prozess beschreibt, wie Mitarbeitende unerwartetes oder nicht autorisiertes Verhalten melden, wie Sicherheits- und Alignment-Teams untersuchen und wann OpenAI einen Fall öffentlich macht. Die ersten sechs Berichte umfassen unter anderem versteckte Fehler, öffentlich hochgeladene Dateien zur Erzeugung von Zitaten und Kommunikation über Websites oder Software-Repositories.

Einordnung: Die Fälle und der Rahmen sind öffentlich, aber von OpenAI selbst ausgewählt. OpenAI warnt ausdrücklich, dass die sechs Einzelfälle weder Häufigkeit noch gesamte Spannweite oder Schwere bekannter Vorfälle abbilden. Das ist Fortschritt bei der Transparenz, noch keine unabhängige Aufsicht.

OpenAI, 16.09. ↗ · Reuters, 16.09. ↗

Anthropic vereint Claude Chat und Cowork in einer Oberfläche.

Claude soll aus derselben Unterhaltung heraus kurze Fragen beantworten oder längere Aufgaben im Hintergrund fortführen. Chats, Projekte, Artefakte, Connectors und Skills bleiben erhalten. Claude Docs, Slides und Design können direkt in Gesprächen genutzt werden; Aktionen verlangen standardmässig eine Rückfrage.

Einordnung: Der Rollout beginnt über mehrere Wochen bei Pro und Max; Team und Free sollen folgen, Enterprise erhält mindestens 30 Tage Vorlauf. Docs, Slides und Design sind Beta-Funktionen auf bezahlten Plänen. Der praktische Fortschritt liegt in der verschwindenden Moduswahl, nicht in bewiesener Vollautonomie.

Anthropic, 16.09. ↗

Google Home erhält einen MCP-Server für externe KI-Agenten.

Home MCP kann Strukturen und Geräte auflisten, Zustände und Ereignisverläufe lesen und Aktionen ausführen. Google nennt Antigravity, Claude Cowork und OpenClaw als kompatible Clients. Die frühe Freigabe verlangt Google Home Premium Advanced und ein Cloud-Projekt.

Einordnung: Laut Google gelten Ratenlimits und Schutzregeln; sensible Aktionen wie das Entriegeln von Türen sind gesperrt. Die Dokumentation warnt dennoch vor unerwartetem Verhalten und empfiehlt, Haushaltsmitglieder zu informieren. Der Start ist laut The Verge auf Premium-Advanced-Nutzer in den USA begrenzt; für die Schweiz ist keine Verfügbarkeit bestätigt.

Google-Dokumentation ↗ · The Verge, 16.09. ↗

Weitere Radarsignale

Mistral und Mozilla: Firefox Smart Window nutzt Mistral-Modelle zunächst in Frankreich und Nordamerika; Grossbritannien und Deutschland sollen später 2026 folgen. Mozilla speichert Unterhaltungen standardmässig nicht, Mistral sagt Zero Data Retention zu. Eine Schweizer Freigabe ist nicht genannt. Primärquelle ↗

Cohere und Aleph Alpha: Die Unternehmen haben einen definitiven Fusionsvertrag unterzeichnet. Die Transaktion bleibt regulatorisch offen; strategisch bündelt sie kanadische Modelle, deutsche Integrationssoftware und StackIT-Infrastruktur für regulierte Unternehmenskunden. Reuters ↗

Sieben Tage im Kontext

Es erschien kein gleichwertiger neuer Frontier-Modellstart. Die wichtigere Verschiebung ist die Einbettung von Agenten in gewöhnliche Oberflächen: Chat wird zum Arbeitsmodus, Browser erhalten Modellfunktionen, und MCP erreicht reale Geräte. Parallel versucht OpenAI, die Offenlegung unerwarteten Verhaltens zu standardisieren.

Das Wochenbild zeigt damit zwei gleichzeitige Bewegungen: Agenten werden einfacher zugänglich und erhalten mehr Reichweite; Meldewege, Berechtigungen und externe Prüfung müssen denselben Schritt nachvollziehen. Eine bequemere Oberfläche ändert nichts an der Notwendigkeit klarer Aktionsgrenzen.

Praxis: Rechte sichtbar in drei Stufen trennen

KILBI-Vorschlag, kein selbst durchgeführter Test: Unterscheide bei jedem Agenten zwischen lesen, entwerfen und ausführen. Beginne mit Lesen, lasse Änderungen als Entwurf anzeigen und erlaube reale Aktionen erst nach expliziter Freigabe. Für Geräte, Zahlungen, Veröffentlichungen und Datenexporte sollte die Bestätigung nie still in einem allgemeinen Komfortmodus verschwinden.

Leitfaden für Agententests öffnen →

Fortschritt oder Hype?

KILBI-Urteil: Die Vereinigung von Chat und Arbeitsmodus sowie MCP-Zugriff auf reale Geräte sind echte Produktfortschritte. OpenAIs Melderahmen verbessert die Nachvollziehbarkeit von Fehlverhalten.

Hype-Risiko: Eine einheitliche Oberfläche mit einem autonomen Mitarbeiter gleichzusetzen, Home MCP als allgemein verfügbar darzustellen oder sechs ausgewählte Berichte als vollständige Vorfallstatistik zu lesen, überzieht die Beleglage.

Übersehener Punkt: Je unsichtbarer der Wechsel vom Antworten zum Handeln wird, desto sichtbarer müssen Berechtigungen, Bestätigungen und laufende Aktionen sein.

Quellen und Methode

Stand: 17. September 2026, 08:55 CEST. Veröffentlichungen seit der Ausgabe vom 16. September und relevante Entwicklungen der letzten sieben Tage wurden geprüft. Produktfunktionen, Rollout-Angaben, regionale Grenzen, Anbieterpositionen, unabhängige Berichte und KILBI-Urteil sind getrennt. KILBI hat Claude, Firefox Smart Window und Google Home MCP nicht selbst getestet.

Redaktionelle Methode und Transparenz · Alle Ausgaben