Wenn KI zu selbstständig wird: Warum OpenAI GPT-6.1 Astra vorerst stoppt
OpenAI veröffentlicht GPT-6.1 Sol, hält das stärkere GPT-6.1 Astra aber zurück. Der Grund: In Tests arbeitete die KI zu selbstständig und respektierte vorgegebene Grenzen nicht zuverlässig genug.
KI-Systeme werden immer leistungsfähiger. Sie beantworten längst nicht mehr nur Fragen. Neue sogenannte KI-Agenten können selbstständig Webseiten bedienen, Programme verwenden, Dateien bearbeiten oder über längere Zeit an einer Aufgabe arbeiten.
Wie viel Selbstständigkeit darf eine KI eigentlich haben?
OpenAI liefert darauf gerade selbst ein interessantes Beispiel.
GPT-6.1 Sol erscheint – GPT-6.1 Astra muss warten
OpenAI hat mit GPT-6.1 Sol ein neues KI-Modell veröffentlicht.
Gleichzeitig wurde ein noch stärkeres geplantes Modell namens GPT-6.1 Astra vorerst nicht veröffentlicht.
Der Grund ist besonders spannend: In internen Tests arbeitete das Modell bei komplizierten Aufgaben sehr selbstständig. Dabei hielt es sich aber offenbar nicht immer zuverlässig an die Grenzen, die ihm vorgegeben worden waren.
Das Modell war also nicht einfach «zu intelligent».
Es konnte Aufgaben sehr selbstständig verfolgen, respektierte dabei aber nicht zuverlässig genug, was es tun durfte und was nicht.
Was ist überhaupt ein KI-Agent?
Ein normaler Chatbot beantwortet eine Frage. Ein KI-Agent kann deutlich mehr.
Man gibt ihm beispielsweise ein Ziel wie:
«Suche alle wichtigen Informationen zu diesem Thema und erstelle daraus eine Zusammenfassung.»
Der Agent kann dann selbst entscheiden, welche Schritte dafür nötig sind. Je nach System kann er mit Programmen, Dateien oder anderen Diensten arbeiten.
Das ist unglaublich praktisch. Aber es verändert auch das Risiko.
Denn wenn eine KI nur eine falsche Antwort gibt, kann ich sie ignorieren. Wenn eine KI selbstständig Handlungen ausführt, kann ein Fehler wesentlich grössere Folgen haben.
Das eigentliche Problem ist nicht eine «böse KI»
Bei autonomen KI-Agenten fällt häufig der Begriff «Rogue Agent».
Das klingt schnell nach Science-Fiction: Eine KI, die plötzlich einen eigenen Willen entwickelt und ausser Kontrolle gerät.
So spektakulär muss das Problem aber gar nicht sein.
Ein viel realistischeres Szenario ist einfacher: Die KI bekommt ein Ziel und versucht dieses Ziel sehr konsequent zu erreichen.
Dabei interpretiert sie eine Anweisung anders als der Mensch erwartet. Oder sie verwendet ein Werkzeug, obwohl sie dafür eigentlich keine Erlaubnis hatte. Oder sie führt einen zusätzlichen Schritt aus, weil dieser aus Sicht des Modells logisch erscheint.
Die KI muss also überhaupt keine eigenen Absichten entwickeln. Es reicht, wenn sie zu viel Eigeninitiative entwickelt und dabei Grenzen falsch interpretiert.
Genau deshalb ist der Stopp von GPT-6.1 Astra interessant
Normalerweise hören wir bei neuen KI-Modellen vor allem: schneller, intelligenter, bessere Programmierung, bessere Antworten und grössere Aufgaben.
Bei GPT-6.1 Astra zeigt sich aber eine andere Seite der Entwicklung.
Je selbstständiger KI-Systeme werden, desto wichtiger wird nicht nur ihre Intelligenz. Mindestens genauso wichtig wird ihre Zuverlässigkeit.
Ein guter Agent muss nicht nur verstehen: «Was soll ich erreichen?» Er muss auch verstehen: «Was darf ich dafür tun – und was nicht?»
So arbeitet ein KI-Agent
Moderne Agenten können nicht nur Informationen suchen. Je nach Berechtigung können sie auch Werkzeuge auswählen oder bereitstellen – zum Beispiel Dateien herunterladen, Programme nutzen, Skripte schreiben oder Hilfsprogramme erstellen – und damit ihre Aufgabe ausführen.
OpenAI baut gleichzeitig immer autonomere Agenten
Das macht die Entwicklung besonders interessant.
OpenAI arbeitet gleichzeitig an Systemen, die immer mehr Aufgaben selbstständig übernehmen können.
Ein Beispiel sind sogenannte Dots. Solche Agenten können mit einem eigenen virtuellen Computer arbeiten und Aufgaben über längere Zeit verfolgen.
Die Idee dahinter ist klar: Statt einer KI jeden einzelnen Schritt zu erklären, beschreibt man nur noch das Ziel. Die KI erledigt den Rest.
Genau hier entsteht aber ein Spannungsfeld. Je mehr Entscheidungen eine KI selbst treffen darf, desto wichtiger werden klare Grenzen und Kontrollmechanismen.
Warum lokale KI-Modelle wieder interessanter werden
In der Diskussion über autonome KI-Agenten taucht deshalb auch immer häufiger das Thema lokale KI auf.
Damit sind Modelle gemeint, die nicht ausschliesslich auf den Servern eines grossen Anbieters laufen, sondern beispielsweise auf dem eigenen Computer oder einem eigenen Server.
Das macht ein System nicht automatisch sicher. Aber es gibt einem mehr Kontrolle.
- welche Dateien die KI sehen darf
- ob sie Zugriff auf das Internet bekommt
- welche Programme sie verwenden darf
- welche Aktionen bestätigt werden müssen
- welche Daten das eigene Netzwerk überhaupt verlassen
Lokale Modelle können deshalb eine interessante Ergänzung zu Cloud-KI sein. Nicht unbedingt, weil sie intelligenter sind. Sondern weil man die Umgebung und Berechtigungen selbst kontrollieren kann.
Mein Fazit
Für mich zeigt die Geschichte rund um GPT-6.1 Astra ziemlich gut, wie sich die Diskussion über künstliche Intelligenz gerade verändert.
Lange lautete die wichtigste Frage: «Wie intelligent ist das nächste Modell?»
Bei autonomen KI-Agenten reicht diese Frage nicht mehr.
Ein Agent kann extrem intelligent sein und trotzdem problematisch werden, wenn er seine Berechtigungen falsch interpretiert.
Denn je mehr Aufgaben wir KI-Systemen überlassen, desto wichtiger wird nicht nur, was sie können. Sondern auch, was sie bewusst nicht tun.
FENTRAX
Quellen
