Guide · Workflows & Automation
Die Agenten-Checkliste: So setzt du deinem KI-Agenten Grenzen
Zugänge begrenzen und Freigaben einbauen, nach dem ersten bekannten KI-Hack einer Behörde
- 18. Juni
- bricht ein OpenAI-Agent bei einem internen Test in ein Regierungsportal ein
- fast 3 Monate
- vergehen, bis Australien davon erfährt
- 1.
- bekannter Fall, in dem ein KI-Agent von sich aus eine Behörde hackt
Warum dich das betrifft. Der Agent sollte nur Zahlen zu Australien nachschlagen. Er hatte Zugang zum Internet und keine Grenze, die ihn aufgehalten hat. Dein eigener Agent in ChatGPT, Claude oder einem anderen Tool arbeitet nach demselben Prinzip: Er nimmt den Weg, der zum Ziel führt, und fragt nicht von selbst, ob er das darf.
DER VORFALL
Was der Agent getan hat
Nach den Angaben der australischen Regierung und von OpenAI
Was
- 18. Juni: Bei einem internen Test greift ein OpenAI-Agent auf das Medicare-Statistikportal zu, liest öffentliche und nicht-öffentliche Dateien und schreibt selbst Dateien auf den Server
- August: OpenAI bemerkt es bei einer Prüfung von Modellverhalten, das nicht wie gewollt lief
- 10. September: OpenAI informiert die zuständige australische Behörde per Mail
- 23. September: Premierminister Albanese macht den Vorfall öffentlich und spricht von extremer Sorge
Was OpenAI dazu sagt. Übersetzt: Beim Versuch, Antworten und Statistiken zu Australien nachzuschlagen, hätten die Modelle Handlungen vorgenommen, die man nicht beabsichtigt habe. Betroffen waren laut OpenAI Gesundheitsstatistiken und interne Dateinamen, keine Patientendaten. Die forensische Untersuchung in Australien läuft noch.
Kein Einzelfall
Laut New York Times haben OpenAI-Systeme vorher schon versucht, in eine digitale Bibliothek der University of New Mexico und in die Datenplattform Data USA einzudringen. Beides ist gescheitert.
TEIL 1
Zugänge begrenzen
Was dein Agent nicht erreichen kann, kann er auch nicht anfassen
Nur die Zugänge für diese Aufgabe
Schau in den Einstellungen deines KI-Tools nach, welche Apps und Konten verbunden sind. Alles, was er für die aktuelle Aufgabe nicht braucht, trennst du.
Ordner statt ganzes Laufwerk
Gib ihm einen Ordner mit genau den Dateien, die er braucht, und nicht dein komplettes Laufwerk oder Postfach.
Keine Zahlungsdaten
Hinterleg bei einem Agenten keine Kreditkarte und keine Zugänge zum Bankkonto. Einkäufe machst du selbst.
Nach der Aufgabe wieder trennen
Zugänge, die du für ein Projekt verbunden hast, nimmst du danach wieder raus. Vergessene Verbindungen bleiben sonst eine offene Tür.
TEIL 2
Freigaben einbauen
Der Absatz, der in jede Agenten-Aufgabe gehört
Zum Kopieren
Grenzen:
- Nutz nur die Dateien und Zugänge, die ich dir hier gebe.
- Versende, kaufe, lösche oder veröffentliche nichts, ohne mich zu fragen.
- Log dich nirgends ein und umgeh keine Sperren oder Anmeldungen.
- Wenn du nicht weiterkommst, hör auf und sag mir, was fehlt.Rückfrage vor allem Unumkehrbaren
Senden, kaufen, löschen und veröffentlichen lassen sich nicht zurückholen. Genau dort soll dein Agent anhalten und dich fragen.
Protokoll lesen
Viele Agenten zeigen, welche Schritte sie gemacht haben. Schau es dir bei den ersten Aufgaben genau an, dann weißt du, wie er tickt.
Für Claude Code gibt es eine harte Bremse. Mit einem Hook in der settings.json blockt ein kleines Programm bestimmte Werkzeuge, bevor Claude sie aufruft. Die fertigen Skripte stehen im Guide „Claude Code Hooks: die Bremse für dein Wochenlimit" in der Bibliothek.
NÄCHSTER SCHRITT
Direkt umsetzen
Zehn Minuten, dann hat dein Agent eine Grenze
Verbundene Apps durchgehen
Öffne die Einstellungen deines KI-Tools und trenn alles, was dein Agent diese Woche nicht braucht.
Den Grenzen-Absatz speichern
Leg dir den Absatz von Seite 4 als Textbaustein an und häng ihn an jede Aufgabe, bei der dein Agent selbst loslegt.
Einmal pro Woche reinschauen
Lies das Protokoll einer Aufgabe komplett durch. Wenn er etwas getan hat, was du nicht wolltest, zieh die Grenze enger.
Angaben nach BBC („Rogue OpenAI agent 'infiltrated' Australian government website in world first", 23.09.2026), CNBC („OpenAI says agent hacked Australian government website without being told to do so", 24.09.2026), CNN und ABC News. Die Checkliste ist eine Empfehlung von Short Media und keine Vorgabe der Hersteller.
Wir bauen dir das fertig.
Mit dem Guide kannst du es selbst einrichten. Oder wir machen das für dich, mit deinen Daten und Zugängen, und zwar so, dass es bei dir im Alltag läuft.
Bauen lassen