Agentensysteme
KI-Agenten erledigen Aufgaben in mehreren Schritten: Sie planen, nutzen Werkzeuge und prüfen ihr Ergebnis. Hier steht, wie das funktioniert und worauf es bei modernen Systemen ankommt.
Agentensysteme in drei Minuten
Mit Ton ansehen, am Handy am besten im Vollbild und quer. Oder die Textfassung lesen.
Kapitel
Textfassung des Videos lesen
- Einleitung
Agentensysteme: worauf es bei modernen KI-Agenten ankommt. Ein Erklärvideo in drei Minuten.
Sprecher: Agenten sind in aller Munde. Doch was macht ein solches System wirklich verlässlich? Fünf Regeln, in drei Minuten. - Was ist ein Agent?
Ein Agent arbeitet in einer Schleife. Das Sprachmodell plant den nächsten Schritt, nutzt ein Werkzeug, prüft das Ergebnis und macht weiter, bis das Ziel erreicht ist oder eine Grenze greift. Bild: ein Kreis mit den Stationen Ziel, Planen, Handeln und Prüfen, in der Mitte das Sprachmodell, das denkt und entscheidet. Dazu die Bausteine: Das Modell denkt, die Werkzeuge handeln, der Kontext informiert, die Leitplanken begrenzen.
Sprecher: Anders als ein Chatbot bekommt ein Agent ein Ziel, keine Frage. Er entscheidet selbst, welche Schritte nötig sind, und prüft, ob sie funktioniert haben. Das macht ihn mächtig, aber auch schwerer zu kontrollieren. Genau darum geht es in den folgenden Regeln. - Einfach anfangen
Nicht jede Aufgabe braucht einen Agenten. Workflow, feste Schritte: Das Modell arbeitet an festen Stellen zwischen Schritt 1 und Schritt 3. Vorhersehbar, günstig, gut zu testen. Agent, eigene Entscheidungen: Das Modell wählt Schritte und Werkzeuge selbst, etwa Werkzeug A oder B. Flexibel, aber schwerer vorherzusagen und teurer. Merksatz nach Anthropic, „Building effective agents“: Mit der einfachsten Lösung starten. Autonomie nur dort, wo sie messbar hilft.
Sprecher: Ein typischer Fehler: zu früh zum Agenten greifen. Oft genügt schon ein Modellaufruf mit guten Anweisungen. Ein Agent lohnt sich erst, wenn sich der Weg zum Ziel nicht vorher festlegen lässt. - Kontext gestalten
Ein Agent weiß nur, was in seinem Kontext steht. Ins Kontextfenster gehören Auftrag und Regeln, geprüfte Fakten, die Ergebnisse der Werkzeuge und Notizen zum Stand. Eher ab lenken komplette Handbücher, alte Chatverläufe und doppelte Daten. Wenig, aber das Richtige: Lange Aufgaben brauchen Zusammenfassungen statt endloser Verläufe.
Sprecher: Mehr Kontext bedeutet nicht bessere Antworten. Ist das Fenster voll, verliert das Modell leicht den Faden. Fragen Sie nicht, was alles hineinpasst, sondern was das Modell jetzt wirklich braucht. - Gute Werkzeuge
Werkzeuge sind die Hände des Agenten. Klar benannt: Name und Beschreibung sagen, wofür das Werkzeug da ist und wofür nicht. Wenige: lieber wenige passende Werkzeuge als viele ähnliche. Hilfreich: Fehlermeldungen erklären, was beim nächsten Versuch anders sein muss. Bild: Das Modell ist über MCP mit Mail, Kalender, Datenbank und Dateien verbunden. Das Model Context Protocol ist ein offener Standard, der Modelle mit Werkzeugen und Datenquellen verbindet.
Sprecher: Oft liegt es nicht am Modell, wenn ein Agent versagt, sondern an unklaren Werkzeugen. Beschreiben Sie sie so, wie Sie es einem neuen Kollegen erklären würden. Und mit dem Standard MCP muss nicht jedes Programm eine eigene Anbindung bekommen. - Messen statt hoffen
Woran sehen Sie, dass der Agent gut arbeitet? Ein Beispiel-Testlauf: besetzte Anzeige erkannt, bestanden. Frist richtig gelesen, bestanden. Keine Adresse geraten, bestanden. Passung ohne Begründung, nicht bestanden. Dazu gehören Testfälle aus echten Aufgaben, ein Protokoll jedes Schritts, Kosten und Dauer je Aufgabe und neue Tests nach jeder Änderung. Ohne Messung ist jede Verbesserung nur ein Gefühl.
Sprecher: Ein Agent kann viele Male richtig liegen und beim nächsten Mal teuer danebengreifen. Ohne Testfälle bemerkt das niemand. Der Maßstab ist nicht, ob es einmal klappt, sondern wie oft. - Leitplanken
Sicher heißt: begrenzt. Rechte: Der Agent bekommt nur die Zugriffe, die die Aufgabe braucht. Freigabe: Senden, Bezahlen und Löschen bestätigt ein Mensch. Fremde Inhalte: Anweisungen in Webseiten oder Mails gelten nicht als Auftrag. Sicher verhindern lässt sich eine Manipulation nicht, darum darf der Agent wenig. Grenzen: maximale Schritte, Zeit und Kosten für jeden Lauf.
Sprecher: Das Prinzip kennen Sie aus dem Berufsleben: Neue Mitarbeiter bekommen nicht sofort Zugriff auf alles. Bei Agenten gilt das erst recht, denn sie arbeiten schnell, unermüdlich, und manchmal irren sie sich. Begrenzen Sie früh, nicht erst nach dem ersten Vorfall. - Fazit
Gute Agentensysteme sind einfach gebaut, gut informiert, gut ausgestattet, gemessen und begrenzt. kudesi.de, KI-Agenten mit Leitplanken.
Sprecher: Wer so baut, bekommt Agenten, auf die man sich verlassen kann. Mehr dazu auf kudesi.de.
So arbeitet ein Agent
Ein Agent ist ein System, in dem ein Sprachmodell in einer Schleife arbeitet. Es plant den nächsten Schritt, ruft ein Werkzeug auf, schaut sich das Ergebnis an und entscheidet dann weiter. Das wiederholt sich, bis das Ziel erreicht ist oder eine Grenze greift.
Ziel
Der Agent bekommt einen klaren Auftrag mit Grenzen: was als erledigt gilt, was er darf und wann er aufhört oder nachfragt.
Sprachmodell
Versteht die Aufgabe, plant und entscheidet. Es ist der Denker, nicht das ganze System.
Werkzeuge
Webseiten abrufen, in eine Datenbank schreiben, einen Entwurf anlegen. Nur damit wirkt der Agent auf die Welt.
Kontext und Gedächtnis
Die Informationen, die er für den nächsten Schritt braucht: Auftrag, Regeln, geprüfte Fakten, bisherige Ergebnisse.
Schleife
Planen, handeln, prüfen, wiederholen. Mit einer festen Obergrenze an Schritten.
Leitplanken
Rechte, Regeln und Prüfungen, die der Agent nicht umgehen kann. Er darf nur, was er wirklich braucht.
Mensch in der Schleife
Folgenreiche Schritte gibt ein Mensch frei: Senden, Bezahlen, Unterschreiben, Löschen.
Workflow oder Agent?
Nicht jede KI-Anwendung braucht einen Agenten. Oft reicht ein fester Ablauf, in dem das Modell an einzelnen Stellen arbeitet.
Workflow
Die Schritte stehen fest. Das Modell übernimmt einzelne Aufgaben darin. Es fasst zum Beispiel einen Text zusammen oder ordnet eine Mail ein.
- Stärken
- Vorhersehbar, günstig, gut zu testen.
- Passt, wenn
- die Schritte bekannt sind und sich selten ändern.
Agent
Das Modell entscheidet selbst, welche Schritte und Werkzeuge es braucht, und reagiert auf Zwischenergebnisse.
- Stärken
- Flexibel bei offenen Aufgaben mit vielen Varianten.
- Passt, wenn
- die Schritte vorher nicht feststehen.
- Preis
- Schwerer vorherzusagen, mehr Aufrufe, mehr Prüfaufwand.
Faustregel: mit der einfachsten Lösung beginnen und Autonomie nur dort geben, wo sie messbar hilft.Nach Anthropic, „Building effective agents“.
Worauf es bei modernen Agentensystemen ankommt
Unternehmen in Deutschland ab 20 Beschäftigten, die KI nutzen, planen oder diskutieren (n = 572). Weiß nicht oder keine Angabe: 5 %. Quelle: Bitkom Research, September 2026.
Agenten sind noch die Ausnahme. Wer jetzt anfängt, sollte diese zehn Punkte kennen. Sie gelten für einen kleinen Helfer genauso wie für ein großes System.
Einfach anfangen
Erst prüfen, ob ein fester Ablauf reicht. Ein Agent lohnt sich bei offenen Aufgaben, deren Schritte sich nicht vorher festlegen lassen.
Klarer Auftrag
Ziel, Grenzen und Abbruch schriftlich festlegen. Was gilt als erledigt? Wann hört der Agent auf, wann fragt er nach?
Kontext gestalten
Mehr Text macht das Modell nicht klüger. Je voller der Kontext, desto eher übersieht es Details. Darum nur das hineingeben, was der nächste Schritt braucht, und Zwischenstände als Notiz ablegen.
Gute Werkzeuge
Wenige, klar beschriebene Werkzeuge mit verständlichen Fehlermeldungen. Offene Standards wie MCP binden vorhandene Systeme an.
Messen statt hoffen
Vor dem Start mit Testfällen prüfen, die aus echten Fehlern stammen. Für den Anfang reichen 20 bis 50. Jeden Schritt protokollieren und nach jeder Änderung neu testen.
Rechte begrenzen
Der Agent bekommt nur die Zugriffe, die die Aufgabe braucht, am besten nur Lesezugriff. Ob eine Aktion erlaubt ist, prüft das Zielsystem, nicht das Modell.
Fremde Inhalte sind Daten
Webseiten, Mails und Dokumente können versteckte Anweisungen enthalten. Diese sogenannte Prompt Injection steht auf Platz 1 der Risikoliste von OWASP, einer offenen Sicherheits-Community, und lässt sich nicht zuverlässig herausfiltern. Schutz entsteht durch den Aufbau: wenige Rechte, klare Freigaben.
Freigaben gut gestalten
Senden, Bezahlen oder Löschen gibt ein Mensch frei. Dafür reichen wenige, verständliche Freigaben. Wer ständig klicken muss, klickt irgendwann alles durch. Beim Red Team von Microsoft, das KI-Systeme gezielt angreift, wurde das Umgehen solcher Freigaben am beständigsten ausgenutzt.
Kosten und Dauer einplanen
Agenten rechnen deutlich mehr als ein Chat. In einem Recherchesystem von Anthropic brauchten sie rund viermal so viele Tokens wie ein Chat, mehrere Agenten zusammen rund 15-mal so viele. Nach Tokens rechnen KI-Anbieter ab.
Regeln kennen
Der EU AI Act verlangt Maßnahmen für die KI-Kompetenz der Beschäftigten. Seit August 2026 gelten Transparenzpflichten, für Hochrisiko-Einsätze wie Personalauswahl oder die Kreditwürdigkeitsprüfung von Privatpersonen ab Dezember 2027 strengere Regeln. Den Einzelfall klärt eine Rechtsberatung.
Begriffe kurz erklärt
Agent
Ein System, in dem ein Sprachmodell selbst entscheidet, welche Schritte und Werkzeuge es nutzt, um ein Ziel zu erreichen.
Workflow
Ein fester Ablauf, in dem ein Sprachmodell an vorher festgelegten Stellen arbeitet. Oft die bessere erste Wahl.
Werkzeug (Tool)
Eine Funktion, die der Agent aufrufen kann: Webseite abrufen, Datenbank abfragen, Entwurf anlegen.
Kontext
Alles, was das Modell bei einem Schritt sieht: Auftrag, Regeln, bisheriger Verlauf, Ergebnisse der Werkzeuge. Der Platz dafür ist begrenzt.
MCP (Model Context Protocol)
Ein offener Standard, über den Modelle an Werkzeuge und Datenquellen angebunden werden. Anthropic hat ihn 2024 vorgestellt, seit Dezember 2025 liegt er bei der Linux Foundation.
A2A (Agent2Agent)
Ein offener Standard, über den Agenten verschiedener Anbieter Aufgaben untereinander austauschen. Kurz gesagt: MCP verbindet Agent und Werkzeug, A2A verbindet Agent und Agent.
RAG
Retrieval-Augmented Generation: Das Modell sucht vor der Antwort passende Stellen in eigenen Dokumenten und stützt sich darauf.
Evals
Wiederholbare Tests mit festen Aufgaben und Erwartungen. Sie zeigen, ob ein Agent zuverlässig arbeitet und ob eine Änderung hilft.
Token
Ein Textstück, etwa eine Silbe oder ein kurzes Wort. Nach Tokens rechnen KI-Anbieter ab, und sie bestimmen, wie viel in den Kontext passt.
Red Team
Ein Team, das ein System gezielt angreift, um Schwachstellen zu finden, bevor andere es tun.
Trace
Das Protokoll eines Laufs: jeder Schritt, jeder Werkzeugaufruf, jedes Ergebnis. Grundlage für die Fehlersuche.
Halluzination
Eine Ausgabe des Modells, die überzeugend klingt, aber falsch oder frei erfunden ist. Gute Systeme verlangen Belege, statt raten zu lassen.
Prompt Injection
Versteckte Anweisungen in Webseiten, Mails oder Dokumenten, die einen Agenten zu ungewollten Aktionen bringen sollen.
Mensch in der Schleife
Englisch „Human in the Loop“. Ein Mensch prüft oder bestätigt bestimmte Schritte, bevor der Agent sie ausführt.
Multi-Agenten-System
Mehrere Agenten mit getrennten Aufgaben arbeiten zusammen. Zum Beispiel recherchiert einer, ein anderer prüft.
Leitplanken (Guardrails)
Regeln, Rechte und Prüfungen, die festlegen, was ein Agent darf. Sie liegen außerhalb des Modells, damit er sie nicht umgehen kann.
Quellen und zum Weiterlesen
- Anthropic: Building effective agents (öffnet in neuem Fenster) (Dezember 2024)
- Anthropic: Effective context engineering for AI agents (öffnet in neuem Fenster) (September 2025)
- Anthropic: Writing effective tools for agents (öffnet in neuem Fenster) (September 2025)
- Anthropic: How we built our multi-agent research system (öffnet in neuem Fenster) (Juni 2025)
- Anthropic: Demystifying evals for AI agents (öffnet in neuem Fenster) (Januar 2026)
- Model Context Protocol: Dokumentation (öffnet in neuem Fenster)
- Linux Foundation: A2A Protocol Surpasses 150 Organizations (öffnet in neuem Fenster) (April 2026)
- OWASP Top 10 for LLM Applications 2025 (öffnet in neuem Fenster)
- Microsoft AI Red Team: Failure modes in agentic AI systems (öffnet in neuem Fenster) (Juni 2026)
- Bitkom: KI in der deutschen Wirtschaft 2026 (öffnet in neuem Fenster) (September 2026, Folie 7)
- EU AI Act, Verordnung (EU) 2024/1689 (öffnet in neuem Fenster)
- EU-Kommission: Zeitplan des AI Act (öffnet in neuem Fenster) (abgerufen Oktober 2026)
- Digital Omnibus zum AI Act, Verordnung (EU) 2026/1744 (öffnet in neuem Fenster) (in Kraft seit Juli 2026, neue Fassung von Artikel 4)
Ein Agent für Ihren Ablauf?
Wir prüfen gemeinsam, ob ein fester Workflow reicht oder ein Agent sich lohnt, und bauen einen ersten Prototyp mit klaren Leitplanken.
Gespräch vereinbaren