{"author":{"@type":"Person","name":"Alexander Bock","url":"https://abxk.ai/de/autor/alexander-bock/"},"categories":["AI Development"],"content":{"markdown":"Ein Chatbot beantwortet eine Frage. Ein **KI-Agent** verfolgt ein Ziel. Er entscheidet über den nächsten Schritt, nutzt Werkzeuge wie eine Suche oder eine Datenbank und liest das Ergebnis. Dann macht er weiter, bis die Aufgabe erledigt ist — oder bis eine Regel ihn stoppt. Dieser kleine Unterschied verändert, wie Sie das System bauen, testen und kontrollieren.\n\nDies ist Teil 1 von Level 3 (Profi) im Lernpfad AI Development. Sie bauen die Agenten-Schleife Schritt für Schritt auf, wählen Tools und Gedächtnis, legen Stoppregeln und Freigaben fest und sehen, wie weit heutige Modelle bei langen Aufgaben kommen. Der Teil baut auf [strukturierter Ausgabe und Function Calling](/de/ai-development/learn/structured-output-and-function-calling/) aus Level 2 auf.\n\n## Die Agenten-Schleife: planen, handeln, beobachten\n\nEin Agent ist ein Programm, in dem ein großes Sprachmodell (LLM) in einer Schleife die nächste Aktion wählt. Ihr Code gibt dem Modell ein Ziel und eine Liste von Tools. Das Modell antwortet entweder mit einem Tool-Aufruf oder mit einem Endergebnis. Ihr Code führt das Tool aus, hängt das Ergebnis an den Verlauf an und fragt das Modell erneut.\n\n![Kreislauf mit vier Schritten: nächsten Schritt planen, mit einem Tool handeln, Ergebnis beobachten, prüfen, ob Schluss ist](/images/learn/de/build-ai-agents-tools-loops-memory-loop.webp \"Die Agenten-Schleife: Das Modell schlägt den nächsten Schritt vor, Ihr Code führt ihn aus und entscheidet, ob es weitergeht.\")\n\nBekannt wurde dieses Muster als **ReAct** (Reasoning plus Acting, also Nachdenken und Handeln), nach einem Fachartikel von Yao und Kollegen aus dem Jahr 2022. In der Praxis sieht die Schleife so aus:\n\n```python\nmessages = [system_prompt, user_goal]\nfor step in range(MAX_STEPS):               # harte Grenze\n    reply = model(messages, tools=TOOLS)\n    if reply.tool_call is None:              # das Modell hält die Aufgabe für erledigt\n        return verify(reply.text)            # Ihre Prüfung, nicht das Wort des Modells\n    call = reply.tool_call\n    if needs_approval(call) and not human_approves(call):\n        messages.append(tool_result(call, \"Vom Nutzer abgelehnt.\"))\n        continue\n    result = run_tool(call)                  # Ihr Code handelt, nicht das Modell\n    messages.append(tool_result(call, result))\nraise StepLimitReached()\n```\n\nZwei Details wiegen schwerer, als es scheint. Erstens führt das Modell selbst nie etwas aus: Es schlägt nur einen Aufruf vor, und Ihr Code entscheidet, ob er läuft. Zweitens ist jede Zeile der Schleife ein Kontrollpunkt — für Limits, Freigaben, Protokolle und Prüfungen.\n\nNicht jede Aufgabe braucht einen Agenten. Wenn Sie die Schritte vorher kennen — Rechnung abholen, Felder auslesen, speichern —, ist ein fester **Workflow** günstiger, schneller und leichter zu testen. Einen Agenten setzen Sie ein, wenn der Weg davon abhängt, was das System unterwegs findet, etwa wenn es ein Kundenproblem über mehrere Quellen hinweg recherchiert.\n\n## Tools: was der Agent tun darf\n\nEin **Tool** ist eine Funktion, die Sie dem Modell anbieten: mit Namen, Beschreibung und Parameterschema. Das Modell wählt ein Tool und füllt die Argumente aus; Ihr Code prüft sie und führt die Funktion aus. Gute Tools folgen ein paar Regeln:\n\n- **Wenige und klare.** Fünf gut benannte Tools funktionieren besser als dreißig, die sich überschneiden. Die Beschreibung sagt, wann das Tool passt und wann nicht.\n- **Strenge Parameter.** Nutzen Sie feste Wertelisten und Pflichtfelder, und lehnen Sie ungültige Aufrufe mit einer verständlichen Fehlermeldung ab, etwa „Keine Bestellung mit der Nummer 4711“. Von einer klaren Meldung kann sich das Modell erholen.\n- **Kurze Ergebnisse.** Geben Sie die Felder zurück, die das Modell braucht, nicht eine ganze Webseite. Lange Tool-Ergebnisse füllen den Kontext und verdrängen das Ziel.\n- **Wiederholbar ohne Schaden.** Ein schreibendes Tool darf kein zweites Ticket anlegen, wenn das Modell es zweimal aufruft. Ein **Idempotenzschlüssel** — eine eindeutige Kennung je Aktion — verhindert Dubletten.\n- **Geringste Rechte.** Geben Sie dem Agenten, wo immer möglich, nur Lesezugriff und eigene, eng begrenzte API-Schlüssel, nie ein Admin-Konto.\n\nTeil 3 von Level 2 hat einzelne Tool-Aufrufe nach ihrer Wirkung sortiert. In einem Agenten reiht das Modell solche Aufrufe ohne einen Menschen dazwischen aneinander. Deshalb wächst das Risiko mit dem, was jedes Tool verändern kann:\n\n| Tool-Art | Beispiel | Hauptrisiko | Kontrolle |\n|---|---|---|---|\n| Lesen | Hilfeartikel durchsuchen, CRM abfragen | Vertrauliche Daten gelangen in den Kontext; versteckte Anweisungen in Inhalten | Ergebnisse nach den Rechten des Nutzers filtern; Inhalte als Daten behandeln |\n| Schreiben | Ticket anlegen, Datensatz ändern | Falsche oder doppelte Änderungen | Validierung, Idempotenzschlüssel, Änderungsprotokoll |\n| Senden | Kunden-E-Mail, Zahlung auslösen | Wirkt nach außen, schwer rückgängig zu machen | Freigabe durch Menschen, Ratenlimits |\n| Ausführen | Code oder Shell-Befehle ausführen | Fast alles | Sandbox ohne Netzwerkzugang, Zeitlimits |\n\nDie Schleife müssen Sie nicht selbst programmieren. No-Code-Plattformen aus unserem Vergleich legen Anweisungen, Tools und Auslöser in einer Oberfläche fest. Nach Angaben der Anbieter bauen MindStudio und Turbotic Agenten und Automatisierungen ohne Code. Devs.ai richtet sich an Teams, die Agenten auf Firmendaten bauen, und Browse AI kann als Datenquelle dienen, die Websites ausliest:\n\n{{\u003c tools \"mindstudio turbotic devs-ai browse-ai\" \u003e}}\n\n## Gedächtnis: was der Agent zwischen den Schritten behält\n\nDas Modell selbst merkt sich zwischen zwei Aufrufen nichts. Alles, was es über die Aufgabe weiß, muss im Kontext stehen, den Sie mitschicken — „Gedächtnis“ baut also Ihr Code. Vier Arten sind nützlich:\n\n![Raster mit vier Gedächtnisarten: Arbeitsgedächtnis, Aufgabenstand, Langzeitgedächtnis und Handlungswissen, jeweils mit dem Ort, an dem sie liegen](/images/learn/de/build-ai-agents-tools-loops-memory-memory.webp \"Vier Arten von Agenten-Gedächtnis. Nur das Arbeitsgedächtnis steht im Prompt; den Rest verwaltet Ihr Code.\")\n\n- Das **Arbeitsgedächtnis** ist der aktuelle Kontext: Ziel, letzte Schritte und Tool-Ergebnisse. Es wächst mit jedem Schritt, bis das Kontextfenster voll ist.\n- Der **Aufgabenstand** ist ein strukturierter Datensatz, den Ihr Code außerhalb des Modells führt: Plan, erledigte Schritte, offene Fragen. In jeden Prompt fügen Sie eine kompakte Fassung ein.\n- Das **Langzeitgedächtnis** speichert Fakten und Ergebnisse in einer Datenbank oder einem Vektorspeicher und ruft sie ab, wenn sie relevant sind — dieselbe Idee wie das Retrieval bei RAG.\n- Das **Handlungswissen** ist das Know-how: Systemprompt, Playbooks und Beispiele, die dem Agenten sagen, wie er arbeiten soll.\n\nWird der Kontext voll, fassen Sie ältere Schritte zusammen und behalten nur Verweise (zum Beispiel Dokumentnummern) statt ganzer Texte. Geben Sie gespeicherten Erinnerungen ein Ablaufdatum, und behalten Sie personenbezogene Daten nicht länger als nötig. Behandeln Sie das Gedächtnis wie jede andere Eingabe: Eine falsche oder manipulierte Notiz kann jeden späteren Lauf in die Irre führen.\n\n## Stoppregeln und Freigaben durch Menschen\n\nEin Agent ohne Stoppregeln kann sich im Kreis drehen und unnötig Tokens verbrauchen. Setzen Sie mehrere Grenzen, denn jede fängt ein anderes Problem ab:\n\n- eine Höchstzahl an Schritten je Aufgabe,\n- ein Token- oder Kostenbudget je Aufgabe,\n- ein Zeitlimit,\n- eine Schleifenerkennung: derselbe Tool-Aufruf mit denselben Argumenten zweimal hintereinander,\n- ein Fehlerlimit: mehrere gescheiterte Tool-Aufrufe in Folge,\n- eine echte Erfolgsprüfung — die Tests laufen durch, das Formular ist gültig — statt des „fertig“ des Modells.\n\nFreigaben sind das zweite Sicherheitsnetz. Nicht jede Aktion braucht einen Menschen, manche aber immer. Eine einfache Regel sortiert Aktionen nach ihrer Wirkung und danach, wie leicht sie sich rückgängig machen lassen:\n\n![Vier-Felder-Matrix mit der Wirkung auf der senkrechten Achse und der Umkehrbarkeit einer Aktion auf der waagerechten Achse; große Wirkung und schwer umkehrbar heißt Freigabe durch Menschen](/images/learn/de/build-ai-agents-tools-loops-memory-approval.webp \"Wo ein Mensch freigeben muss: jede Tool-Aktion nach Wirkung und Umkehrbarkeit einordnen.\")\n\n{{\u003c callout type=\"warning\" title=\"Inhalte können Anweisungen enthalten\" \u003e}}\nWebseiten, E-Mails und Dokumente, die ein Agent liest, können versteckte Anweisungen an das Modell enthalten. Das nennt man Prompt Injection. Geben Sie einem Agenten nie mehr Rechte als der Person, für die er arbeitet, und behalten Sie Freigaben für jede Aktion mit Wirkung nach außen bei. Unser Bereich [AI Security](/de/ai-security/) erklärt den Angriff und die Abwehr.\n{{\u003c /callout \u003e}}\n\n## Typische Fehler und wie Sie sie erkennen\n\nAgenten scheitern auf wiedererkennbare Weise. Ihre Protokolle sollten jeden dieser Fehler sichtbar machen:\n\n- **Schleifen.** Der Agent wiederholt eine Suche mit winzigen Änderungen. Anzeichen: viele ähnliche Tool-Aufrufe. Abhilfe: Schleifenerkennung und Schrittlimit.\n- **Falsches Tool oder falsche Argumente.** Anzeichen: Validierungsfehler, leere Ergebnisse. Abhilfe: klarere Tool-Beschreibungen und Beispiele.\n- **Erfundene Ergebnisse.** Das Modell behauptet, eine E-Mail verschickt zu haben, die nie hinausging. Abhilfe: nur melden, was echte Tool-Ergebnisse bestätigen.\n- **Zielabweichung.** Der Agent löst ein Nebenproblem statt der Aufgabe. Abhilfe: das Ziel im Aufgabenstand wiederholen und den Plan nach jedem Schritt prüfen.\n- **Verlorener Kontext.** Bei langen Läufen fällt das ursprüngliche Ziel aus dem Kontext. Abhilfe: ältere Schritte zusammenfassen und das Ziel oben halten.\n\nUm diese Probleme zu finden, zeichnen Sie jeden Schritt als Trace auf: Tool, Argumente, Ergebnis, Tokens und Zeit. Teil 5 dieses Levels zeigt, wie Sie [Observability für LLM-Apps](/de/ai-development/learn/observability-for-llm-apps/) aufsetzen.\n\n## Wie lange Aufgaben schaffen Agenten heute?\n\nEin nützliches Maß für Autonomie ist der **Zeithorizont** der Forschungsorganisation METR. Er gibt die Länge der Aufgaben an, die ein Modell in etwa der Hälfte der Fälle erfolgreich löst — gemessen daran, wie lange eine erfahrene Fachkraft dafür braucht. Es handelt sich um mehrstufige Aufgaben aus Softwareentwicklung und logischem Denken. Das sind die aktuellen Spitzenreiter in unseren LLM-Daten:\n\n{{\u003c llm-top bench=\"metr-time-horizon\" n=\"5\" \u003e}}\n\nDas Diagramm zeigt, wie die Bestmarke seit den ersten gemessenen Modellen gewachsen ist. Die senkrechte Achse ist logarithmisch: Jede Stufe nach oben vervielfacht die Aufgabenlänge.\n\n![Liniendiagramm der Bestmarke des METR-Zeithorizonts nach Erscheinungsdatum der Modelle auf logarithmischer Skala, von Sekunden bei frühen Modellen bis zu vielen Stunden bei den neuesten](/images/learn/de/build-ai-agents-tools-loops-memory-metr.webp \"Bestmarke des METR-Zeithorizonts nach Erscheinungsdatum der Modelle. Daten: METR über Epoch AI, CC BY 4.0.\")\n\nIn seiner ursprünglichen Studie von 2025 berichtete METR, dass sich dieser Horizont in den sechs Jahren davor etwa alle sieben Monate verdoppelt hatte (Quelle: METR, „Measuring AI Ability to Complete Long Tasks“, 2025, metr.org). Lesen Sie die Zahl mit Vorsicht. Fünfzig Prozent Erfolg heißt: Die Hälfte solcher Aufgaben scheitert noch. Für Arbeit, die verlässlich gelingen muss, geben Sie Agenten deutlich kürzere Aufgaben, oder Sie bauen Prüfungen und Freigaben ein. Außerdem stammen die Aufgaben aus Software und logischem Denken — Ihr Fachgebiet kann leichter oder schwerer sein. Alle Modelle mit Erscheinungsdatum finden Sie in unserer [LLM-Datenbank](/de/llm/).\n\n## Praxisbeispiel: ein Agent für Support-Tickets\n\nSo greifen die Bausteine in einem kleinen, realistischen Agenten ineinander. Sein Ziel: eine Kundenfrage zu einer Bestellung beantworten oder an einen Menschen übergeben.\n\n1. **Tools:** `find_order` (lesen), `search_help_center` (lesen), `draft_reply` (schreibt einen Entwurf, verschickt nichts), `escalate_to_human` (legt ein Ticket für das Team an).\n2. **Gedächtnis:** Das Arbeitsgedächtnis enthält das Gespräch; der Aufgabenstand speichert die Bestellnummer und die bereits gelesenen Hilfeartikel.\n3. **Stoppregeln:** höchstens acht Schritte, ein Token-Budget je Ticket, Abbruch nach zwei gescheiterten Tool-Aufrufen in Folge.\n4. **Freigaben:** Der Agent verschickt nie selbst etwas. Anfangs gibt ein Mensch jeden Entwurf frei, später nur noch Erstattungen und Beschwerden.\n5. **Erfolgsprüfung:** Der Entwurf muss einen Hilfeartikel zitieren und den richtigen Bestellstatus nennen.\n6. **Test vor dem Start:** Lassen Sie den Agenten 30 frühere Tickets bearbeiten, und messen Sie Erfolgsquote, Schritte je Ticket, Kosten je erfolgreichem Ticket und wie oft er übergeben hat.\n\nBeginnen Sie mit der strengsten Einstellung, und lockern Sie sie Schritt für Schritt — nur dort, wo Ihre Messungen zeigen, dass der Agent verlässlich arbeitet. Reicht ein Agent für eine Aufgabe nicht aus, zeigt Level 4 Muster für [Multi-Agenten-Systeme](/de/ai-development/learn/multi-agent-systems/).","text":"Ein Chatbot beantwortet eine Frage. Ein KI-Agent verfolgt ein Ziel. Er entscheidet über den nächsten Schritt, nutzt Werkzeuge wie eine Suche oder eine Datenbank und liest das Ergebnis. Dann macht er weiter, bis die Aufgabe erledigt ist — oder bis eine Regel ihn stoppt. Dieser kleine Unterschied verändert, wie Sie das System bauen, testen und kontrollieren.\nDies ist Teil 1 von Level 3 (Profi) im Lernpfad AI Development. Sie bauen die Agenten-Schleife Schritt für Schritt auf, wählen Tools und Gedächtnis, legen Stoppregeln und Freigaben fest und sehen, wie weit heutige Modelle bei langen Aufgaben kommen. Der Teil baut auf strukturierter Ausgabe und Function Calling aus Level 2 auf.\nDie Agenten-Schleife: planen, handeln, beobachten Ein Agent ist ein Programm, in dem ein großes Sprachmodell (LLM) in einer Schleife die nächste Aktion wählt. Ihr Code gibt dem Modell ein Ziel und eine Liste von Tools. Das Modell antwortet entweder mit einem Tool-Aufruf oder mit einem Endergebnis. Ihr Code führt das Tool aus, hängt das Ergebnis an den Verlauf an und fragt das Modell erneut.\nDie Agenten-Schleife: Das Modell schlägt den nächsten Schritt vor, Ihr Code führt ihn aus und entscheidet, ob es weitergeht. Bekannt wurde dieses Muster als ReAct (Reasoning plus Acting, also Nachdenken und Handeln), nach einem Fachartikel von Yao und Kollegen aus dem Jahr 2022. In der Praxis sieht die Schleife so aus:\nmessages = [system_prompt, user_goal] for step in range(MAX_STEPS): # harte Grenze reply = model(messages, tools=TOOLS) if reply.tool_call is None: # das Modell hält die Aufgabe für erledigt return verify(reply.text) # Ihre Prüfung, nicht das Wort des Modells call = reply.tool_call if needs_approval(call) and not human_approves(call): messages.append(tool_result(call, \u0026#34;Vom Nutzer abgelehnt.\u0026#34;)) continue result = run_tool(call) # Ihr Code handelt, nicht das Modell messages.append(tool_result(call, result)) raise StepLimitReached() Zwei Details wiegen schwerer, als es scheint. Erstens führt das Modell selbst nie etwas aus: Es schlägt nur einen Aufruf vor, und Ihr Code entscheidet, ob er läuft. Zweitens ist jede Zeile der Schleife ein Kontrollpunkt — für Limits, Freigaben, Protokolle und Prüfungen.\nNicht jede Aufgabe braucht einen Agenten. Wenn Sie die Schritte vorher kennen — Rechnung abholen, Felder auslesen, speichern —, ist ein fester Workflow günstiger, schneller und leichter zu testen. Einen Agenten setzen Sie ein, wenn der Weg davon abhängt, was das System unterwegs findet, etwa wenn es ein Kundenproblem über mehrere Quellen hinweg recherchiert.\nTools: was der Agent tun darf Ein Tool ist eine Funktion, die Sie dem Modell anbieten: mit Namen, Beschreibung und Parameterschema. Das Modell wählt ein Tool und füllt die Argumente aus; Ihr Code prüft sie und führt die Funktion aus. Gute Tools folgen ein paar Regeln:\nWenige und klare. Fünf gut benannte Tools funktionieren besser als dreißig, die sich überschneiden. Die Beschreibung sagt, wann das Tool passt und wann nicht. Strenge Parameter. Nutzen Sie feste Wertelisten und Pflichtfelder, und lehnen Sie ungültige Aufrufe mit einer verständlichen Fehlermeldung ab, etwa „Keine Bestellung mit der Nummer 4711“. Von einer klaren Meldung kann sich das Modell erholen. Kurze Ergebnisse. Geben Sie die Felder zurück, die das Modell braucht, nicht eine ganze Webseite. Lange Tool-Ergebnisse füllen den Kontext und verdrängen das Ziel. Wiederholbar ohne Schaden. Ein schreibendes Tool darf kein zweites Ticket anlegen, wenn das Modell es zweimal aufruft. Ein Idempotenzschlüssel — eine eindeutige Kennung je Aktion — verhindert Dubletten. Geringste Rechte. Geben Sie dem Agenten, wo immer möglich, nur Lesezugriff und eigene, eng begrenzte API-Schlüssel, nie ein Admin-Konto. Teil 3 von Level 2 hat einzelne Tool-Aufrufe nach ihrer Wirkung sortiert. In einem Agenten reiht das Modell solche Aufrufe ohne einen Menschen dazwischen aneinander. Deshalb wächst das Risiko mit dem, was jedes Tool verändern kann:\nKI-Agenten bauen: Tools, Schleifen und Gedächtnis Tool-Art Beispiel Hauptrisiko Kontrolle Lesen Hilfeartikel durchsuchen, CRM abfragen Vertrauliche Daten gelangen in den Kontext; versteckte Anweisungen in Inhalten Ergebnisse nach den Rechten des Nutzers filtern; Inhalte als Daten behandeln Schreiben Ticket anlegen, Datensatz ändern Falsche oder doppelte Änderungen Validierung, Idempotenzschlüssel, Änderungsprotokoll Senden Kunden-E-Mail, Zahlung auslösen Wirkt nach außen, schwer rückgängig zu machen Freigabe durch Menschen, Ratenlimits Ausführen Code oder Shell-Befehle ausführen Fast alles Sandbox ohne Netzwerkzugang, Zeitlimits Die Schleife müssen Sie nicht selbst programmieren. No-Code-Plattformen aus unserem Vergleich legen Anweisungen, Tools und Auslöser in einer Oberfläche fest. Nach Angaben der Anbieter bauen MindStudio und Turbotic Agenten und Automatisierungen ohne Code. Devs.ai richtet sich an Teams, die Agenten auf Firmendaten bauen, und Browse AI kann als Datenquelle dienen, die Websites ausliest:\nMindStudioAgenten \u0026amp; Automatisierung · KI ist der KernNo-Code-Plattform zum Bauen eigener KI-Agenten. TurboticAgenten \u0026amp; Automatisierung · KI ist der KernBaut Automatisierungen aus einer Beschreibung in natürlicher Sprache, ohne Code. Devs.aiApp-Bau \u0026amp; Tests · KI ist der KernPlattform, auf der Teams KI-Anwendungen und eigene Agenten mit ihren Daten bauen und betreiben. Browse AIAgenten \u0026amp; Automatisierung · Software mit KI-FunktionenWeb-Scraping ohne Code: liest Daten aus Websites aus und überwacht Änderungen. Kurzbeschreibungen aus unserem Tool-Vergleich, nach Angaben der Anbieter — nicht von ABXK getestet.\nGedächtnis: was der Agent zwischen den Schritten behält Das Modell selbst merkt sich zwischen zwei Aufrufen nichts. Alles, was es über die Aufgabe weiß, muss im Kontext stehen, den Sie mitschicken — „Gedächtnis“ baut also Ihr Code. Vier Arten sind nützlich:\nVier Arten von Agenten-Gedächtnis. Nur das Arbeitsgedächtnis steht im Prompt; den Rest verwaltet Ihr Code. Das Arbeitsgedächtnis ist der aktuelle Kontext: Ziel, letzte Schritte und Tool-Ergebnisse. Es wächst mit jedem Schritt, bis das Kontextfenster voll ist. Der Aufgabenstand ist ein strukturierter Datensatz, den Ihr Code außerhalb des Modells führt: Plan, erledigte Schritte, offene Fragen. In jeden Prompt fügen Sie eine kompakte Fassung ein. Das Langzeitgedächtnis speichert Fakten und Ergebnisse in einer Datenbank oder einem Vektorspeicher und ruft sie ab, wenn sie relevant sind — dieselbe Idee wie das Retrieval bei RAG. Das Handlungswissen ist das Know-how: Systemprompt, Playbooks und Beispiele, die dem Agenten sagen, wie er arbeiten soll. Wird der Kontext voll, fassen Sie ältere Schritte zusammen und behalten nur Verweise (zum Beispiel Dokumentnummern) statt ganzer Texte. Geben Sie gespeicherten Erinnerungen ein Ablaufdatum, und behalten Sie personenbezogene Daten nicht länger als nötig. Behandeln Sie das Gedächtnis wie jede andere Eingabe: Eine falsche oder manipulierte Notiz kann jeden späteren Lauf in die Irre führen.\nStoppregeln und Freigaben durch Menschen Ein Agent ohne Stoppregeln kann sich im Kreis drehen und unnötig Tokens verbrauchen. Setzen Sie mehrere Grenzen, denn jede fängt ein anderes Problem ab:\neine Höchstzahl an Schritten je Aufgabe, ein Token- oder Kostenbudget je Aufgabe, ein Zeitlimit, eine Schleifenerkennung: derselbe Tool-Aufruf mit denselben Argumenten zweimal hintereinander, ein Fehlerlimit: mehrere gescheiterte Tool-Aufrufe in Folge, eine echte Erfolgsprüfung — die Tests laufen durch, das Formular ist gültig — statt des „fertig“ des Modells. Freigaben sind das zweite Sicherheitsnetz. Nicht jede Aktion braucht einen Menschen, manche aber immer. Eine einfache Regel sortiert Aktionen nach ihrer Wirkung und danach, wie leicht sie sich rückgängig machen lassen:\nWo ein Mensch freigeben muss: jede Tool-Aktion nach Wirkung und Umkehrbarkeit einordnen. !Inhalte können Anweisungen enthalten\nWebseiten, E-Mails und Dokumente, die ein Agent liest, können versteckte Anweisungen an das Modell enthalten. Das nennt man Prompt Injection. Geben Sie einem Agenten nie mehr Rechte als der Person, für die er arbeitet, und behalten Sie Freigaben für jede Aktion mit Wirkung nach außen bei. Unser Bereich AI Security erklärt den Angriff und die Abwehr.\nTypische Fehler und wie Sie sie erkennen Agenten scheitern auf wiedererkennbare Weise. Ihre Protokolle sollten jeden dieser Fehler sichtbar machen:\nSchleifen. Der Agent wiederholt eine Suche mit winzigen Änderungen. Anzeichen: viele ähnliche Tool-Aufrufe. Abhilfe: Schleifenerkennung und Schrittlimit. Falsches Tool oder falsche Argumente. Anzeichen: Validierungsfehler, leere Ergebnisse. Abhilfe: klarere Tool-Beschreibungen und Beispiele. Erfundene Ergebnisse. Das Modell behauptet, eine E-Mail verschickt zu haben, die nie hinausging. Abhilfe: nur melden, was echte Tool-Ergebnisse bestätigen. Zielabweichung. Der Agent löst ein Nebenproblem statt der Aufgabe. Abhilfe: das Ziel im Aufgabenstand wiederholen und den Plan nach jedem Schritt prüfen. Verlorener Kontext. Bei langen Läufen fällt das ursprüngliche Ziel aus dem Kontext. Abhilfe: ältere Schritte zusammenfassen und das Ziel oben halten. Um diese Probleme zu finden, zeichnen Sie jeden Schritt als Trace auf: Tool, Argumente, Ergebnis, Tokens und Zeit. Teil 5 dieses Levels zeigt, wie Sie Observability für LLM-Apps aufsetzen.\nWie lange Aufgaben schaffen Agenten heute? Ein nützliches Maß für Autonomie ist der Zeithorizont der Forschungsorganisation METR. Er gibt die Länge der Aufgaben an, die ein Modell in etwa der Hälfte der Fälle erfolgreich löst — gemessen daran, wie lange eine erfahrene Fachkraft dafür braucht. Es handelt sich um mehrstufige Aufgaben aus Softwareentwicklung und logischem Denken. Das sind die aktuellen Spitzenreiter in unseren LLM-Daten:\nMETR Time Horizon: die 5 besten Modelle #ModellErschienenErgebnis 1Claude Mythos Preview (Early) Anthropic07.04.202617 Std. 25 min 2Claude Opus 4.6 (unknown thinking) Anthropic05.02.202611 Std. 59 min 3Gemini 3.1 Pro Preview Google DeepMind19.02.20266 Std. 24 min 4GPT-5.2 (high) OpenAI11.12.20255 Std. 52 min 5GPT-5.3 Codex OpenAI05.02.20265 Std. 50 min Die Länge der Aufgaben, die ein Modell in etwa der Hälfte der Fälle richtig löst — gemessen daran, wie lange ein menschlicher Experte dafür braucht. Die Zahl ist eine Dauer, kein Punktwert: Ein längerer Horizont heißt, das Modell kann länger selbstständig arbeiten. Daten: Epoch AI, abgerufen am 17.10.2026, Lizenz CC BY 4.0. Alle Modelle: LLM-Datenbank.\nDas Diagramm zeigt, wie die Bestmarke seit den ersten gemessenen Modellen gewachsen ist. Die senkrechte Achse ist logarithmisch: Jede Stufe nach oben vervielfacht die Aufgabenlänge.\nBestmarke des METR-Zeithorizonts nach Erscheinungsdatum der Modelle. Daten: METR über Epoch AI, CC BY 4.0. In seiner ursprünglichen Studie von 2025 berichtete METR, dass sich dieser Horizont in den sechs Jahren davor etwa alle sieben Monate verdoppelt hatte (Quelle: METR, „Measuring AI Ability to Complete Long Tasks“, 2025, metr.org). Lesen Sie die Zahl mit Vorsicht. Fünfzig Prozent Erfolg heißt: Die Hälfte solcher Aufgaben scheitert noch. Für Arbeit, die verlässlich gelingen muss, geben Sie Agenten deutlich kürzere Aufgaben, oder Sie bauen Prüfungen und Freigaben ein. Außerdem stammen die Aufgaben aus Software und logischem Denken — Ihr Fachgebiet kann leichter oder schwerer sein. Alle Modelle mit Erscheinungsdatum finden Sie in unserer LLM-Datenbank.\nPraxisbeispiel: ein Agent für Support-Tickets So greifen die Bausteine in einem kleinen, realistischen Agenten ineinander. Sein Ziel: eine Kundenfrage zu einer Bestellung beantworten oder an einen Menschen übergeben.\nTools: find_order (lesen), search_help_center (lesen), draft_reply (schreibt einen Entwurf, verschickt nichts), escalate_to_human (legt ein Ticket für das Team an). Gedächtnis: Das Arbeitsgedächtnis enthält das Gespräch; der Aufgabenstand speichert die Bestellnummer und die bereits gelesenen Hilfeartikel. Stoppregeln: höchstens acht Schritte, ein Token-Budget je Ticket, Abbruch nach zwei gescheiterten Tool-Aufrufen in Folge. Freigaben: Der Agent verschickt nie selbst etwas. Anfangs gibt ein Mensch jeden Entwurf frei, später nur noch Erstattungen und Beschwerden. Erfolgsprüfung: Der Entwurf muss einen Hilfeartikel zitieren und den richtigen Bestellstatus nennen. Test vor dem Start: Lassen Sie den Agenten 30 frühere Tickets bearbeiten, und messen Sie Erfolgsquote, Schritte je Ticket, Kosten je erfolgreichem Ticket und wie oft er übergeben hat. Beginnen Sie mit der strengsten Einstellung, und lockern Sie sie Schritt für Schritt — nur dort, wo Ihre Messungen zeigen, dass der Agent verlässlich arbeitet. Reicht ein Agent für eine Aufgabe nicht aus, zeigt Level 4 Muster für Multi-Agenten-Systeme.\n","words":1808},"date":"2026-10-14","description":"Wie ein KI-Agent arbeitet: die Schleife aus Planen, Handeln und Beobachten, Tools, Gedächtnis, Stoppregeln, Freigaben und was die METR-Daten zeigen.","image":"https://abxk.ai/images/cover/build-ai-agents-tools-loops-memory.webp","json":"https://abxk.ai/de/ai-development/learn/build-ai-agents-tools-loops-memory/index.json","kind":"page","language":"de","learning_path":{"category":"ai-development","level":3,"level_name":"Profi"},"modified":"2026-10-14","related_tools":["MindStudio","Turbotic","Devs.ai","Browse AI"],"section":"ai-development","tags":["ki-agenten","tool-aufrufe","agenten-gedaechtnis","automatisierung"],"title":"KI-Agenten bauen: Tools, Schleifen und Gedächtnis","translations":[{"json":"https://abxk.ai/en/ai-development/learn/build-ai-agents-tools-loops-memory/index.json","language":"en","url":"https://abxk.ai/en/ai-development/learn/build-ai-agents-tools-loops-memory/"}],"url":"https://abxk.ai/de/ai-development/learn/build-ai-agents-tools-loops-memory/"}