Kontext-Engineering: Was KI-Agenten wann wissen müssen

Systemprompt, Werkzeuge, Gedächtnis, Abruf und Verdichtung: Warum gute Agenten weniger vom Prompt abhängen als von der Auswahl ihrer Informationen
Aktualisiert:
Abstract
- #Kontext-Engineering
- #KI-Agenten
- #Kontextfenster
- #Prompt Engineering
- #Vibe Coding
- #KI
- #Programmierung
- #Softwareentwicklung
Ein Kontextfenster ist ein knappes Gut – wer es planvoll füllt, bekommt zuverlässigere Agenten
Angenommen, ein Coding-Agent soll in einem Webshop die Versandkostenberechnung umbauen. In der ersten halben Stunde läuft alles gut: Er liest die richtigen Dateien, hält sich an die Namenskonventionen und schreibt Tests. Zwei Stunden später, nach Dutzenden Werkzeugaufrufen und seitenlangen Testausgaben, ignoriert er plötzlich eine Regel, die ganz am Anfang stand, und baut eine Funktion ein zweites Mal, die es längst gibt. Am Modell hat sich nichts geändert. Geändert hat sich, was es in diesem Moment vor Augen hat.
Genau darum geht es beim Kontext-Engineering. Gemeint ist die Arbeit, einem Sprachmodell zu jedem Schritt die Informationen bereitzustellen, die es für diesen Schritt braucht – nicht mehr und nicht weniger. Für einfache Chat-Anfragen spielt das kaum eine Rolle. Für Agenten, die über viele Runden selbstständig planen, Werkzeuge aufrufen und Ergebnisse auswerten, entscheidet es oft darüber, ob sie brauchbar sind.
Was Kontext-Engineering bedeutet und woher der Begriff stammt
Ein Sprachmodell (Large Language Model, LLM) hat kein Gedächtnis im menschlichen Sinn. Es sieht bei jeder Antwort nur das, was in seinem Kontextfenster steht: dem Textausschnitt, den die Anwendung bei jedem Aufruf mitschickt. Dazu gehören die Anweisungen der Anwendung, der bisherige Gesprächsverlauf, Beschreibungen der verfügbaren Werkzeuge, deren Ergebnisse und alles, was zusätzlich abgerufen wurde. Was dort nicht steht, existiert für das Modell nicht.
Der Begriff „Context Engineering“ verbreitete sich im Sommer 2025. Shopify-Chef Tobi Lütke und der KI-Forscher Andrej Karpathy warben damals öffentlich dafür, statt von „Prompt Engineering“ lieber von Kontext-Engineering zu sprechen. Karpathy beschrieb es sinngemäß als die Kunst, das Kontextfenster mit genau den richtigen Informationen für den nächsten Schritt zu füllen. Erfunden haben beide die Sache nicht. Wer Chatbots mit Unternehmenswissen gebaut hat, hat schon vorher entschieden, welche Dokumente ins Fenster kommen. Neu war die Einsicht, dass dies bei Agenten zur Hauptaufgabe wird.
Der Unterschied zum Prompt-Engineering
Prompt-Engineering kümmert sich darum, eine einzelne Anfrage gut zu formulieren: klare Aufgabe, passende Beispiele, gewünschtes Ausgabeformat. Kontext-Engineering ist umfassender. Es betrachtet alles, was über die gesamte Laufzeit eines Agenten ins Fenster gelangt, und fragt bei jedem Baustein, ob er dort gerade nützt oder stört. Der gut formulierte Prompt ist dabei nur ein Baustein unter mehreren.
Vom Vibe Coding zur bewussten Steuerung
Karpathy hatte Anfang 2025 auch den Begriff „Vibe Coding“ geprägt: Man beschreibt einer KI locker, was man will, übernimmt das Ergebnis und schaut kaum in den Code. Für Wegwerfprototypen funktioniert das erstaunlich gut. Sobald Software gepflegt, geprüft und von mehreren Menschen verstanden werden muss, reicht das nicht mehr. Kontext-Engineering ist das Gegenstück: Statt zu hoffen, dass das Modell schon das Richtige errät, legt das Team fest, was es wissen muss. Wie sich beides in der Praxis verbinden lässt, beschreibt der Beitrag zu Vibe Coding mit System.
Warum mehr Kontext nicht automatisch besser ist
Aktuelle Modelle verarbeiten laut Herstellern Kontextfenster von mehreren Hunderttausend bis rund einer Million Token. Ein Token entspricht grob einem Wortbestandteil. Da liegt die Idee nahe, einfach alles hineinzuladen: das ganze Repository, alle Handbücher, den kompletten Verlauf. Das ist aus drei Gründen keine gute Strategie.
Erstens lässt die Genauigkeit mit wachsender Länge nach. Eine viel beachtete Untersuchung von Chroma, dem Anbieter einer Open-Source-Suchdatenbank für KI-Anwendungen, zeigte im Juli 2025 unter dem Schlagwort „Context Rot“, dass Modelle bei langen Eingaben nicht gleichmäßig zuverlässig arbeiten. Anthropic spricht in seiner Dokumentation ebenfalls davon, dass Genauigkeit und Erinnerungsleistung mit der Zahl der Token abnehmen. Ein Modell hat gewissermaßen ein Aufmerksamkeitsbudget, und jede überflüssige Zeile verbraucht einen Teil davon.
Zweitens kostet jedes Token Geld und Zeit. Ein Agent, der bei jedem Schritt 200.000 Token mitschleppt, ist teurer und langsamer als einer, der mit einem Zehntel auskommt.
Drittens verschlechtern bestimmte Inhalte das Ergebnis aktiv. Der KI-Fachautor Drew Breunig hat 2025 vier typische Fehlerbilder beschrieben, die sich in der Praxis gut wiedererkennen lassen:
- Kontextvergiftung: Ein Fehler oder eine Halluzination gerät ins Fenster und wird danach immer wieder als Tatsache aufgegriffen.
- Ablenkung: Der Verlauf wird so lang, dass das Modell eher frühere Schritte wiederholt, als neue Lösungswege zu suchen.
- Verwirrung: Überflüssige Informationen, etwa die Beschreibungen von Werkzeugen, die für die Aufgabe keine Rolle spielen, verleiten das Modell zu falschen Entscheidungen.
- Widersprüche: Im Fenster stehen Angaben, die sich gegenseitig ausschließen, zum Beispiel eine alte und eine neue Fassung derselben Regel.
Das Beispiel aus dem Webshop zeigt mehrere davon zugleich: Die frühe Regel ist im langen Verlauf untergegangen, und die bereits vorhandene Funktion stand zwar irgendwann im Fenster, aber unter vielen anderen Ausgaben.
Woraus der Kontext eines Agenten besteht
Wer Kontext gezielt steuern will, muss zuerst wissen, welche Teile es gibt. Bei einem typischen Agenten sind es sechs.
Systemprompt. Die Grundanweisungen der Anwendung: Rolle, Ziel, Regeln, Ton. Anthropic empfiehlt in seinem Leitfaden zum Kontext-Engineering eine „richtige Flughöhe“: konkret genug, um das Verhalten zu lenken, aber ohne lange Wenn-dann-Listen für jeden Sonderfall, die das Modell eher verunsichern.
Werkzeugbeschreibungen. Jedes Werkzeug, das ein Agent aufrufen kann, steht mit Name, Beschreibung und Parametern im Fenster. Bei zwei oder drei Werkzeugen ist das unproblematisch. Bindet ein Team jedoch viele Server über das Model Context Protocol und verwandte Agentenprotokolle an, belegen allein die Beschreibungen einen spürbaren Teil des Fensters, bevor die eigentliche Arbeit beginnt. Hinzu kommt: Wenn sich zwei Werkzeuge ähneln, wählt das Modell leicht das falsche.
Beispiele. Wenige gut gewählte Beispiele zeigen oft besser als lange Erklärungen, was gemeint ist. Zu viele ähnliche Beispiele führen allerdings dazu, dass das Modell sie zu wörtlich nachahmt.
Abgerufenes Wissen. Inhalte, die zur Laufzeit gesucht und eingefügt werden: Dokumente aus einer Wissensdatenbank, Dateien aus dem Repository, Ergebnisse einer Websuche. Dieses Verfahren heißt Retrieval-Augmented Generation (RAG), also durch Abruf ergänzte Textgenerierung.
Gedächtnis. Informationen, die über eine Sitzung hinaus erhalten bleiben, etwa Vorlieben eines Nutzers oder Erkenntnisse aus früheren Aufgaben.
Verlauf und Werkzeugergebnisse. Alles, was im Lauf der Aufgabe passiert ist. Dieser Teil wächst am schnellsten und ist bei langen Aufgaben meist der größte.
Vier Strategien: schreiben, auswählen, verdichten, isolieren
Für den Umgang mit diesen Bausteinen hat sich eine Einteilung in vier Strategien eingebürgert, die unter anderem das Team hinter dem Agenten-Framework LangGraph 2025 beschrieben hat. Sie ist kein Standard, aber eine brauchbare Landkarte.
Kontext schreiben: Wissen außerhalb des Fensters ablegen
Ein Agent muss nicht alles im Kopf behalten. Er kann Zwischenstände in eine Notizdatei schreiben, eine Aufgabenliste führen oder Erkenntnisse in einem Gedächtnisspeicher ablegen. Ein Agent, der eine lange Migration erledigt, notiert sich zum Beispiel nach jedem Teilschritt, welche Module schon umgestellt sind und welche Tests noch fehlen. Geht später Kontext verloren, liest er die Notiz einfach wieder ein. Fachleute sprechen von einem Scratchpad, einem Notizblock für die laufende Aufgabe, und von einem Langzeitgedächtnis für Wissen, das über Sitzungen hinweg gilt.
Kontext auswählen: nur das Nötige hereinholen
Die zweite Strategie entscheidet, was ins Fenster kommt. Statt alle Dokumente vorab zu laden, sucht der Agent bei Bedarf gezielt danach – mit einer semantischen Suche, einem Dateisuchwerkzeug oder einfach mit grep. Anthropic beschreibt das als Abruf „just in time“: Der Agent behält leichte Verweise wie Dateipfade oder Links und lädt den Inhalt erst, wenn er ihn braucht.
Dasselbe gilt für Werkzeuge. Einige Plattformen bieten inzwischen eine Werkzeugsuche, bei der das Modell zunächst nur eine kurze Liste sieht und die vollständige Beschreibung eines Werkzeugs erst bei Bedarf nachlädt. Auch beim Gedächtnis ist Auswahl entscheidend: Ein Agent, der jede alte Notiz mitliest, hat am Ende wieder ein volles Fenster.
Kontext verdichten: zusammenfassen und ausdünnen
Wird das Fenster voll, hilft Verdichtung. Der Agent oder die Anwendung fasst den bisherigen Verlauf zusammen und arbeitet mit der Zusammenfassung weiter. Coding-Agenten wie Claude Code machen das automatisch, sobald eine Grenze erreicht ist, und lassen es auch per Befehl auslösen. Eine einfachere Form ist das Ausdünnen: Alte Werkzeugergebnisse, etwa die vollständige Ausgabe eines Testlaufs von vor einer Stunde, werden entfernt oder durch eine Zeile ersetzt („Tests liefen grün“).
Das Risiko liegt in der Auswahl: Eine zu knappe Zusammenfassung wirft genau das Detail weg, das drei Schritte später gebraucht wird. Gute Verdichtung behält Entscheidungen, offene Fehler und Festlegungen und verwirft Rohdaten.
Kontext isolieren: Arbeit auf mehrere Fenster verteilen
Die vierte Strategie teilt eine Aufgabe auf. Ein Hauptagent beauftragt Subagenten, also Hilfsagenten mit eigenem, frischem Kontextfenster. Ein Subagent durchsucht zum Beispiel eine große Codebasis nach allen Stellen, an denen Versandkosten berechnet werden, und liefert nur eine kurze Liste zurück. Die Hunderte Zeilen, die er dabei gelesen hat, belasten den Hauptagenten nicht.
Ähnlich wirkt eine Sandbox, eine abgeschottete Ausführungsumgebung: Der Agent lässt dort Code laufen, und nur das Ergebnis kommt zurück ins Fenster. Der Preis der Isolation sind mehr Modellaufrufe und damit höhere Kosten sowie die Gefahr, dass Teilagenten widersprüchlich arbeiten, wenn sie voneinander nichts wissen.
Kontext-Engineering in Coding-Agenten
Am deutlichsten sichtbar ist das alles in Coding-Agenten wie Claude Code, Codex, Cursor oder GitHub Copilot. Dort finden sich die vier Strategien als konkrete Funktionen wieder.
Dauerhafte Projektregeln stehen in Dateien wie CLAUDE.md oder AGENTS.md, die der Agent zu Beginn jeder Sitzung einliest. Weil sie in jedes Fenster wandern, sollten sie kurz bleiben: Befehle, Konventionen, Verbote. Was in eine gute Anleitung gehört und wie Sie Aufgaben für Agenten zerlegen, beschreibt der Beitrag über Spezifikationen für KI-Agenten ausführlicher.
Mehrere Werkzeuge setzen zudem auf schrittweises Laden. Bei sogenannten Skills sieht der Agent zunächst nur Name und Kurzbeschreibung. Die ausführliche Anleitung lädt er erst, wenn eine Aufgabe dazu passt. Hinzu kommen Subagenten für Recherche und Prüfung, automatische Verdichtung langer Sitzungen und Aufgabenlisten, die der Agent selbst führt.
Für Teams ergibt sich daraus eine einfache Faustregel: Alles, was der Agent bei jeder Aufgabe wissen muss, gehört in die Regeldatei. Alles, was er nur manchmal braucht, gehört in Dokumente oder Skills, auf die er bei Bedarf zugreift. Und alles, was er sich selbst erarbeiten kann, etwa die Struktur des Codes, sollte er sich auch selbst erarbeiten.
Kontext ist auch eine Angriffsfläche
Was ins Kontextfenster gelangt, beeinflusst das Verhalten des Modells. Das gilt auch für Inhalte, die ein Angreifer kontrolliert. Bei der Prompt Injection stehen versteckte Anweisungen in einer Webseite, einer E-Mail, einem Ticket oder einer Codedatei. Liest der Agent diesen Text über ein Werkzeug ein, kann er die Anweisungen für echte Aufträge halten, etwa vertrauliche Daten an eine fremde Adresse zu senden.
Kontext-Engineering ist deshalb auch Sicherheitsarbeit. Bewährt haben sich einige Grundsätze:
- Inhalte aus unsicheren Quellen deutlich als Daten kennzeichnen und nicht mit Anweisungen vermischen.
- Agenten nur die Werkzeuge und Rechte geben, die sie für die Aufgabe brauchen.
- Kritische Aktionen wie Löschen, Bezahlen oder Veröffentlichen von einer menschlichen Bestätigung abhängig machen.
- Zugangsdaten und personenbezogene Daten nicht unnötig ins Fenster laden. Was dort steht, kann in Protokollen, Zusammenfassungen oder Antworten wieder auftauchen.
Ein vollständiger Schutz gegen Prompt Injection existiert bislang nicht. Umso wichtiger ist es, den möglichen Schaden zu begrenzen. Für Unternehmen kommt der Datenschutz hinzu: Wer Kundendaten in den Kontext eines externen Modells gibt, verarbeitet sie im Sinne der DSGVO und braucht dafür eine Rechtsgrundlage und in der Regel einen Auftragsverarbeitungsvertrag mit dem Anbieter.
Wie Sie die Wirkung messen
Ob eine Änderung am Kontext hilft, lässt sich nicht nach Gefühl beurteilen. Ein Agent, der bei einem Testfall besser wird, kann bei drei anderen schlechter werden. Sinnvoll ist eine kleine Sammlung typischer Aufgaben mit bekanntem Ergebnis, eine sogenannte Evaluation. Vor und nach jeder Änderung läuft der Agent diese Aufgaben durch.
Messbar sind dabei vor allem:
- Erfolgsquote: Wie viele Aufgaben werden korrekt gelöst, etwa mit grünen Tests?
- Token-Verbrauch und Laufzeit: Was kostet eine Aufgabe im Schnitt?
- Werkzeugwahl: Ruft der Agent die passenden Werkzeuge auf oder probiert er herum?
- Regeltreue: Hält er Vorgaben wie Namenskonventionen oder verbotene Verzeichnisse ein?
Hilfreich ist außerdem, die tatsächlichen Kontextfenster einzelner Läufe anzusehen. Viele Frameworks zeichnen sie auf. Oft zeigt schon ein Blick hinein, dass der Agent seitenweise irrelevante Ausgaben mitschleppt oder dass eine wichtige Regel nie im Fenster gelandet ist.
Was das für Teams bedeutet
Kontext-Engineering ist weniger eine neue Technik als eine neue Gewichtung. Lange galt die Frage, welches Modell man einsetzt, als wichtigste Entscheidung. Bei Agenten verschiebt sich das: Zwei Teams mit demselben Modell erzielen sehr unterschiedliche Ergebnisse, je nachdem, wie sorgfältig sie Anweisungen, Werkzeuge und Wissensquellen auswählen.
Überschätzt wird dabei die Wirkung großer Kontextfenster. Sie sind nützlich, ersetzen aber keine Auswahl. Unterschätzt wird der Pflegeaufwand: Regeldateien veralten, Werkzeuglisten wachsen, Gedächtnisspeicher füllen sich mit Widersprüchen. Wer Agenten produktiv einsetzt, sollte diese Bestandteile behandeln wie Code – mit Versionsverwaltung, Review und regelmäßigem Aufräumen.
Unsere Empfehlung: Beginnen Sie klein. Eine kurze Regeldatei, wenige gut beschriebene Werkzeuge, eine Handvoll Testaufgaben. Erweitern Sie den Kontext erst, wenn Sie sehen, dass dem Agenten etwas fehlt. Wie Sprachmodelle als neue Rechenplattform einzuordnen sind, beschreibt Karpathys Vergleich von LLMs mit Betriebssystemen. Wer im Team Grundlagen im Umgang mit KI-Assistenten aufbauen möchte, findet bei unseren ChatGPT-Schulungen und Workshops Formate von der Einführung bis zur Arbeit mit Agenten.
Häufige Fragen zum Kontext-Engineering
Ist Kontext-Engineering nur etwas für Entwickler?
Nein. Wer einen KI-Assistenten im Fachbereich einführt, trifft dieselben Entscheidungen: Welche Dokumente darf er durchsuchen, welche Anweisungen bekommt er, was soll er sich merken? Die technische Umsetzung liegt meist bei der IT, die inhaltliche Auswahl gehört in die Fachabteilung.
Braucht man dafür ein bestimmtes Framework?
Nicht unbedingt. Frameworks wie LangGraph bieten fertige Bausteine für Gedächtnis, Zustandsverwaltung und lang laufende Abläufe. Die Prinzipien lassen sich aber auch mit wenigen Zeilen eigenem Code oder mit den Bordmitteln eines Coding-Agenten umsetzen. Wichtiger als die Wahl des Werkzeugs ist, dass Sie wissen, was in Ihrem Kontextfenster steht.
Macht ein Modell mit größerem Kontextfenster Kontext-Engineering überflüssig?
Eher nicht. Ein größeres Fenster verschiebt die Grenze, hebt aber die Probleme nicht auf: Lange Eingaben sind teurer, langsamer und bei vielen Modellen weniger zuverlässig. Auch mit einer Million Token bleibt die Frage, welche Informationen dem Modell beim nächsten Schritt wirklich helfen.
Was ist der Unterschied zwischen Gedächtnis und RAG?
RAG holt Wissen aus einem bestehenden Bestand, etwa Handbüchern oder Produktdaten, das unabhängig vom Agenten gepflegt wird. Ein Gedächtnis entsteht dagegen durch die Arbeit des Agenten selbst: Er legt ab, was er gelernt oder entschieden hat. Technisch nutzen beide oft dieselbe Suchtechnik, inhaltlich verfolgen sie unterschiedliche Zwecke.
Kategorien
Schlagworte
- #KI-Agenten
- #Prompt Engineering
- #Künstliche Intelligenz