Kontextfenster & Token – Definition & Bedeutung
Ein Token ist ein Wortbaustein, mit dem KI rechnet; das Kontextfenster ist die Menge an Text, die ein Modell gleichzeitig „im Blick" hat. Beides bestimmt, wie viel die KI auf einmal verarbeiten kann – und was es kostet.
Was sind Token und Kontextfenster?
KI-Modelle zerlegen Text in Token – kleine Bausteine, etwa Wortteile. Das Kontextfenster ist die maximale Menge an Token, die ein Modell gleichzeitig berücksichtigen kann: alles, was an Frage, Dokumenten und Verlauf hineinpasst.
Warum ist das praktisch relevant?
Zwei Dinge hängen daran: Wie viel Material die KI auf einmal auswerten kann (z. B. ein langer Vertrag), und die Kosten – viele Dienste rechnen pro Token ab. Ein größeres Kontextfenster kann mehr, kostet aber meist mehr.
Was bedeutet das für Ihr Unternehmen?
Bei großen Dokumentenmengen entscheidet das Zusammenspiel aus Kontextfenster und sauberer Vorauswahl (siehe Vektordatenbank) über Qualität und Kosten. Wir wählen das Modell anbieter-neutral passend zum Use-Case.
Häufige Fragen
Heißt ein größeres Kontextfenster immer bessere Antworten?
Nicht automatisch. Oft ist eine kluge Vorauswahl der relevanten Stellen wichtiger – und günstiger.
Warum reden alle über Token-Kosten?
Weil viele KI-Dienste pro verarbeitetem Token abrechnen – die Token-Menge bestimmt also direkt die Kosten.
Bereit, gemeinsam Großes zu schaffen?
Lass uns unverbindlich über dein Projekt sprechen.