Der Punkt ist nicht größer um jeden Preis. Der Punkt ist klüger.

Kürzlich an einer typischen Mittelstands-Codebasis: historisch gewachsen, mehrere Services, drei Benennungslogiken, Dokumentation lückenhaft. Realität eben. Und genau da wird die Debatte über Kontextfenster verkürzt: 128k, 1 Mio. — immer größer. Bei echten großen Repos ist das aber nicht die richtige Frage. Relevanter: Wie bewegt sich ein Modell praktisch durch einen Wissensraum, der größer ist als sein Arbeitsfenster?

Aus dieser Frage heraus habe ich DeepScroll gebaut — ein kleines Open-Source-Tool, das ich selbst im Alltag nutze. Basis ist ein MIT-Paper zu Recursive Language Models. Die Idee: Ein Modell muss nicht alles gleichzeitig im Kontext haben. Es kann sich iterativ durch Material bewegen, fokussieren, verdichten, rekursiv tiefer gehen — und daraus eine belastbare Antwort zusammensetzen.

Repo + Paper: github.com/grzgrzgrzgrzgrz/deepscroll · arxiv.org/abs/2512.24601

Warum 1 Mio. Tokens Kontextfenster nicht reichen

1 Mio. Tokens klingt komfortabel. Für Verträge, Projektdoku, mittlere Repos: absolut genug. Aber große Codebases funktionieren nicht wie ein langes PDF. Sie sind geschichtet: ein Service hier, eine Konfiguration dort, der fachliche Kontext in einem veralteten ADR. Relevanz ist verteilt, nicht linear.

Das Paradox: Je größer das Fenster, desto stärker die Versuchung, einfach mehr reinzukippen — Repo, README, Tickets, Confluence, Slack. Und zu hoffen, dass das Modell den Sweet Spot findet. Manchmal klappt das. Aber nicht zuverlässig. Jeder zusätzliche Token konkurriert um Fokus. Die Antwort wird diffus, zu breit, unscharf.

Wirtschaftlich: Ein großes Kontextfenster ohne Leitsystem ist wie eine Lagerhalle ohne Schilder. Kapazität ohne Geschwindigkeit. Unternehmen gewinnen nicht automatisch Produktivität, nur weil das Modell theoretisch mehr sieht.

Wie Recursive Language Models funktionieren

Die Idee ist so einfach wie mächtig: Ein Modell konsumiert den Wissensraum nicht in einem Schritt. Es erschließt ihn iterativ — ähnlich wie ein Mensch bei komplexen Fragen.

Drei Phasen, die sich rekursiv wiederholen:

1. Lokalisieren: Welche Dateien, Module, Abschnitte sind überhaupt relevant?
2. Verdichten: Was ist die essentielle Information aus dem Teilraum, ohne Noise?
3. Vertiefen: Welche Teile rechtfertigen einen zweiten, genaueren Blick?

Das Modell bewegt sich also nicht nur durch Text, sondern durch Abstraktionsebenen: Datei → Modul → Service → Geschäftslogik. Wer diesen Ebenenwechsel orchestriert, bekommt bessere Antworten aus kleineren Arbeitskontexten.

„Infinite context" ist kommunikativ stark, operativ aber missverständlich. In der Praxis gibt es weiterhin Kosten, Latenz, Rauschen. Entscheidend ist nicht Unendlichkeit, sondern Komposition: aus vielen Teilansichten eine stabile Gesamtsicht bauen.

DeepScroll im Alltag: Was es konkret tut

DeepScroll ist ein CLI-Werkzeug. Du richtest es auf ein Repository, stellst eine Frage — und es arbeitet sich rekursiv durch den Code, um Antworten mit verifizierten Quellen zu liefern.