OpenAI-API: Prompt-Caching hält geteilte Kontexte jetzt bis zu zwölf Stunden

Das KI-Unternehmen OpenAI hat eine deutliche Verlängerung des Prompt-Cachings für seine Programmierschnittstelle angekündigt. Entwickler können wiederkehrende Prompts, Systeminstruktionen und Kontextdaten nun für bis zu zwölf Stunden im Zwischenspeicher halten.

Bislang lag das Standard-Zeitfenster bei 30 Minuten. Die Neuerung zielt darauf ab, die Leistung und Reaktionszeit bei Anwendungen mit geteilten Instruktionen zu verbessern und Kosten bei längeren Nutzungspausen zu senken.

Längere Vorhaltezeit über neuen Parameter

Eingeführt wurde die Funktion am 20. Oktober 2026 über die Responses API. Über den Parameter prompt_cache_options.ttl="12h" lässt sich die Aufbewahrungsdauer für geteilte Instruktionen, Werkzeuge und Kontexte von den regulären 30 Minuten auf zwölf Stunden heraufsetzen.

Bei der Angabe von zwölf Stunden handelt es sich laut OpenAI nicht um eine feste Löschfrist; das Unternehmen behält sich vor, entsprechende Cache-Einträge bei Bedarf auch über diesen Zeitraum hinaus vorzuhalten.

Technisch lassen sich beide Cache-Laufzeiten innerhalb einer einzigen Anfrage kombinieren. Über den Parameter prompt_cache_breakpoint.ttl können Entwickler unterschiedliche Abschnitte definieren. Die Abrechnung der einzelnen Token richtet sich in solchen Mischfällen nach der jeweils längsten Schreib-Lebensdauer innerhalb der Anfrage.

Wer sich professionell mit der Entwicklung oder dem Einsatz solcher KI-Systeme befasst, muss neben der technischen Effizienz auch die rechtlichen Rahmenbedingungen im Blick behalten. Dieser kostenlose Umsetzungsleitfaden bietet einen kompakten Überblick über alle Anforderungen, Pflichten und Fristen der EU-KI-Verordnung. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt

Höhere Schreibkosten bei identischen Lesepreisen

Die verlängerte Speicherdauer geht mit einer veränderten Preisstruktur für Schreibzugriffe einher. Während Schreibvorgänge im 30-Minuten-Cache mit dem 1,25-fachen der regulären Rate für ungecachten Input berechnet werden, veranschlagt OpenAI für den Zwölf-Stunden-Cache das 2,5-fache dieser Basisrate.

Unverändert bleiben hingegen die Kosten für Lesezugriffe auf den Zwischenspeicher. Für beide Zeitfenster liegt der Tarif für Cache-Reads bei 0,1x der regulären Input-Rate. Bei dem Modell GPT-6.1 Sol fällt dieser Satz auf 0,05x der Input-Rate.

Fokus auf dauerhafte Agenten und Entwicklungs-Sessions

Der vergünstigte Cached-Input-Tarif greift damit auch dann, wenn zwischen einzelnen Anfragen mehrere Stunden vergehen. Die Erweiterung ist insbesondere für dauerhaft betriebene KI-Agenten und komplexere Softwarearchitekturen konzipiert, die denselben Kontext über den Arbeitstag hinweg wiederholt abrufen.

Da die EU-KI-Verordnung neue Regeln für den Einsatz von KI aufstellt, stehen viele Unternehmen vor der Frage, welche Systeme konkret als Hochrisiko eingestuft werden. Dieser kostenlose Report klärt über die neuen rechtlichen Pflichten auf und hilft Fachverantwortlichen, auf der sicheren Seite zu stehen. Welche KI-Systeme gelten als Hochrisiko – und was müssen Unternehmen jetzt konkret tun?

Wie Tibo von OpenAI am 20. Oktober 2026 ergänzte, wird der Cache für angemeldete Nutzer von Codex und Work dauerhaft aufbewahrt. Kehren Anwender nach mehreren Stunden zu einer früheren Konversation zurück oder setzen diese fort, greift der Zwischenspeicher ohne zusätzliche Kosten.

Die Umstellung auf das Zwölf-Stunden-Intervall garantiert nach Unternehmensangaben nicht automatisch finanzielle Ersparnisse, da die anfänglichen Schreibgebühren höher ausfallen. Sie rentiert sich vor allem bei Szenarien, in denen über mehrere Stunden hinweg Dutzende Anfragen auf einen identischen Kontext zugreifen oder umfangreiche Programmiersitzungen in Codex abgewickelt werden.