OpenAI’s Managed Agents API: Hosted Sandboxes gegen Selbsthostete Ausführung

Die Vorbereitungen vor dem Agenten

Jeder, der bereits einen autonomen Agenten entwickelt hat, weiß, wie viel Arbeit eigentlich nichts mit der eigentlichen Aufgabe des Agenten zu tun hat. Bevor man zur interessanten Logik kommt, muss ein Team den Ausführungslauf schreiben, den Gesprächszustand speichern, entscheiden, welches Tool als Nächstes ausgeführt wird, von Fehlern wiederherstellen, den Kontext bei wachsenden Sitzungen komprimieren und einen sicheren Ort bereitstellen, an dem Code ausgeführt und Dateien bearbeitet werden können. Erst danach kommt die eigentliche Aufgabe an die Reihe.

OpenAI’s Managed Agents Service, der derzeit in der öffentlichen Beta-Version verfügbar ist, soll den größten Teil dieser Last tragen. Entwickler müssen kein weiteres Modell-Endpunkt in ein Orchestrierungsframework einbinden – stattdessen erhalten sie eine verwaltete Laufzeitumgebung für Agenten. Vier Eingabedaten beschreiben die gesamte Aufgabe: die Aufgabe selbst, das Modell, die Tools sowie die Umgebung, in der die Arbeit stattfindet. Die Plattform übernimmt anschließend einen großen Teil der dafür benötigten Infrastruktur.

Der Engine darunter verdient Aufmerksamkeit. OpenAI wandelt die Infrastruktur hinter seinem eigenen Programmieragenten Codex in eine Infrastruktur für externe Entwickler um. Es handelt sich dabei um weitaus mehr als nur eine schmale Schicht über einer Chat- oder Completion-API: Sie enthält die Orchestrierung, die einen Agenten durch wiederholte Schritte führt, die Entscheidung über die Verwendung von Tools, die Verwaltung einer sich erweiternden Sitzung sowie die Ausführung von Aktionen, und sie kann zusätzliche Agenten gleichzeitig bei Teilen eines Problems koordinieren.

Dadurch verschiebt sich der Ausgangspunkt. Teams müssen in der Anfangsphase eines Projekts nicht mehr die Mechanismen neu aufbauen, die einen Agenten zum Funktionieren bringen, und können bereits viel näher an der Anwendung arbeiten. Das, was es einem Agenten ermöglicht, zu laufen, zu handeln, sich zu erholen und zu koordinieren, wird zu einer verwalteten Funktion.

Was die verwaltete Infrastruktur umfasst

Hinter der Veröffentlichung steht die Annahme, dass die meisten Anforderungen an zuverlässige Agenten gemeinsam sind und nicht produktbezogen. Unabhängig vom Geschäftsproblem benötigt ein Agent eine Aufzeichnung dessen, was in der Sitzung geschehen ist, eine Möglichkeit, den nächsten Schritt mit dem richtigen Tool abzustimmen, eine Methode, um Gespräche, die den Kontextfensterumfang überschreiten, zu verkürzen, sowie einen Weg, um große Aufgaben in unabhängige Teile aufzuteilen. Das sind größtenteils bereits gelöste Probleme, und jedes Unternehmen, das sie in eigenen Code umsetzt, verschwendet Zeit, die eigentlich für das Produkt bestimmt ist.

Durch die Zentralisierung dieser Logik in einem verwalteten Framework erhalten Entwickler eine Grundlage, auf der sie weiterarbeiten können, anstelle selbst etwas Neues zu entwickeln. Das Framework übernimmt den Modellzyklus: Der Kontext wird an das Modell gesendet, es erfolgt eine Entscheidung, diese wird ausgeführt und das Ergebnis dient als neuer Eingang. Es speichert den Sitzungszustand, damit langwierige Aufgaben nicht frühere Fortschritte verlieren. Zudem komprimiert es den Kontext automatisch, wenn die Sitzung die Kapazität des Modells annähert. Außerdem wählt es aus, welche Werkzeugdefinitionen im Moment relevant sind, wodurch das Modell vor irrelevanten Optionen geschützt wird.

Wahl des Arbeitsortes für den Agenten

Nachdem Aufgabe, Modell und Werkzeuge definiert sind, bleibt nur noch eine Entscheidung: Wo findet die Ausführung statt? Hier bietet das Service-System eine echte Wahlmöglichkeit, und die Abwägungen zwischen den beiden Optionen sind im Aufbau wichtiger als fast alles andere.

Hosteter Arbeitsbereich

In dem ersten Ansatz startet OpenAI für jede Sitzung einen vollständigen Linux-Arbeitsbereich und führt ihn aus. Python, Node.js sowie gängige Befehlszeilen-Tools sind bereits vorinstalliert, wodurch der Agent einen Ort hat, an dem er Code ausführen, mit Dateien arbeiten und Ergebnisse erzeugen kann, ohne dass der Entwickler jemals mit einer Virtual Machine, einem Containerbild oder einem Deployment-Pipeline umgehen muss. Die Ergebnisse abgeschlossener Aufgaben können in unveränderliche Artefakte umgewandelt werden, was für Teams nützlich ist, die eine dauerhafte, unveränderliche Aufzeichnung davon benötigen, was bei einem bestimmten Ausführungsvorgang genau erzeugt wurde.

Weil OpenAI die Bereitstellung sowie den Lebenszyklus des Sandboxes von der Erstellung bis zur Aufräumung übernimmt, eignet sich dieser Ansatz für eine schnelle Bereitstellung. Ein Team, das einen Agenten schnell einsatzbereit haben möchte, ohne Tage lang interne Infrastrukturfreigaben oder Bereitstellungs-Skripte abwarten zu müssen, profitiert stark davon, eine Sitzung auf OpenAIs Rechenressourcen zu richten. Er eignet sich auch für elastische Arbeitslasten, bei denen die Ausführung der Agenten unvorhersehbar ansteigen kann und das Team lieber keine eigene Skalierungslogik verwalten möchte. Die Auswahl erfordert einen kleinen Umgebungsblock zur Angabe des gehosteten Typs sowie ein Verzeichnis für die Funktionsdateien.

"environment": {
  "type": "openai_hosted",
  "capability_directories": ["/workspace/capabilities/skills"]
}

Selbst gehostete Ausführung

Der zweite Ansatz lässt die Ausführung auf der Infrastruktur stattfinden, die dem Entwickler gehört – sei es ein Container, eine virtuelle Maschine oder ein Remote-Sandbox-Dienst eines Drittanbieters. In dieser Umgebung befindet sich ein Komponente namens Exec-Server, der über einen WebSocket mit OpenAI kommuniziert. Befehle werden über diese Verbindung vom verwalteten System gesendet, und der Exec-Server führt Shell-Befehle sowie Interaktionen über das lokale Model Context Protocol auf dem Rechner des Entwicklers aus, bevor die Ergebnisse zurückgesendet werden.

Ein Sicherheitsaspekt ist besonders hervorzuheben: Die Verbindung verwendet einen dafür erstellten, eingeschränkten Schlüssel, sodass der allgemeine API-Schlüssel auf Anwendungs-Ebene niemals im Ausführungsumfeld vorhanden sein muss. Sollte die Umgebung kompromittiert werden, findet ein Angreifer lediglich Zugangsdaten mit begrenzterem Umfang als der vollständige Anwendungs-Schlüssel.

Das Selbsthosting gibt einem Team weitaus mehr Kontrolle darüber, welche Rechenressourcen genutzt werden, wie auf private Netzwerke zugegriffen wird und wo die Daten gespeichert sind. Regulierte Organisationen sowie Teams, deren Agenten auf interne Systeme zugreifen müssen, die nicht über das öffentliche Internet erreichbar sind, benötigen dies in der Regel. Doch Kontrolle bringt auch Verpflichtungen mit sich: Das Team muss die Isolierung sowie Sicherheitspatches für die Umgebung bereitstellen, bei Lastspitzen skalieren, die Aktivitäten überwachen und nach Abschluss der Sitzungen aufräumen. Wenn die Orchestrierung an einem anderen Ort gesteuert wird, bleibt all das unberührt.

Was bei OpenAI in jedem Fall bleibt

Es ist verlockend anzunehmen, dass eine selbst gehostete Ausführung bedeutet, der Agent läuft vollständig innerhalb des Unternehmens und ist nach dem ersten Modellaufruf von OpenAI abgeschnitten. Das wäre falsch. Auch bei selbst gehosteter Lösung betreibt OpenAI weiterhin das Orchestrierungssystem sowie die Modelllogik, die entscheidet, was der Agent in jedem Schritt tut. Nur die Ausführungsschicht wechselt – also die tatsächlichen Befehle, die Dateiverwaltung und die Rechenleistung. Der Schlussfolgerungszyklus, die Sitzungskontrolle sowie die Koordinierungslogik bleiben unabhängig vom gewählten Umfeld auf der Seite von OpenAI.

Lange Sitzungen und große Tool-Kataloge

Jeder Agent, der über eine einfache Implementierung hinausgeht, stößt schnell auf zwei Probleme. Eines sind Sitzungen, deren Umfang die Kontextfenster der Modelle überschreitet. Das andere sind Tool-Kataloge, die so groß sind, dass das Senden jeder Definition mit jeder Anfrage Token verbraucht und das Modell verlangsamt. Das verwaltete Orchestrierungssystem löst beide Probleme.

Bei langen Sitzungen komprimiert das System den früheren Kontext automatisch, wenn ein Gespräch seinem Limit naht – es behält nur das bei, was der Agent noch benötigt, und verwirft das Unrelevante. Dadurch kann ein Workflow weitaus mehr als ein Kontextfenster umfassen, ohne dass manuell eine Zusammenfassung oder eine Trunkierungslogik erforderlich ist.

Bei arbeitsintensiven Aufgaben mit vielen Tools stellt eine Funktion namens Tool-Suche nur die Definitionen bereit, die für den aktuellen Schritt gelten, wodurch der Tokenverbrauch und die Kosten gesenkt werden und der Cache des Modells erhalten bleibt. Nachdem die richtigen Tools geladen sind, ermöglicht eine zusätzliche Funktion programmierte Aufrufe dieser Tools. Der Agent kann mehrere Aufrufe parallel ausführen, zusammenhängende Operationen verknüpfen sowie Ergebnisse im Code filtern oder zusammenführen, sodass nur der nützliche Teil in den Kontext des Modells gelangt. Bei großen Datenvolumina ist das ein großer Vorteil, da der Agent nicht jedes Rohergebnis durchsuchen muss, um die wenigen relevanten Fakten zu finden.

Die Konfiguration listet die Tools im Agentenblock auf, einschließlich eines Eintrags für einen MCP-Server.

"agent": {
  "tools": [
    {
      "type": "mcp",
      "server_label": "internal_docs",
      "transport": {
        "type": "http",
        "server_url": "https://docs.example.com/mcp"
      }
    }
  ]
}

Mehrere Agenten für eine Aufgabe

Vielleicht ist die kühnste Funktion die native Unterstützung für mehrere Agenten, die parallel an einer Aufgabe arbeiten. Anstatt einen einzelnen Agenten dazu zu bringen, ein komplexes Problem Schritt für Schritt zu bewältigen, kann ein Entwickler die Mehr-Agenten-Unterstützung aktivieren und den Frameworks ermöglichen, die Aufgabe in unabhängige Teile aufzuteilen. Jeder Teil wird an einen Subagenten mit eigenem Kontext weitergeleitet.

Jeder Subagent konzentriert sich auf eine spezifische Aufgabe und muss nicht mit der gesamten Aufgabe gleichzeitig umgehen, während ein koordinierender Hauptagent die Arbeit überwacht und die Ergebnisse zu einer endgültigen Antwort zusammenführt. Bei Forschung, großangelegten Analysen oder Programmierung, die in unabhängige Bereiche unterteilt ist, kann diese Struktur die Fertigstellzeit erheblich verkürzen, und es ist nicht notwendig, eine Orchestrierungsschicht für konkurrierende Agenten zu entwerfen und zu bauen.

Um dies zu aktivieren, wird ein Flag in der Konfiguration des Agenten zusammen mit der Auswahl des Modells verwendet.

"agent": {
  "model": "gpt-6-astra",
  "multi_agent": {
    "enabled": true,
    "max_concurrent_subagents": 3
  }
}

Welcher Weg passt zu welchem Team

Die beiden Ausführungswegen entsprechen genau zwei Prioritätssets. Teams, die Geschwindigkeit an erste Stelle setzen und nicht über Rechenressourcen nachdenken möchten, kommen mit verwalteten Sandboxes aus. Wer eine neue Agentenidee validiert oder ohne Verhandlungen über Infrastrukturbudgets starten will, wird wahrscheinlich eher den gehosteten Weg wählen und dabei weniger Entwicklungszeit investieren.

Selbsthosting macht mehr Sinn, wenn die Anforderungen über das hinausgehen, was eine gemeinsame, allgemein einsetzbare Sandbox erfüllen kann. Beispiele hierfür sind private Netzwerke, die der Agent erreichen muss, benutzerdefinierte Maschinenabbilder mit proprietärem Tooling, spezialisierte Rechenkapazitäten wie bestimmte GPU-Konfigurationen sowie regulierte Datengrenzen, die verhindern, dass Informationen ein Gebiet oder Netzwerk verlassen. In solchen Fällen ist die zusätzliche Betriebsverantwortung einfach der Preis für die richtige Umsetzung.

Wer sollte warten

Nicht jedes Team muss unbedingt auf dieses Angebot ausweichen. Wenn ein bereits vorhandenes, auf SDK basierendes System zuverlässig funktioniert, Wiederholungsversuche angemessen handhabt und seinen Betreibern nur geringe Herausforderungen bereitet, gibt es vermutlich kaum einen Grund für einen Umstieg. Ein funktionierendes System einfach deshalb zu ersetzen, weil es eine verwaltete Alternative gibt, führt in der Regel zu zusätzlichem Risiko ohne entsprechenden Nutzen.

Die Situation sieht anders aus, wenn der Umgang mit Sitzungszuständen, Wiederholungsversuchen sowie der Fehlerbehebungsmechanismus zu einer erheblichen Belastung werden. Die Übertragung dieser Aufgaben an einen verwalteten Dienst, der sie bereits bewältigt und mit jeder neuen Version verbessert wird, freisetzt erhebliche Ressourcen für Aufgaben, die ein Produkt tatsächlich unterscheidbar machen.

Eine gute Faustregel: Übertragen Sie alles, was Sie nicht kontrollieren müssen, und behalten Sie die Kontrolle über das, worauf das Unternehmen angewiesen ist. Das gilt insbesondere für die Bereitstellungsarchitektur, die Handhabung sensibler Daten sowie das genaue, vorhersehbare Verhalten eines Agenten in der Produktion. Infrastrukturen, die niemand im Team übernehmen möchte, sollten delegiert werden. Verhaltensweisen, die die Zuverlässigkeit eines Produkts oder die Konformitätsrichtlinien eines Unternehmens bestimmen, hingegen nicht.

Offene Grundlagen

Eine Eigenschaft verleiht dieser Version Glaubwürdigkeit: Das Framework basiert auf Open-Source-Technologien. OpenAI betreibt und wartet die Produktversion innerhalb des verwalteten Services, während der zugrundeliegende Code weiterhin öffentlich eingesehen werden kann. Jeder, der wissen möchte, wie sich der Modelllauf, die Werkzeugauswahl sowie die Koordination der Unteragenten verhalten, kann die Logik direkt lesen und auf die Dokumentation verzichten. Diese Offenheit ausgleicht den ansonsten geschlossenen Charakter eines voll verwalteten Cloud-Services und hilft Teams dabei, Vertrauen in das zu haben, was ihre Produktlasten verarbeitet.

Preise und Beta-Status

Die öffentliche Beta steht allen Entwicklern zur Verfügung, ohne dass zusätzliche Abonnementgebühren zum regulären Gebrauch hinzukommen. Die Kosten richten sich nach den Tokens, die in einer Sitzung verwendet werden, sowie nach den Tools, die aufgerufen werden, und basieren auf den bereits festgelegten Standardpreisen für die zugrunde liegenden Modelle. Da die Rückmeldungen der Entwickler den Service auf dem Weg zur allgemeinen Verfügbarkeit weiter gestalten werden, sollten Early Adopter mit Veränderungen im Verhalten, in den Standardeinstellungen und Funktionen in den kommenden Monaten rechnen.

Die auf der bereits für Codex genutzten Plattform basierende, verwaltete Agents-API stellt eine echte Veränderung dar, was die Menge an Infrastruktur angeht, die ein Team vor dem Erstellen nützlicher Arbeit durch autonome Agenten aufbauen muss. Durch die Bereitstellung einer vollständig gehosteten Umgebung sowie einer selbst gehosteten Variante, die dennoch zentral verwaltete Orchestrierung bietet, ermöglicht OpenAI es Entwicklern, den für ihre Situation passenden Kompromiss auszuwählen, anstatt jedem ein bestimmtes Deployment-Modell aufzuzwingen.

Der Adoptionsaufruf lässt sich auf eine Frage reduzieren, die für jede neue Infrastruktursschicht gilt: Beseitigt sie Arbeit, die niemand übernehmen wollte, und hält sie das Team fest in der Kontrolle darüber, was das Produkt ausmacht?