Microsoft Foundry wandelt API-Aufrufe von Modellen in regulierte KI-Operationen um.
Microsoft Foundry verwandelt einmalige API-Aufrufe für Modelle in regulierte Prozesse: Modellkataloge, Agenten, RBAC, Überwachung, Sichtbarkeit und Bewertung an einem Ort.
Quellen: Why Use Microsoft Foundry: From Model API Calls to Enterprise AI Operations
Von einem Modell-POST zu unternehmensweiten AI-Operationen
Eine einzelne Chat-Antwort kann auf eine Anfrage reagieren. Dabei wird weder ein umfangreiches Modellkatalog verwalten, noch mehrstufige Agenten steuern, noch teambezogene Zugriffskontrollen anwenden, noch jede Tool-Aufruf protokollieren oder Freigaben anhand von Qualitätsprüfungen kontrollieren. Die Kluft zwischen einer einmaligen Antwort und einem System, das im Unternehmensmaßstab betrieben werden kann, ist genau das, was eine einheitliche Azure AI-Plattform schließen soll.
Microsoft Foundry (sowie der dazugehörige Azure AI-Stack) zielt darauf ab, fragmentierte LLM-Experimente in regulierte, überwachbare, produktionsreife Systeme umzuwandeln. Der Wert liegt nicht in einem weiteren SDK-Wrapper, sondern im Betriebsmodell: Kataloge, Bereitstellungen, Identitätsmanagement, Tracking, Bewertung sowie Agentenvernetzung unter einem Dach.
Was Ihnen „das Aufrufen der API“ tatsächlich bringt
Direkte Anrufe beim Anbieter eignen sich für Prototypen:
| Dimension | Previous | Current |
| - - | - - | - - |
| Brand | Azure AI Studio / Azure AI Foundry | Microsoft Foundry |
| Brand | Azure AI Services | Foundry Tools |
| Agent API | Assistants API (Agents v0.5/v1) | Responses API (Agents v2) |
| API versioning | Monthly `api-version` params | v1 stable routes (`/openai/v1/`) |
| Resource model | Hub + Azure OpenAI + Azure AI Services | Foundry resource (single, with projects) |
| SDKs & endpoints | Multiple packages against 5+ endpoints | Unified project client (`azure-ai-projects` 2.x) + `OpenAI()` against one project endpoint |
| Surface | Best for |
| - - | - - |
| Foundry portal | Exploring models, prototyping prompts, building prompt agents without code. |
| SDKs (Python, C#, JavaScript, Java) | Building applications with `azure-ai-projects` 2.x and `OpenAI()` against one project endpoint. |
| Azure Developer CLI (azd) | Scaffolding, running, testing, and deploying hosted agent projects from the command line. |
| VS Code extension | Building and debugging agents in your editor. |
| Foundry Skill + MCP | Driving Foundry from coding agents (GitHub Copilot, Claude Code). |
| Dimension | Azure OpenAI / Raw API | Microsoft Foundry |
| - - | - - | - - |
| Scope | Model inference (GPT and OpenAI models) | Full AI lifecycle: models, agents, tools, eval, governance |
| Model catalog | OpenAI models only | 10,000+ models from multiple providers |
| Agent orchestration | Roll your own (LangChain, custom code) | Built-in prompt agents and hosted agents |
| Observability | Application Insights (manual setup) | Built-in tracing, evaluation, dashboards |
| Governance | Per-resource RBAC | Unified RBAC, Entra, content filters, Azure Policy |
| API stability | Monthly `api-version` changes | v1 stable routes (`/openai/v1/`) |
| Best for | Single-model, latency-critical, stable apps | Multi-model, agentic, governed, evolving AI products |
Sie scheitern bei den Produktivtests, wenn Sie Folgendes benötigen:
- konsistente Bereitstellungsnamen in allen Umgebungen
- Netzwerkisolation und private Endpunkte
- Quoten pro Team sowie Zuordnung der Kosten
- Spuren von Tool-Aufrufen, die von der Sicherheit überprüft werden können
- Bewertungsschritte, bevor eine Änderung die Kunden erreicht
Die Betriebsschichten von Foundry
Denken Sie in Schichten statt in Funktionen:
- Modellkatalog & Bereitstellungen – wählen, versionieren und fixieren Sie Modelle anstelle von fest codierten Basisnamen im Anwendungscode.
- Agent-/Orchestrierungsschicht – binden Sie Tools, Wissensquellen und Anweisungen mit einer dauerhaften Identität zusammen.
- Identitätsmanagement & RBAC – verwaltete Identitäten und Rollen mit minimalem Berechtigungsgrad anstelle von auf Laptops gelangten Schlüsseln.
Wann Foundry die richtige Wahl ist
wählen Sie den Plattformweg, wenn mehrere Teams Modelle teilen, wenn die Datenverbleibsstelle wichtig ist, wenn Agenten Tools aufrufen, die Kundendaten berühren, oder wenn das Finanzteam eine einzige Rechnung mit Zuordnungen benötigt. Verwenden Sie weiterhin rohe APIs, solange Sie noch nach dem richtigen Produktmarkt-Verhältnis suchen und das Experiment nur aus einem Ingenieur und einem Notebook besteht.
Migrationsgewohnheiten, die Probleme verhindern
- Betrachten Sie Deployment-Name ≠ Modellname in jedem Kundenfall als strenge Regel.
- Platzieren Sie Geheimnisse frühzeitig in Key Vault / verwalteten Identitäten – selbst für Demos, die „nicht lange andauern“.
Fazit
Enterprise AI ist ein Betriebsproblem, das in einem Modellkostüm verpackt ist. Foundrys Ansatz besteht darin, die betrieblichen Aspekte – Kataloge, Agenten, Identitäten, Spuren und Bewertungen – auf erstklassige Weise zu gestalten. Nutzen Sie diese Lösung, wenn solche Anforderungen bereits im Entwicklungsplan stehen – nicht als bloße Schauplattform für eine einfache Chatfunktion.
Betriebskontrollliste: Legen Sie Verantwortliche für die Modellbereitstellung, Agentenanweisungen sowie Bewertungsdatensätze fest. Ohne klare Verantwortliche verwandelt sich der Katalog in einen unübersichtlichen Haufen veralteter Endpunkte.
Operative Checkliste: Benennen Sie Verantwortliche für die Implementierung von Modellen, Anweisungen für Agenten sowie Bewertungsdatensätze. Ohne Verantwortliche verwandelt sich das Katalogsystem in eine unausgewiesene Sammlung veralteter Endpunkte.
Operative Checkliste: Benennen Sie Verantwortliche für die Implementierung von Modellen, Anweisungen für Agenten sowie Bewertungsdatensätze. Ohne Verantwortliche verwandelt sich das Katalogsystem in eine unausgewiesene Sammlung veralteter Endpunkte.
Operative Checkliste: Benennen Sie Verantwortliche für die Implementierung von Modellen, Anweisungen für Agenten sowie Bewertungsdatensätze. Ohne Verantwortliche verwandelt sich das Katalogsystem in eine unausgewiesene Sammlung veralteter Endpunkte.
Operative Checkliste: Benennen Sie Verantwortliche für die Implementierung von Modellen, Anweisungen für Agenten sowie Bewertungsdatensätze. Ohne Verantwortliche verwandelt sich das Katalogsystem in eine unausgewiesene Sammlung veralteter Endpunkte.
Operative Checkliste: Benennen Sie Verantwortliche für die Implementierung von Modellen, Anweisungen für Agenten sowie Bewertungsdatensätze. Ohne Verantwortliche verwandelt sich das Katalogsystem in eine unausgewiesene Sammlung veralteter Endpunkte.
Operative Checkliste: Benennen Sie Verantwortliche für die Implementierung von Modellen, Anweisungen für Agenten sowie Bewertungsdatensätze. Ohne Verantwortliche verwandelt sich das Katalogsystem in eine unausgewiesene Sammlung veralteter Endpunkte.
Operative Checkliste: Benennen Sie Verantwortliche für die Implementierung von Modellen, Anweisungen für Agenten sowie Bewertungsdatensätze. Ohne Verantwortliche verwandelt sich das Katalogsystem in eine unausgewiesene Sammlung veralteter Endpunkte.
Operative Checkliste: Benennen Sie Verantwortliche für die Implementierung von Modellen, Anweisungen für Agenten sowie Bewertungsdatensätze. Ohne Verantwortliche verwandelt sich das Katalogsystem in eine unausgewiesene Sammlung veralteter Endpunkte.
Operative Checkliste: Benennen Sie Verantwortliche für die Implementierung von Modellen, Anweisungen für Agenten sowie Bewertungsdatensätze. Ohne Verantwortliche verwandelt sich das Katalogsystem in eine unausgewiesene Sammlung veralteter Endpunkte.
Operative Checkliste: Benennen Sie Verantwortliche für die Implementierung von Modellen, Anweisungen für Agenten sowie Bewertungsdatensätze. Ohne Verantwortliche verwandelt sich das Katalogsystem in eine unausgewiesene Sammlung veralteter Endpunkte.
Operative Checkliste: Benennen Sie Verantwortliche für die Implementierung von Modellen, Anweisungen für Agenten sowie Bewertungsdatensätze. Ohne Verantwortliche verwandelt sich das Katalogsystem in eine unausgewiesene Sammlung veralteter Endpunkte.
Operative Checkliste: Benennen Sie Verantwortliche für die Implementierung von Modellen, Anweisungen für Agenten sowie Bewertungsdatensätze. Ohne Verantwortliche verwandelt sich das Katalogsystem in eine unausgewiesene Sammlung veralteter Endpunkte.
Operative Checkliste: Benennen Sie Verantwortliche für die Implementierung von Modellen, Anweisungen für Agenten sowie Bewertungsdatensätze. Ohne Verantwortliche verwandelt sich das Katalogsystem in eine unausgewiesene Sammlung veralteter Endpunkte.
Operative Checkliste: Benennen Sie Verantwortliche für die Implementierung von Modellen, Anweisungen für Agenten sowie Bewertungsdatensätze. Ohne Verantwortliche verwandelt sich das Katalogsystem in eine unausgewiesene Sammlung veralteter Endpunkte.
Operative Checkliste: Benennen Sie Verantwortliche für die Implementierung von Modellen, Anweisungen für Agenten sowie Bewertungsdatensätze. Ohne Verantwortliche verwandelt sich das Katalogsystem in eine unausgewiesene Sammlung veralteter Endpunkte.
Operative Checkliste: Benennen Sie Verantwortliche für die Implementierung von Modellen, Anweisungen für Agenten sowie Bewertungsdatensätze. Ohne Verantwortliche verwandelt sich das Katalogsystem in eine unausgewiesene Sammlung veralteter Endpunkte.
Operative Checkliste: Benennen Sie Verantwortliche für die Implementierung von Modellen, Anweisungen für Agenten sowie Bewertungsdatensätze. Ohne Verantwortliche verwandelt sich das Katalogsystem in eine unausgewiesene Sammlung veralteter Endpunkte.
Operative Checkliste: Benennen Sie Verantwortliche für die Implementierung von Modellen, Anweisungen für Agenten sowie Bewertungsdatensätze. Ohne Verantwortliche verwandelt sich das Katalogsystem in eine unausgewiesene Sammlung veralteter Endpunkte.
Operative Checkliste: Benennen Sie Verantwortliche für die Implementierung von Modellen, Anweisungen für Agenten sowie Bewertungsdatensätze. Ohne Verantwortliche verwandelt sich das Katalogsystem in eine unausgewiesene Sammlung veralteter Endpunkte.
Operative Checkliste: Benennen Sie Verantwortliche für die Implementierung von Modellen, Anweisungen für Agenten sowie Bewertungsdatensätze. Ohne Verantwortliche verwandelt sich das Katalogsystem in eine unausgewiesene Sammlung veralteter Endpunkte.
Operative Checkliste: Benennen Sie Verantwortliche für die Implementierung von Modellen, Anweisungen für Agenten sowie Bewertungsdatensätze. Ohne Verantwortliche verwandelt sich das Katalogsystem in eine unausgewiesene Sammlung veralteter Endpunkte.
Operative Checkliste: Benennen Sie Verantwortliche für die Implementierung von Modellen, Anweisungen für Agenten sowie Bewertungsdatensätze. Ohne Verantwortliche verwandelt sich das Katalogsystem in eine unausgewiesene Sammlung veralteter Endpunkte.
Operative Checkliste: Benennen Sie Verantwortliche für die Implementierung von Modellen, Anweisungen für Agenten sowie Bewertungsdatensätze. Ohne Verantwortliche verwandelt sich das Katalogsystem in eine unausgewiesene Sammlung veralteter Endpunkte.
Operative Checkliste: Benennen Sie Verantwortliche für die Implementierung von Modellen, Anweisungen für Agenten sowie Bewertungsdatensätze. Ohne Verantwortliche verwandelt sich das Katalogsystem in eine unausgewiesene Sammlung veralteter Endpunkte.
Fügen Sie eine wöchentliche Überprüfung von verwaisten Bereitstellungen sowie ungenutzten Agenten-Endpunkten hinzu. Die Ausbreitung der Plattform ist die Art und Weise, wie Teams die fragmentierten Experimente wieder erschaffen, die Foundry ursprünglich ersetzen sollte.
Fügen Sie eine wöchentliche Überprüfung von verwaisten Bereitstellungen sowie ungenutzten Agenten-Endpunkten hinzu. Die Ausbreitung der Plattform ist die Art und Weise, wie Teams die fragmentierten Experimente wieder erschaffen, die Foundry ursprünglich ersetzen sollte.