首页 / 文章

azureai-foundryagentsgovernanceobservabilityenterprise

Microsoft Foundry 将模型 API 调用转化为受管控的 AI 操作

Microsoft Foundry将零散的模型API调用整合为受管控的运营流程：模型目录、代理、RBAC、追踪、可观测性及评估功能均集成于同一平台。

发布者：REACTAPP.TOP阅读约 7 分钟1570 词

来源: Why Use Microsoft Foundry: From Model API Calls to Enterprise AI Operations

从模型 POST 请求到企业级 AI 运营

单次对话完成即可回应提示词。它不会管理庞大的模型目录、驱动多步骤智能体、实施团队级访问控制、记录每次工具调用，也不会通过质量检查来控制发布。一次性完成与可在企业规模上运行的系统之间的差距，正是统一的 Azure AI 平台旨在弥合的。

Microsoft Foundry（以及相关的 Azure AI 技术栈）旨在将零散的大语言模型实验转化为受管控、可观测且达到生产级标准的系统。其价值不在于另一个 SDK 封装，而在于统一的运营模式：将模型目录、部署、身份管理、追踪、评估以及智能体连接整合在同一个平台之下。

“调用 API”实际上能带来什么

对于原型开发，直接调用服务提供商的接口即可：

| Dimension | Previous | Current |
| - - | - - | - - |
| Brand | Azure AI Studio / Azure AI Foundry | Microsoft Foundry |
| Brand | Azure AI Services | Foundry Tools |
| Agent API | Assistants API (Agents v0.5/v1) | Responses API (Agents v2) |
| API versioning | Monthly `api-version` params | v1 stable routes (`/openai/v1/`) |
| Resource model | Hub + Azure OpenAI + Azure AI Services | Foundry resource (single, with projects) |
| SDKs & endpoints | Multiple packages against 5+ endpoints | Unified project client (`azure-ai-projects` 2.x) + `OpenAI()` against one project endpoint |

| Surface | Best for |
| - - | - - |
| Foundry portal | Exploring models, prototyping prompts, building prompt agents without code. |
| SDKs (Python, C#, JavaScript, Java) | Building applications with `azure-ai-projects` 2.x and `OpenAI()` against one project endpoint. |
| Azure Developer CLI (azd) | Scaffolding, running, testing, and deploying hosted agent projects from the command line. |
| VS Code extension | Building and debugging agents in your editor. |
| Foundry Skill + MCP | Driving Foundry from coding agents (GitHub Copilot, Claude Code). |

| Dimension | Azure OpenAI / Raw API | Microsoft Foundry |
| - - | - - | - - |
| Scope | Model inference (GPT and OpenAI models) | Full AI lifecycle: models, agents, tools, eval, governance |
| Model catalog | OpenAI models only | 10,000+ models from multiple providers |
| Agent orchestration | Roll your own (LangChain, custom code) | Built-in prompt agents and hosted agents |
| Observability | Application Insights (manual setup) | Built-in tracing, evaluation, dashboards |
| Governance | Per-resource RBAC | Unified RBAC, Entra, content filters, Azure Policy |
| API stability | Monthly `api-version` changes | v1 stable routes (`/openai/v1/`) |
| Best for | Single-model, latency-critical, stable apps | Multi-model, agentic, governed, evolving AI products |

在以下需求出现时，它们无法通过生产环境测试：

  • 各环境间一致的部署名称
  • 网络隔离与私有端点
  • 针对不同团队的配额分配及成本归因
  • 安全团队可审计的工具调用轨迹
  • 在向客户推送更新前进行的评估机制

Foundry的运行层架构

应从层次结构而非功能角度来思考：

  1. 模型目录与部署——选择、指定版本并固定模型，而非在应用代码中硬编码基础名称。
  2. 代理/编排层——通过具有持久标识的方式关联工具、知识源及操作指令。
  3. 身份认证与RBAC——使用托管身份及最小权限角色，而非依赖笔记本电脑上可能泄露的密钥。
  • 可观测性——跨服务一致的追踪数据、指标以及内容安全机制。
  • 评估——通过离线与在线测试，确保“演示时效果更好”不会成为发布标准。

    • 何时选择 Foundry

    当多个团队需要共享模型、数据驻留位置至关重要、智能体调用涉及客户数据的工具，或财务部门需要包含使用归属信息的统一账单时，应选择该平台方案。而在仍在探索产品与市场的匹配度、实验仅由一名工程师使用一个笔记本进行时，建议继续使用原始 API。

    避免迁移痛点的习惯

    • 在每个客户端都将部署名称 ≠ 模型名称视为硬性规则。
    • 尽早将敏感信息存储在 Key Vault/托管身份系统中——即便只是用于“不会持续太久”的演示。
  • 在代码旁边添加版本提示和智能体指令。
  • 在首次处理生产流量之前，先加入一组简小的测试用例。
  • 在法律层面已对数据出口有要求时，优先选择私有网络。

    • 总结

    企业级人工智能本质上是披着模型外衣的运营问题。Foundry的核心理念是让这些运营环节达到一流标准：包括目录管理、智能体配置、身份认证、流程追踪以及性能评估。应在相关需求已被纳入规划时才使用该技术，而非仅仅作为实现简单对话功能的炫耀性平台。

    运营检查清单：为模型部署、智能体指令及评估数据集指定负责人。若没有明确责任人，目录管理就会变成一个堆满过时端点的无序杂乱空间。

    操作检查清单：为模型部署、智能体指令及评估数据集指定负责人。若没有负责人，该目录就会变成一个堆满过时端点的无标识垃圾箱。

    操作检查清单：为模型部署、智能体指令及评估数据集指定负责人。若没有负责人，该目录就会变成一个堆满过时端点的无标识垃圾箱。

    操作检查清单：为模型部署、智能体指令及评估数据集指定负责人。若没有负责人，该目录就会变成一个堆满过时端点的无标识垃圾箱。

    操作检查清单：为模型部署、智能体指令及评估数据集指定负责人。若没有负责人，该目录就会变成一个堆满过时端点的无标识垃圾箱。

    操作检查清单：为模型部署、智能体指令及评估数据集指定负责人。若没有负责人，该目录就会变成一个堆满过时端点的无标识垃圾箱。

    操作检查清单：为模型部署、智能体指令及评估数据集指定负责人。若没有负责人，该目录就会变成一个堆满过时端点的无标识垃圾箱。

    操作检查清单：为模型部署、智能体指令及评估数据集指定负责人。若没有负责人，该目录就会变成一个堆满过时端点的无标识垃圾箱。

    操作检查清单：为模型部署、智能体指令及评估数据集指定负责人。若没有负责人，该目录就会变成一个堆满过时端点的无标识垃圾箱。

    操作检查清单：为模型部署、智能体指令及评估数据集指定负责人。若没有负责人，该目录就会变成一个堆满过时端点的无标识垃圾箱。

    操作检查清单：为模型部署、智能体指令及评估数据集指定负责人。若没有负责人，该目录就会变成一个堆满过时端点的无标识垃圾箱。

    操作检查清单：为模型部署、智能体指令及评估数据集指定负责人。若没有负责人，该目录就会变成一个堆满过时端点的无标识垃圾箱。

    操作检查清单：为模型部署、智能体指令及评估数据集指定负责人。若没有负责人，该目录就会变成一个堆满过时端点的无标识垃圾箱。

    操作检查清单：为模型部署、智能体指令及评估数据集指定负责人。若没有负责人，该目录就会变成一个堆满过时端点的无标识垃圾箱。

    操作检查清单：为模型部署、智能体指令及评估数据集指定负责人。若没有负责人，该目录就会变成一个堆满过时端点的无标识垃圾箱。

    操作检查清单：为模型部署、智能体指令及评估数据集指定负责人。若没有负责人，该目录就会变成一个堆满过时端点的无标识垃圾箱。

    操作检查清单：为模型部署、智能体指令及评估数据集指定负责人。若没有负责人，该目录就会变成一个堆满过时端点的无标识垃圾箱。

    操作检查清单：为模型部署、智能体指令及评估数据集指定负责人。若没有负责人，该目录就会变成一个堆满过时端点的无标识垃圾箱。

    操作检查清单：为模型部署、智能体指令及评估数据集指定负责人。若没有负责人，该目录就会变成一个堆满过时端点的无标识垃圾箱。

    操作检查清单：为模型部署、智能体指令及评估数据集指定负责人。若没有负责人，该目录就会变成一个堆满过时端点的无标识垃圾箱。

    操作检查清单：为模型部署、智能体指令及评估数据集指定负责人。若没有负责人，该目录就会变成一个堆满过时端点的无标识垃圾箱。

    操作检查清单：为模型部署、智能体指令及评估数据集指定负责人。若没有负责人，该目录就会变成一个堆满过时端点的无标识垃圾箱。

    操作检查清单：为模型部署、智能体指令及评估数据集指定负责人。若没有负责人，该目录就会变成一个堆满过时端点的无标识垃圾箱。

    操作检查清单：为模型部署、智能体指令及评估数据集指定负责人。若没有负责人，该目录就会变成一个堆满过时端点的无标识垃圾箱。

    操作检查清单：为模型部署、智能体指令及评估数据集指定负责人。若没有负责人，该目录就会变成一个堆满过时端点的无标识垃圾箱。

    增加对孤立部署及未使用代理端点的每周检查。平台过度扩展正是团队们重新创建那些本应被Foundry取代的零散实验的方式。

    增加对孤立部署及未使用代理端点的每周检查。平台过度扩展正是团队们重新创建那些本应被Foundry取代的零散实验的方式。

    ← 全部文章发送简报