🔍 插件简介

azure-aigateway 是微软官方推出的 Azure Skills 技能插件，帮助你快速将 Azure API Management 配置为集中式 AI 网关。它能统一管理 AI 模型、MCP 工具和智能体的流量，内置语义缓存、令牌限制、内容安全、负载均衡等治理策略，让 AI 服务更可控、更省钱、更安全。

⚙️ 主要功能一览

这个插件解决的核心问题很明确：当你在 Azure 上跑多个 AI 模型、多个 MCP 工具时，流量怎么管、成本怎么控、安全怎么保证。它提供了一套完整的治理能力。

模型治理
  • 语义缓存（降低 60%-80% 调用成本）
  • 令牌限制与配额管理
  • 多后端负载均衡
  • 令牌用量指标追踪
工具与智能体治理
  • MCP 工具限流保护
  • 内容安全过滤
  • 越狱检测
  • API 转 MCP 协议
配置管理
  • 添加 Azure OpenAI 后端
  • 接入 AI Foundry 模型
  • 导入 OpenAPI 规范
  • AI 成本控制策略
测试与验证
  • 网关连通性测试
  • 通过网关调用 OpenAI
  • LLM 策略调试
  • 常见故障排查

📦 第一次安装：三步搞定

安装之前确认两件事：Azure CLI 版本在 v2.60.0 以上，并且已经执行过 az login 登录。然后在你项目的根目录运行安装命令。

通用安装命令（适用于 Cursor、Claude Code、Cline、Codex、Goose 等）：

npx skills add https://github.com/microsoft/azure-skills --skill azure-aigateway

执行后会提示你选择目标 AI 编程环境，用方向键选中后回车即可。安装完成后，技能文件会出现在对应目录下（比如 Cursor 的 .cursor/skills/azure-aigateway）。

💡 小提示：如果你用的是 Claude Code，也可以手动把 SKILL.md 放到 ~/.claude/skills/azure-aigateway/ 目录，下次启动会自动加载。

🚀 安装后怎么用：直接说话就行

这个插件不需要你记复杂的命令。安装完成后，在 AI 助手的对话窗口里直接用自然语言描述需求，它会自动激活对应的技能。比如你想给 Azure OpenAI 加个令牌限制，直接说：

“帮我给 Azure OpenAI 配置令牌限制，每分钟最多 5000 tokens”

插件会调用 Azure CLI 完成配置。如果你想手动验证配置结果，可以用以下命令查看网关信息和后端列表：

# 查看网关 URL
az apim show --name <apim-name> --resource-group <rg> --query "gatewayUrl" -o tsv

# 列出所有 AI 后端
az apim backend list --service-name <apim-name> --resource-group <rg> \
  --query "[].{id:name, url:url}" -o table

测试网关是否正常工作：

curl -X POST "${GATEWAY_URL}/openai/deployments/<deployment>/chat/completions?api-version=2024-02-01" \
  -H "Content-Type: application/json" \
  -H "Ocp-Apim-Subscription-Key: <key>" \
  -d '{"messages": [{"role": "user", "content": "Hello"}], "max_tokens": 100}'

🎯 主要应用场景

多模型统一入口 团队同时使用 Azure OpenAI、AI Foundry 和自部署模型，通过一个网关 URL 统一调用，后端切换对业务代码透明。
成本控制与缓存 语义缓存策略可以识别相似请求直接返回缓存结果，官方数据显示能节省 60%-80% 的调用成本。配合令牌限制，避免意外超支。
MCP 工具安全防护 给 MCP 工具加上限流和内容安全策略，防止恶意调用或滥用，同时保留完整的调用日志用于审计。
API 转 MCP 协议 把现有的 REST API 快速转换成 MCP 工具，让 AI 智能体可以直接调用，不用重写后端逻辑。

🔧 使用技巧与帮助

策略顺序有讲究。在 APIM 的 <inbound> 策略中，推荐的执行顺序是：认证 → 语义缓存查找 → 令牌限制 → 内容安全 → 后端选择 → 指标记录。顺序错了可能导致缓存不生效或限流误判。

缓存命中率低怎么办？默认的语义相似度阈值可能偏高，试着把 score-threshold 从默认值降到 0.7 左右，能显著提升缓存命中率。

内容安全误报太多？把类别阈值从默认的 4 调到 5 或 6，减少正常内容被拦截的概率。

配合 azure-prepare 使用。如果你还没有部署 APIM 实例，先用 azure-prepare 技能完成部署，再用 azure-aigateway 做 AI 网关配置，两个技能分工明确。

💡 实用触发词：遇到问题时，直接在对话里说“配置语义缓存”“设置令牌限制”“添加内容安全策略”“MCP 限流”“越狱检测”“API 转 MCP”，插件会自动匹配对应能力。

🤖 适配哪些 AI 工具

这个插件本质是一个 Azure Skill，只要你的 AI 编程助手支持 Skills 或 MCP 协议，基本都能用。官方明确兼容的环境包括：

GitHub Copilot for Azure Visual Studio Code (Azure MCP 扩展) Claude Code Cursor Cline Codex Goose Windsurf Continue Aider

如果你用的工具不在列表里，但支持加载自定义 Skill 文件或 MCP 客户端，也可以手动配置使用。