Gemini Enterprise Agent Platform 支持一组精选的开放模型作为托管式模型。这些开放模型可与 Gemini Enterprise Agent Platform 搭配，作为模型即服务 (MaaS) 使用，并作为托管式 API 提供。使用托管式开放模型时，您可以继续向 Gemini Enterprise Agent Platform 端点发送请求。托管式开放模型是无服务器服务，因此您无需预配或管理基础设施。
您可以使用 Model Garden 发现托管式开放模型，还可以使用 Model Garden 部署模型。如需了解详情，请参阅在 Model Garden 中探索 AI 模型。
您需要先授予用户开放模型访问权限，然后才能使用开放模型。
开放模型
以下开放模型在 Gemini Enterprise Agent Platform Model Garden 上以托管式 API 的形式 (MaaS) 提供：
| 模型名称 | 模态 | 说明 | 快速入门 |
|---|---|---|---|
| DeepSeek-V4.1-Flash | 语言、视觉、代码 | DeepSeek 的多模态混合专家模型，适用于智能体和编码任务，具有 100 万个词元的上下文窗口。 | 模型卡片 |
| Gemma 4 26B A4B IT | 语言、视觉 | Google DeepMind 打造的 Google 开放模型系列。 | 模型卡片 |
| GLM 5.2 | 语言、代码 | GLM 的模型，适用于长跨度智能体和编码任务，具有 100 万个 token 的上下文窗口。 | 模型卡片 |
| gpt-oss 120B | 语言 | 一个 120B 模型，在推理任务方面表现出色。 | 模型卡片 |
| Llama 4 Maverick 17B-128E | 语言、视觉 | 最大的 Llama 4 模型，具有编码、推理和图像功能。Llama 4 Maverick 17B-128E 是一种使用混合专家 (MoE) 架构和早期融合技术的多模态模型。 | 模型卡片 |
| Llama 4 Scout 17B-16E | 语言、视觉 | Llama 4 Scout 17B-16E 在同类模型中取得了出色的结果，在多项基准测试中超越了其他开放模型和专有模型。Llama 4 Scout 17B-16E 是一种使用混合专家 (MoE) 架构和早期融合技术的多模态模型。 | 模型卡片 |
以下开放嵌入模型在 Gemini Enterprise Agent Platform Model Garden 上以托管式 API 的形式 (MaaS) 提供：
| 模型名称 | 说明 | 输出维度 | 最大序列长度 | 支持的文本语言 | 快速入门 |
|---|---|---|---|---|---|
| multilingual-e5-small | E5 系列文本嵌入模型中的一员。小型变体包含 12 层。 | 最高 384 | 512 个词元 | 支持的语言 | 模型卡片 |
| multilingual-e5-large | E5 系列文本嵌入模型中的一员。大型变体包含 24 层。 | 高达 1024 | 512 个词元 | 支持的语言 | 模型卡片 |
开放模型监管合规性
当通过 Gemini Enterprise Agent Platform 将开放模型用作代管式 API 时，Gemini Enterprise Agent Platform 上的生成式 AI 的认证仍然适用。如果您需要了解模型本身的详细信息，可以在相应的模型卡片中找到更多信息，也可以联系相应的模型发布方。
对于 Gemini Enterprise Agent Platform 上的开放模型，您的静态数据会存储在所选区域或多区域内，但数据处理的区域化可能会有所不同。如需查看开放模型数据处理承诺的详细列表，请参阅开放模型的数据驻留。
使用 Gemini Enterprise API（包括开放模型）时，客户提示和模型回答不会与第三方共享。Google 仅会按照客户的指示处理客户数据，详见我们的《云端数据处理附录》。
上下文缓存
上下文缓存有助于降低包含重复内容的开放模型请求的费用并缩短延迟时间。此功能仅在使用随用随付流量时启用，不支持其他流量类型，例如预配吞吐量和批处理。支持的缓存类型是隐式缓存，这是一种自动缓存，默认情况下在所有 Google Cloud 项目中启用，在发生缓存命中时，与标准输入 token 相比，可为缓存的 token 提供 90% 的折扣。使用这种类型的缓存时，您无需明确定义和调用缓存。相反，我们的后端会在检测到重复上下文后从这些缓存中提取。
支持的模型
- qwen3-coder-480b-a35b-instruct-maas
- kimi-k2-thinking-maas
- minimax-m2-maas
- gpt-oss-20b-maas
- deepseek-v3.1-maas
- deepseek-v3.2-maas
- deepseek-v4.1-flash-maas
- gemma-4-26b-a4b-it-maas
- glm-5-maas
- glm-5.2-maas
回答的元数据中的 cachedContentTokenCount 字段表示输入中已缓存部分的 token 数。缓存请求必须包含至少 4096 个 token（此最低要求在预览期间可能会发生变化）。
启用后，系统会自动将隐式缓存命中节省的费用返还给您。缓存命中无法保证，取决于发送的请求和其他因素。如要提高隐式缓存命中的几率，请尝试以下操作：
- 将较大且常见的内容放置在提示的开头。
- 在短时间内发送具有相似前缀的请求。
后续步骤
- 在使用开放模型之前，请向用户授予开放模型的使用权限。
- 了解如何调用开放模型 API。