使用 Compute Advisor 设计和优化 GKE 集群

本文档介绍了如何通过提示 Compute Advisor（由 Gemini 提供支持的 AI 赋能界面）来规划和设计集群。如需详细了解在创建 GKE 集群之前或创建过程中必须配置的组件，请参阅 GKE 概览。

Compute Advisor 可帮助您评估硬件选项、估算部署费用，以及查看集群的推荐配置。 为了量身定制建议，Compute Advisor 会通过检查您的配额限制、现有预留、承诺使用折扣 (CUD)、默认区域和可用区以及任何资源位置限制条件来评估您的Google Cloud 项目。借助 Compute Advisor 帮助您进行规划，您可以在创建或修改 GKE 集群之前，为工作负载实现最佳配置。

限制

在 Google Cloud 控制台中提示 Compute Advisor 时，您无法直接创建、修改或删除资源。

准备工作

当您使用 Google Cloud 控制台访问 Google Cloud 服务和 API 时，无需设置身份验证。

所需的角色

如需获得访问 Gemini 并向其发出提示所需的权限，请让您的管理员为您授予项目的 Kubernetes Engine Cluster Viewer (roles/container.clusterViewer) IAM 角色。 如需详细了解如何授予角色，请参阅管理对项目、文件夹和组织的访问权限。

此预定义角色包含访问 Gemini 并向其发出提示所需的权限。如需查看所需的确切权限，请展开所需权限部分：

所需权限

如需访问 Gemini 并向其提问，您需要具备以下权限：

  • 如需查看集群列表，请执行以下操作： container.clusters.list

您也可以使用自定义角色或其他预定义角色来获取这些权限。

在 Google Cloud 控制台中访问 Compute Advisor

如需在 Google Cloud 控制台中访问 Compute Advisor，请完成以下步骤：

  1. 在 Google Cloud 控制台中，前往概览页面。

    前往“概览”页面

  2. 在使用 Compute Advisor 设计基础架构部分，您可以查看以下内容：

    Compute Advisor 页面的界面元素。

    上图所示的界面元素如下：

    • 快速操作提示卡片：一组卡片，每张卡片都包含一个提示示例。如果您点击某个卡片， Google Cloud 控制台会自动在提示框中填充示例提示。

    • 提示框：您可以在此字段中输入和提交提示。如需提交提示，请点击提交提示。

    • 查看之前的对话：借助此功能，您可以查看过往对话的详细信息并继续对话，或者删除不再需要的对话。

    • “对话记录”侧边栏：显示您最近的对话。只有在您从概览页面开始提示后，此面板才会显示。 您可以按如下方式与此面板互动：

      • 如要发起新对话，请点击发起新聊天。

      • 如需继续最近的对话，请在最近的聊天部分中点击相应对话。

      • 如需查看所有对话的列表，请点击查看全部。在我的历史记录页面上，您可以查看过往对话的详细信息并继续对话，也可以删除不再需要的对话。

提示 Compute Advisor

提交提示后，Compute Advisor 会开始生成回答。系统会显示一个窗格， Google Cloud 控制台会在该窗格中显示对您提示的回答，如以下屏幕截图所示：

“Compute Advisor”窗格中生成的建议响应。

根据您的提示，回答窗格包含以下元素：

  • 情境化依据：Compute Advisor 会自动评估项目情境，以提供高度量身定制的建议，包括配额限制、现有预留、CUD、默认区域和可用区，以及任何资源位置限制。

  • 交互式代码段：Compute Advisor 会生成 gcloud 命令、REST API 方法或 Terraform 资源。您可以复制并粘贴这些代码段，也可以在 Cloud Shell 中运行它们。

  • 可视化画布：Compute Advisor 会将建议整理成结构化表格并进行并排比较。此视图有助于您评估产品功能和架构方法。它还可为您的使用场景提供实现方案。

以下部分概述了编写提示的最佳实践，以及在创建或修改 GKE 集群之前可以使用的示例提示。

提示方面的最佳实践

为了从 Compute Advisor 获得最准确且可据以采取行动的建议，我们建议您以与代码块相同的方式构建提示。这种方法通过使用清晰的参数声明、角色定义、具体指令和明确的输出格式来引导生成式 AI。

在提示 Compute Advisor 时，请考虑以下最佳实践：

  • 专注于设计和规划：我们建议您不要提示 Compute Advisor 针对 GKE 集群错误进行问题排查。如需解决这些错误，请参阅排查 GKE 问题。

  • 指定角色或身份：声明 Compute Advisor 要扮演的目标角色或身份，例如 IT 管理员、AI 研究员或平台工程师。这种方法可指导生成的建议的语气、深度和专业程度。

  • 提供明确的编号指令：将目标分解为具体的、分步的问题或任务。这种方法可规范 Compute Advisor 的推理过程，并有助于确保 Compute Advisor 满足您的所有要求。

  • 定义特定的输出格式：明确说明您希望建议采用哪种格式，例如分步说明、Markdown 比较表格或可直接使用的 gcloud 代码块。

  • 利用自动上下文接地：您无需在提示中添加默认区域或可用区、可用配额、CUD 或资源位置限制。Compute Advisor 可以访问您 Google Cloud 项目中的这些信息。

  • 迭代式优化设计：您可以发送新提示，修改或扩展 Compute Advisor 生成的回答。例如，您可以让助理在部署方案中添加网络建议，或修改存储空间要求，而无需开始新的对话。

示例提示

以下是一些可用于帮助您设计和优化 GKE 集群的提示示例：

  • 集群拓扑和节点池配置：如需确定工作负载的最佳 GKE 模式、机器类型和节点池配置，请使用如下提示：

    Act as a cloud architect. I need to design a GKE cluster topology for a
scalable microservices application that requires both GPU nodes for AI
inference and CPU nodes for general-purpose APIs.

Please provide the following:
1. A comparison of running this workload on GKE Autopilot versus GKE Standard.
2. Recommendations for GKE machine types for the GPU node pool.
3. The optimal autoscaling and auto-provisioning settings.
4. A YAML manifest that configures tolerations for GPU taints, which are required for AI workloads.

Format the comparison as a Markdown table, and provide the cluster creation
steps as a ready-to-use gcloud CLI command.

  • 配置模型和费用优化：如需评估配置模型并优化资源利用率以处理批处理工作负载，请使用如下提示：

    Act as an IT administrator. I need to design a cost-optimized GKE cluster
to run large-scale batch processing workloads that are fault-tolerant.

Please provide the following:
1. A cost and reliability comparison of using Spot VMs versus standard VMs
   in GKE node pools.
2. An explanation of how to configure Kueue for queueing training jobs.
3. A warning about the risk of latency for real-time inference when using Spot VMs.
4. A YAML manifest to deploy the workloads onto Spot VM nodes.

Format the comparison as a Markdown table, and provide the manifest as a
ready-to-use code block.

  • 有状态磁盘拓扑：如需为 GKE 上的高可用性数据库找到优化的永久性存储架构，请使用如下提示：

    Act as a storage engineer. I need to design a StatefulSet topology in
GKE for a distributed database that relies on Persistent Disks.

Please provide the following:
1. A comparison of regional Persistent Disks versus zonal Persistent Disks.
2. An explanation of how the standard-rwo StorageClass prevents deadlocks in zonal Persistent Disks.
3. A YAML manifest that shows how to deploy a stateful workload with the "volumeBindingMode: WaitForFirstConsumer" field.

Format the response with Markdown headers, and provide the deployment
manifest as a ready-to-use code block.

  • Karpenter 迁移提示：如需规划从 AWS Karpenter 到 GKE 自动扩缩功能的迁移，请使用如下提示：

    Act as a Kubernetes migration specialist. I am migrating an EKS cluster
that uses Karpenter to GKE. Please translate my AWS Karpenter
NodePool into a GKE custom ComputeClass.

Please provide the following:
1. A summary that maps Karpenter concepts to GKE Node Auto-Provisioning (NAP) and ComputeClasses.
2. A YAML manifest that shows how a ComputeClass provides the same variety of instance types and weighting for  Spot VMs as Karpenter.
3. The changes required in the Pod manifest to use the new ComputeClass.

Format the mapping as a Markdown table, and provide the GKE
manifests as code blocks that are ready to use.

后续步骤