為工作負載設定自動應用程式監控功能

只要為支援的工作負載啟用自動應用程式監控功能，就能節省設定及維護 Google Kubernetes Engine (GKE) 監控應用程式的時間和精力。

自動監控應用程式的運作方式

啟用自動應用程式監控功能後，GKE 會偵測支援的工作負載部署執行個體，並為每個偵測到的工作負載執行個體部署 PodMonitoring 資源。

自動監控應用程式功能也會安裝立即可用的資訊主頁，方便您監控應用程式。指標是由 Google Cloud Managed Service for Prometheus 收集。

支援的工作負載

自動監控應用程式支援下列工作負載：

• Apache Airflow
• Istio
• RabbitMQ
• AI 模型伺服器：
  • JetStream
  • NVIDIA Triton
  • SGLang
  • TensorFlow Serving
  • 文字生成推論
  • TorchServe
  • vLLM

AI 模型伺服器的指標抓取間隔為 15 秒。非 AI 工作負載的抓取間隔為 30 秒。

如要進一步瞭解其他可手動設定的現成觀測能力解決方案，請參閱 Google Cloud Observability 說明文件中的「匯出工具設定簡介」。

事前準備

開始之前，請確認您已執行下列工作：

• 啟用 Google Kubernetes Engine API。
啟用 Google Kubernetes Engine API
• 如要使用 Google Cloud CLI 執行這項工作，請安裝並初始化 gcloud CLI。如果您先前已安裝 gcloud CLI，請執行 gcloud components update 指令，取得最新版本。較舊的 gcloud CLI 版本可能不支援執行本文件中的指令。

• 啟用 Cloud Monitoring API。

自動監控應用程式功能規定

如要啟用自動監控應用程式功能，GKE 叢集必須符合下列需求：

• 叢集必須執行 GKE 1.28 以上版本。
• 您必須使用 gcloud CLI 492.0.0 以上版本。
• 叢集必須啟用 Google Cloud Managed Service for Prometheus 代管收集作業。新叢集預設會啟用 Google Cloud Managed Service for Prometheus 代管收集功能。

啟用自動監控應用程式功能

您可以使用 Google Cloud 控制台、Google Cloud CLI 或 GKE API，為新的或現有的 GKE 叢集啟用自動應用程式監控功能。

部署新的工作負載或為叢集啟用自動應用程式監控功能後，系統最多需要 10 分鐘，才會開始抓取支援工作負載的指標。

gcloud container clusters create-auto CLUSTER_NAME \
    --location=COMPUTE_LOCATION \
    --auto-monitoring-scope=ALL

POST https://container.googleapis.com/v1/projects/PROJECT_ID/locations/COMPUTE_LOCATION/clusters

{
  "cluster": {
    "name": "CLUSTER_NAME",
    "initialNodeCount": 1,
    "monitoringConfig": {
      "managedPrometheusConfig": {
        "enabled": true,
        "autoMonitoringConfig": {
          "scope": "ALL"
        }
      }
    }
  }
}

判斷是否已啟用自動監控應用程式功能

您可以使用 Google Cloud 控制台、gcloud CLI 或 GKE API，判斷叢集是否已啟用自動應用程式監控功能。

gcloud container clusters describe CLUSTER_NAME \
    --location=COMPUTE_LOCATION \
    --format='value(monitoringConfig.managedPrometheusConfig.autoMonitoringConfig.scope)'

ALL

GET https://container.googleapis.com/v1/projects/PROJECT_ID/locations/COMPUTE_LOCATION/clusters/CLUSTER_NAME

{
  "monitoringConfig": {
    "managedPrometheusConfig": {
      "autoMonitoringConfig": {
        "scope": "ALL"
      }
    }
  }
}

查看資訊主頁

啟用自動應用程式監控功能後，GKE 會安裝立即可用的資訊主頁，用於監控部署至叢集的支援工作負載。如果叢集從未執行支援的工作負載，您就不會看到相關資訊主頁。

資訊主頁，顯示自動監控工作負載的遙測資料

如要在 Google Kubernetes Engine 頁面中查看自動監控工作負載的遙測資料，請按照下列步驟操作：

1. 前往 Google Cloud 控制台的「Google Kubernetes Engine」頁面：

   前往「Google Kubernetes Engine」

2. 按一下叢集名稱，查看自動監控工作負載的資訊主頁。

3. 點選「觀測能力」分頁標籤。「整合」部分會顯示叢集上執行的支援工作負載的已設定資訊主頁。

如要在 Cloud Monitoring 頁面中，查看自動監控工作負載的遙測資訊主頁，請按照下列步驟操作：

1. 前往「Dashboards」(資訊主頁) 頁面。

   前往資訊主頁

2. 按一下「Dashboard List」(資訊主頁清單) 分頁標籤。

3. 選取「整合」類別。

4. 按一下資訊主頁名稱。例如：RabbitMQ Prometheus 總覽。

AI/機器學習觀測能力指標的資訊主頁

如要查看 AI/ML 觀測指標的資訊主頁，請按照下列步驟操作：

1. 前往 Google Cloud 控制台的「Deployed Models」(已部署模型) 頁面：

   前往「Deployed Models」(已部署的模型)

2. 如要查看特定部署作業的詳細資料，包括指標、記錄和資訊主頁，請按一下清單中的模型名稱。

3. 如要查看觀測能力資訊主頁，請點選「Observability」(觀測能力) 分頁標籤。如果出現提示，請點選「啟用」，啟用叢集的指標收集功能。

   • 「基礎架構使用情形」資訊主頁會顯示使用率指標。
   • DCGM 資訊主頁會顯示 NVIDIA 資料中心 GPU Manager (DCGM) 指標。
   • 如果部署作業使用 vLLM，則可使用「Model performance」(模型效能) 資訊主頁，查看 vLLM 模型效能指標。

停用自動監控應用程式功能

如果停用叢集的自動應用程式監控功能，GKE 建立的 PodMonitoring 資源會保持不變，且 GKE 會繼續監控現有的支援工作負載。GKE 會停止自動監控您部署至叢集的支援工作負載新執行個體。如要停止監控現有支援的工作負載，您必須刪除 GKE 建立的PodMonitoring資源。如果重新啟用叢集的自動應用程式監控功能，GKE 會偵測並協調先前建立的 PodMonitoring 資源。

如要停用叢集的自動應用程式監控功能，可以使用Google Cloud 控制台、gcloud CLI 或 GKE API。

gcloud container clusters update CLUSTER_NAME \
    --location=COMPUTE_LOCATION \
    --auto-monitoring-scope=NONE

PUT https://container.googleapis.com/v1/projects/PROJECT_ID/locations/COMPUTE_LOCATION/clusters/CLUSTER_NAME

{
  "update": {
    "desiredMonitoringConfig": {
      "managedPrometheusConfig": {
        "autoMonitoringConfig": {
          "scope": "NONE"
        }
      }
    }
  }
}

自訂支援工作負載的自動監控功能

您可以自訂支援工作負載個別執行個體的監控設定，或選擇不監控支援工作負載的個別執行個體。

如要為已部署的支援工作負載執行個體自訂 PodMonitoring 資源，而不影響其他工作負載的自動應用程式監控功能，您必須從自動應用程式監控功能中排除該執行個體，然後更新設定或取代與目標工作負載執行個體相關聯的 PodMonitoring 資源。

如果您更新或刪除 GKE 建立的 PodMonitoring 資源，但未排除相關聯的工作負載，GKE 會還原 PodMonitoring 資源，確保在監控其他支援的工作負載時能持續運作。

找出工作負載的 PodMonitoring 資源

您可以使用 Google Cloud 控制台，找出 GKE 為工作負載建立的PodMonitoring資源：

1. 前往「Object browser」(物件瀏覽器) 頁面。

   前往「Object browser」(物件瀏覽器)

2. 在「Cluster」(叢集) 欄位中，輸入叢集名稱。

3. 在「Namespace」(命名空間) 欄位中，輸入命名空間的名稱。

4. 在「Object Kinds」(物件種類) 篩選器中，選取「PodMonitoring」(Pod 監控)。

5. 在 monitoring.googleapis.com 下方，選取「PodMonitoring」。

6. 按一下物件名稱即可檢查物件。中繼資料標籤 source:gke-auto-monitoring 表示 GKE 建立了 PodMonitoring 資源。

從自動監控中排除已部署的執行個體

如果不想監控已部署的支援工作負載執行個體，或想自訂工作負載的監控設定，可以將工作負載排除在自動應用程式監控之外。

如要排除工作負載，請在目標工作負載設定中新增中繼資料標籤 allow-gke-auto-monitoring: false。舉例來說，下列資訊清單描述了不受自動應用程式監控功能監控的 RabbitMQ StatefulSet：

apiVersion: apps/v1
kind: StatefulSet
metadata:
  name: rabbitmq
  labels:
    allow-gke-auto-monitoring: "false"
spec:
  serviceName: rabbitmq
  replicas: 3

排除工作負載執行個體後，您可以刪除 GKE 為工作負載建立的PodMonitoring 資源。如果您刪除或修改 PodMonitoring 資源，GKE 不會嘗試還原該資源。如果您使用中繼資料標籤 allow-gke-auto-monitoring: false 部署新的工作負載，GKE 不會為該工作負載建立 PodMonitoring 資源。

刪除工作負載的監控設定

如要停止監控工作負載，或想為工作負載部署自訂 PodMonitoring 資源，可以刪除監控設定。

如要刪除個別工作負載的自動應用程式監控設定，請按照下列步驟操作：

1. 將工作負載排除在自動應用程式監控範圍之外。
2. 找出 GKE 為工作負載建立的 PodMonitoring 資源。

3. 刪除 PodMonitoring 資源：

   kubectl delete podmonitoring POD_MONITORING_NAME -n NAMESPACE
   

   更改下列內容：

   • POD_MONITORING_NAME：PodMonitoring 資源的名稱。
   • NAMESPACE：PodMonitoring資源的命名空間。

如要刪除叢集中所有工作負載的自動應用程式監控設定，請按照下列步驟操作：

1. 停用自動監控應用程式功能。

2. 刪除叢集中所有具有中繼資料標籤 source:gke-auto-monitoring 的 PodMonitoring 資源：

   kubectl delete podmonitorings -l source=gke-auto-monitoring --all-namespaces
   

定價

自動應用程式監控功能可自動設定及安裝支援工作負載的現成資訊主頁，無須額外付費。不過，Monitoring 會根據 Monitoring 定價，針對 Google Cloud Managed Service for Prometheus 擷取的指標收費。

後續步驟

• 瞭解如何查看可觀測性指標。