佈建 GPU 並啟用 Vertex AI 預先訓練 API

Google Distributed Cloud (GDC) 實體隔離方案中的 Vertex AI,需要運算和 GPU 資源,才能執行人工智慧 (AI) 和機器學習 (ML) 工作負載。佈建 GPU 並啟用 Vertex AI 預先訓練 API,在環境中導入 AI 功能。如要瞭解資源需求,請參閱「容量規劃和運算需求」。

在 GDC 控制台中,您可以啟用、停用及查看光學字元辨識 (OCR)、Speech-to-Text 和 Vertex AI Translation 的端點。設定 GPU 資源及管理 Vertex AI 預先訓練 API 時,需要管理員存取權。如果權限不足,請要求管理員代為啟用 GPU 和預先訓練的 API。

事前準備

如要取得啟用預先訓練 API 所需的權限,請要求組織 IAM 管理員或專案 IAM 管理員,在專案命名空間中授予您 AI 平台管理員 (ai-platform-admin) 角色。

如要瞭解這個角色,請參閱「準備 IAM 權限」。如要瞭解如何將權限授予主體,請參閱「授予及撤銷存取權」。

請按照下列步驟佈建 GPU,再啟用預先訓練的 API:

  1. 設定專案以使用 Vertex AI。
  2. 請確認專案已設定適當的輸入通訊。
  3. 管理 GPU 工作負載。
  4. 登入 GDC 控制台。如果無法登入,請參閱「在識別資訊提供者無法使用時復原裝置」。

啟用預先訓練的 API

您可以使用 GDC 控制台,啟用 OCR、Speech-to-Text 和 Vertex AI Translation 預先訓練 API。

符合必要條件後,請按照下列步驟啟用預先訓練的 API:

  1. 登入 GDC 控制台。
  2. 在導覽選單中,依序點選「Vertex AI」>「預先訓練的 API」。
  3. 在「Pre-trained APIs」(預先訓練的 API) 頁面中,按一下特定服務的「Enable」(啟用),即可啟用該 API。

  4. 在確認對話方塊中,按一下「啟用」。系統隨即會顯示進度訊息。

啟用時間長度不一。這項作業可能需要 15 到 45 分鐘才能完成。

如要查看預先訓練 API 的狀態,請查看服務狀態和端點。

停用預先訓練的 API

您可以使用 GDC 控制台,停用 OCR、Speech-to-Text 和 Vertex AI Translation 預先訓練 API。

符合必要條件後,請按照下列步驟停用預先訓練的 API:

  1. 登入 GDC 控制台。
  2. 在導覽選單中,依序點選「Vertex AI」>「預先訓練的 API」。
  3. 在「Pre-trained APIs」(預先訓練的 API) 頁面中,按一下特定服務的「Disable」(停用),即可停用該 API。

  4. 在確認對話方塊的文字欄位中輸入 disable,確認要執行該動作。接著,按一下「停用」。系統會顯示進度訊息。

如要查看預先訓練 API 的狀態,請查看服務狀態和端點。