Gemini Enterprise Agent Platform 的 RAG Engine 部署模式

Gemini Enterprise Agent Platform 的 RAG Engine 提供不同的部署模式，可用於操作 RAG 執行個體。部署模式會決定資料儲存位置、儲存空間如何隨著資料量增加而擴充，以及您需要管理基礎架構的程度。瞭解這些模式的運作方式，就能為專案選擇合適的模式，在簡易性、擴充性和成本之間取得平衡。

RAG Engine 提供兩種部署模式：無伺服器和 Spanner。你可以在兩種模式之間流暢切換。各模式中的資料會彼此隔離。

可用的部署模式

本節將說明 RAG Engine 的兩種部署模式：

無伺服器模式

如果您是初次使用 RAG Engine，建議選用無伺服器模式，這是最經濟實惠的做法。這項全代管、全球規模的企業級資料庫服務，可簡化所有資料庫佈建和擴充作業。

  • 適用對象：大多數使用者、快速上手，以及無縫擴充，不需管理基礎架構設定。
  • 主要功能：不需管理層級。這項功能會自動使用 RAG 代管的向量搜尋做為預設向量資料庫，提供簡化且立即可用的 RAG 體驗。

在無伺服器模式中，RAG 代管資料庫用於管理 RAG 業務營運及儲存 RAG 資源。這些資源包括 (但不限於) RagCorpus、RagFiles、RagMetadata、DataSchema 等，但無法再用於嵌入索引和向量搜尋。

使用者一律需要另外選擇不同的向量資料庫。在無伺服器模式下，RAG Engine 預設會在專案中佈建 Vector Search 2.0 集合，用於嵌入索引和向量搜尋。與 Spanner 模式相比，在專案中佈建向量搜尋 2.0，可讓您全面掌握及控管向量資料庫用量和費用。如需詳細比較，請參閱「Spanner 模式與無伺服器模式」一節。

Spanner 模式

Spanner 模式會分配專屬 Spanner 基礎架構，做為 RAG Engine 部署作業的基礎。如果工作負載需要特定法規遵循功能 (例如 CMEK)，或專屬、獨立的資料庫執行個體，這個選項就相當合適。如未明確選取模式，系統會預設為 Spanner 模式。

使用 Spanner 模式時，您必須選取效能級別來管理基礎架構：

  • 基本級別 (預設)：固定、符合成本效益、運算資源需求低的級別，適合實驗、小型資料集或對延遲不敏感的工作負載。
  • 「擴充規模」級別：提供正式環境等級的效能，並具備自動調度資源功能。適合有大量資料或易受效能影響的工作負載。

資料隔離和切換模式

只要目前部署模式沒有進行中的作業，您就能透過 RAG Engine 切換專案的部署模式。兩種模式下都可以有資料。不過，一次只能啟用一種模式，且不同部署模式之間的資料會嚴格隔離。

您可以將專案想像成有兩個完全獨立的後端，您建立的資源 (語料庫、匯入和上傳的檔案，以及剖析的嵌入項目) 會永久繫結至建立時啟用的部署模式。無論是直接或透過 Gemini 提出的檢索要求，也僅限於目前部署模式下的語料庫和檔案。切換模式時，系統不會將資料移至另一個模式，也不會刪除另一個模式中的資料。

流程圖：說明 RAG Engine 如何處理部署模式。統一 API 會將要求轉送至含有 RagCorpus A 和 B 的有效無伺服器模式後端，或含有 RagCorpus C 的無效 Spanner 模式後端。這表示當各自的模式未啟用時，資料會受到嚴格隔離和隱藏。

如圖表所示：

  • 統一 API：您可以使用完全相同的 Agent Platform RAG API 建立及管理資源。API 會自動將要求轉送至與有效部署模式相關聯的後端。
  • 可見度：如果無伺服器模式處於啟用狀態，應用程式只能查看 RagCorpus A 和 B，並與其互動。RagCorpus C 是在 Spanner 模式下建立，因此會安全儲存，但會完全隱藏，應用程式無法存取，直到您將專案模式切換回 Spanner 為止。
  • 不會遺失資料：切換模式不會刪除資料。只會變更 API 查看的「後端」。

管理部署模式

部署模式是專案層級設定。您可以使用 GetRagEngineConfig 和 UpdateRagEngineConfig API 查看或變更目前的模式。如要瞭解如何切換部署模式，以及如何為 Spanner 模式選擇合適的級別，請參閱「切換模式」頁面。

刪除資料並停止計費

由於資料在不同模式之間會相互隔離，因此清理資源和停止計費的程序會因資料所在位置而略有不同。

  • 刪除無伺服器資料：確認使用中模式設為「無伺服器」。呼叫 ListRagCorpora API 查看資源，然後使用 DeleteRagCorpus API 手動刪除各個語料庫。
  • 刪除 Spanner 資料 (取消佈建)：確認使用中模式設為 Spanner。更新 RagEngineConfig，並將 Spanner 級別設為 Unprovisioned。這項操作會立即刪除專屬 Spanner 執行個體和其中所有 RAG 資料，並停止 Spanner 模式的所有相關計費。注意：使用未佈建級別刪除的資料無法復原。

Spanner 模式與無伺服器模式

功能 無伺服器模式 Spanner 模式
費用
  • 資源管理和自動化調度管理功能免付費。
  • 向量資料庫會根據使用者選擇直接計費。
  • 價格取決於所選級別。包含資源管理和自動化調度管理。
  • 如果選擇 RagManagedDb 做為向量資料庫，所有語料庫的向量資料庫費用都會涵蓋在內。
  • 其餘語料庫則會根據使用者選擇的資料庫，直接向向量資料庫收費。
資源調度 全代管自動調度資源 必須設定級別，但提供自動調度資源級別。
隔離 儲存空間未隔離 提供儲存空間和效能隔離。
CMEK 目前沒有 CMEK 提供 CMEK 支援
VPC 安全控管機制 支援 支援
支援的向量資料庫
  • Managed Vector Search 2.0 (預設)
  • Pinecone
  • Weaviate
  • RagManagedDb (預設)
  • Managed Vector Search 2.0
  • Vector Search 1.0
  • Pinecone
  • Weaviate

後續步驟