Agent Platform 代理的配額和系統限制

這份文件列出 Gemini Enterprise Agent Platform 適用的配額和系統限制。

• 「配額」有預設值，但通常可以申請調整。
• 「系統限制」是固定值，無法變更。

Google Cloud 使用配額來確保公平性，並減少資源使用量和可用性出現劇烈波動的情況。配額會限制 Google Cloud 專案可使用的Google Cloud 資源數量，且適用多種資源類型，包括軟硬體和網路元件。舉例來說，配額可能會限制能向特定服務發出的 API 呼叫次數、專案可同時使用的負載平衡器數量，或是可建立的專案數量。配額機制可防止服務過載，保障Google Cloud 使用者社群的權益，同時也有助於您管理自己的 Google Cloud 資源。

Cloud Quotas 系統具備以下功能：

• 監控 Google Cloud 產品和服務的用量
• 限制這些資源的用量
• 提供申請調整配額值和自動調整配額的管道

如果嘗試使用的資源量超過配額限制，系統通常會阻擋該資源的存取活動，您所執行的工作就會失敗。

配額的計算通常是以 Google Cloud 專案為基準。在某個專案中使用資源，不會影響另一個專案的可用配額。在同一個 Google Cloud 專案內，所有應用程式和 IP 位址會共用配額。

詳情請參閱「Cloud Quotas 總覽」。

配額

在各個區域中，特定專案的 Agent Platform 部署代理程式適用下列配額規定：

管理正式環境負載的配額

隨著流量增加，您可能需要要求提高特定 Agent Platform API 配額，以免發生 429 Resource Exhausted 錯誤。您可以主動設定執行階段和提高配額，確保 Agent Runtime 執行個體在生產負載下，仍能保持回應能力、擴充性和可靠性。

如要瞭解如何最佳化及擴充 Agent Runtime 效能，請參閱「最佳化及擴充 Agent Runtime 效能」。

請按照下列步驟估算尖峰配額需求：

1. 定義變數：

   • U：尖峰時段的並行使用者人數 (例如 250 人)。

   • X：每位使用者每分鐘的平均要求數 (例如 2)。

   • Y：每個要求產生的平均工作階段事件數 (例如，涉及多個工具呼叫的複雜鏈結為 12)。

2. 計算尖峰負載：

   • 計算每分鐘尖峰查詢次數 (QPM)：U * X

   • 計算每分鐘的尖峰工作階段事件數：尖峰 QPM * Y

3. 申請配額時預留緩衝空間：申請提高配額時，請在計算出的尖峰用量基礎上預留緩衝空間 (例如 50%)，以因應突如其來的用量高峰。

下表顯示 Agent Platform 的主要成效相關配額計算方式，並使用 peak concurrent users=250、average requests per user per minute=2 和 average session events generated per request=12 變數做為範例：

配額名稱	配額說明	基本計算 (尖峰)	建議值 (含 50% 緩衝區)
每分鐘查詢 Agent Engine (aiplatform.googleapis.com/reasoning_engine_service_query_requests)	每分鐘代理可接聽的 query 或 stream_query 通話總數。	250 users * 2 req/min = 500 QPM	500 * 1.5 = 750
每分鐘附加工作階段事件 (aiplatform.googleapis.com/session_event_append_requests)	所有進行中工作階段的輪流次數或事件數。 單一查詢可能會在鏈結中產生多個工作階段事件，例如： 呼叫 LLM。 LLM 回覆：使用工具。 執行工具。 使用工具回應呼叫 LLM。 LLM 提供最終回覆。	500 QPM * 12 events/req = 6,000	6,000 * 1.5 = 9,000
每分鐘工作階段寫入數 (aiplatform.googleapis.com/session_write_requests)	建立或更新工作階段資源的速率。這通常小於或等於查詢率。	通常 <= 尖峰 QPM (500)	通常 <= 查詢配額 (750)

要求調整配額

如要調整大部分配額，請使用 Google Cloud 控制台。詳情請參閱「要求調整配額」。

Agent Platform 快捷模式配額

Agent Platform 免費方案的快捷模式使用者可免費使用 Agent Platform 服務，但須遵守下列配額限制。如要進一步瞭解免費方案和快捷模式，請參閱 Agent Platform 快捷模式總覽。

在各個區域，透過 Agent Platform 部署的代理程式適用下列配額規定 (適用於特定快捷模式專案)：