Application Design Center 的生成式 AI RAG 與 Cloud SQL 範本可讓您部署生成式 AI 對話應用程式，該應用程式會使用檢索增強生成 (RAG) 技術，根據貴組織的資料建立基準回覆。您可以自訂預先設定的 Cloud Run、Vertex AI 和 Cloud SQL 向量資料庫元件，以符合工作負載，並將其部署為應用程式。
舉例來說，您可以實作這個範本，滿足下列業務需求：
| 範例 | 業務需求 | 實作 |
|---|---|---|
| 客服聊天機器人 | 公司需要提供即時客戶服務。 | 在 Cloud Run 託管對話介面。Vertex AI 會處理嵌入項目，並根據儲存在 Cloud SQL 的技術文件 (向量形式) 生成回覆。 |
| 內部人資助理 | 員工需要尋找福利、公司政策和內部程序等資訊。 | 在 Cloud Run 託管人資助理。員工查詢工具時，Vertex AI 會從 Cloud SQL 擷取相關政策資訊，生成準確且有來源依據的回覆。 |
| 法律文件研究員 | 法務團隊需要快速在龐大的文件存放區中，找出相關判例法或合約條款。 | 在 Cloud Run 託管研究入口網站。Vertex AI 會使用儲存在 Cloud SQL 中的法律文件 (以向量形式儲存)，總結相關判例，並找出合約中的特定用語。 |
| 語意產品搜尋 | 電子商務公司希望讓使用者能以自然語言描述搜尋產品，而非輸入精確的關鍵字。 | 在 Cloud Run 託管搜尋介面。Vertex AI 會處理使用者描述，並從 Cloud SQL 中以向量形式儲存的產品目錄，傳回語意最相關的產品。 |
架構
下圖顯示應用程式中的元件和連線：
以下是應用程式的要求處理流程：
- 將資料載入 Cloud SQL 中的 PostgreSQL 資料庫。
- Vertex AI 會建立文字欄位的嵌入項目，並以向量形式儲存在資料庫中。
- Cloud Load Balancing 前端會接收外部要求，並將流量分配至 Cloud Load Balancing 後端。
- Cloud Load Balancing 後端會將流量分配至 Cloud Run 前端服務。
- 前端服務會針對生成式 AI 呼叫與檢索服務通訊。
- 檢索服務會使用 Secret Manager，安全地存取 Vertex AI 和 Cloud SQL 所需的 API 金鑰和憑證。
- 檢索服務會將要求轉換為嵌入項目，並在 Cloud SQL 資料庫中搜尋相似的向量。
- 檢索服務會將搜尋結果和原始提示傳送至 Vertex AI，藉此建立回覆。
後續步驟
- 如要瞭解如何複製及自訂這個範本，請參閱「快速入門導覽課程：自訂及部署 Google 範本」。
- 設計應用程式範本，自行定義設定。
- 運用 Google Cloud 架構，找出一般架構最佳做法。