本页面将引导您完成使用 Agent Platform API 对 Gemini 模型进行强化学习微调的端到端工作流:创建调优作业、检查其状态、检索调优后的模型端点,以及针对该端点运行推理。如需在 Google Cloud 控制台中完成这些任务,请参阅 Google Cloud 控制台快速入门。
在开始之前,请参阅强化学习微调简介,大致了解该功能、支持的模型和受支持的区域。
创建强化学习微调作业
通过向 tuningJobs.create 端点发送 POST 请求来创建强化学习微调作业。如需查看完整的请求架构和所有可配置字段,请参阅强化学习微调作业页面。
本页面中的示例使用 us-central1 作为调优区域。生成的调优模型通过 us 多区域端点提供。如需查看支持的调优和传送区域的完整列表,请参阅支持的模型和区域部分。
curl -X POST \
-H "Authorization: Bearer $(gcloud auth application-default print-access-token)" \
-H "Content-Type: application/json" \
"https://us-central1-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/us-central1/tuningJobs" \
-d \
$'{
"tunedModelDisplayName": "dai-image-test",
"baseModel": "gemini-3.5-flash",
"reinforcementTuningSpec": {
"trainingDatasetUri": "gs://path/to/my/training_dataset.jsonl",
"validationDatasetUri": "gs://path/to/my/eval_dataset.jsonl",
"hyperParameters": {
"epochCount":15,
"learningRateMultiplier":1.0,
"samplesPerPrompt":16,
"adapterSize":"ADAPTER_SIZE_SIXTEEN",
"maxOutputTokens":32768,
"batchSize":32,
"evaluateInterval":5,
"checkpointInterval":5,
"thinkingLevel":"HIGH"
},
"singleRewardConfig": {
"rewardName": "my_reward_function_name",
"parseResponseConfig": {"parseType":"IDENTITY"},
"cloudRunRewardScorer": {
"cloudRunUri":"https://my.cloud.run.uri"
}
}
}
}'
替换以下内容:
<var>PROJECT_ID</var>:您的 Google Cloud 项目 ID。
检查强化学习微调作业状态
您可以在 Google Cloud 控制台的模型 > 调优页面上监控正在运行的强化学习微调作业的进度、性能和质量。每个调优作业都有一个专用监控视图,该视图通过训练和评估奖励、生成长度和其他调优指标的图表来显示底层调优状态。如需查看发出的指标的完整列表以及如何解读这些指标,请参阅指标和监控页面。
训练时间
训练时间受以下因素影响:
Gemini 强化学习微调作业可能需要运行数小时到数天,具体取决于您的设置。
获取经过调优的模型端点
调优作业达到 JOB_STATE_SUCCEEDED 后,通过发出 tuningJobs.get 请求并读取响应的 tunedModel.endpoint 字段,检索已部署的调优模型端点。
curl -X GET \
-H "Authorization: Bearer $(gcloud auth application-default print-access-token)" \
"https://us-central1-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/us-central1/tuningJobs/TUNING_JOB_ID"
替换以下内容:
<var>PROJECT_ID</var>:您的 Google Cloud 项目 ID。<var>TUNING_JOB_ID</var>:调优作业的 ID。
示例响应(缩写):
{
"name": "projects/{PROJECT_ID}/locations/us-central1/tuningJobs/{TUNING_JOB_ID}",
"tunedModelDisplayName": "my-rl-tuned-model",
"state": "JOB_STATE_SUCCEEDED",
"tunedModel": {
"model": "projects/{PROJECT_ID}/locations/us-central1/models/{MODEL_ID}",
"endpoint": "projects/{PROJECT_ID}/locations/us/endpoints/{ENDPOINT_ID}"
},
"reinforcementTuningSpec": { ... }
}
调优作业成功后,响应中会显示最后一个检查点的 endpoint。
在调优模型端点上运行推理
调整后的模型通过返回的端点上的标准 generateContent API 提供预测。如果调优作业在 us-central1 中运行,则调优后的模型将从 us 多区域端点提供。
curl -X POST \
-H "Authorization: Bearer $(gcloud auth application-default print-access-token)" \
-H "Content-Type: application/json" \
"https://aiplatform.us.rep.googleapis.com/v1beta1/projects/PROJECT_ID/locations/us/endpoints/ENDPOINT_ID:generateContent" \
-d \
$'{
"contents": [
{
"role": "user",
"parts": [
{ "text": "Why is the sky blue?" }
]
}
]
}'
替换以下内容:
<var>PROJECT_ID</var>:您的 Google Cloud 项目 ID。<var>ENDPOINT_ID</var>:GetTuningJob响应的tunedModel.endpoint字段中返回的端点 ID。
后续步骤
- 详细了解强化学习微调作业。
- 探索支持的奖励函数。
- 为强化学习配置超参数。
- 了解如何跟踪指标和监控。
- 尝试Google Cloud 控制台快速入门,使用 Google Cloud 控制台创建调优作业。