- 资源:EvaluationRun
- EvaluationRun.EvaluationType
- EvaluationRun.EvaluationRunState
- EvaluationRun.Progress
- EvaluationRun.EvaluationRunSummary
- LatencyReport
- LatencyReport.ToolLatency
- LatencyReport.LatencyMetrics
- LatencyReport.CallbackLatency
- LatencyReport.GuardrailLatency
- LatencyReport.LlmCallLatency
- 方法
资源:EvaluationRun
评估运行是指评估执行中的所有评估结果。
| JSON 表示法 |
|---|
{ "name": string, "displayName": string, "evaluationResults": [ string ], "createTime": string, "initiatedBy": string, "appVersion": string, "appVersionDisplayName": string, "changelog": string, "changelogCreateTime": string, "evaluations": [ string ], "evaluationDataset": string, "evaluationType": enum ( |
| 字段 | |
|---|---|
name |
标识符。评估运行的唯一标识符。格式: |
displayName |
可选。评估运行的用户定义显示名称。默认值:“ |
evaluationResults[] |
仅限输出。相应运行作业的评估结果。格式: |
createTime |
仅限输出。评估运行的创建时间。 采用 RFC 3339 标准,生成的输出将始终进行 Z 规范化(即转换为 UTC 零时区格式并在末尾附加 Z),并使用 0、3、6 或 9 个小数位。不带“Z”的偏差时间也是可以接受的。示例: |
initiatedBy |
仅限输出。发起评估运行的用户。 |
appVersion |
仅限输出。要评估的应用版本。格式: |
appVersionDisplayName |
仅限输出。评估所针对的 |
changelog |
仅限输出。评估所针对的应用版本的更改日志。如果用户对最新版本/草稿运行评估,则会填充此字段。 |
changelogCreateTime |
仅限输出。评估所针对的应用版本对应的更改日志的创建时间。如果用户对最新版本/草稿运行评估,则会填充此字段。 采用 RFC 3339 标准,生成的输出将始终进行 Z 规范化(即转换为 UTC 零时区格式并在末尾附加 Z),并使用 0、3、6 或 9 个小数位。不带“Z”的偏差时间也是可以接受的。示例: |
evaluations[] |
仅限输出。相应运行中包含的评估。该列表可能包含任一类型的评估。此字段与 |
evaluationDataset |
仅限输出。相应运行所关联的评估数据集。此字段与 |
evaluationType |
仅限输出。相应运行中的评估类型。 |
state |
仅限输出。评估运行的状态。 |
progress |
仅限输出。评估运行的进度。 |
config |
仅限输出。运行中使用的配置。 |
error |
仅限输出。已弃用:请改用 errorInfo。执行期间遇到错误。 |
errorInfo |
仅限输出。评估运行的错误信息。 |
evaluationRunSummaries |
仅限输出。从评估名称到 EvaluationRunSummary 的映射。 包含一系列 |
latencyReport |
仅限输出。评估运行的延迟报告。 |
runCount |
仅限输出。运行中评估的运行次数。 |
personaRunConfigs[] |
仅限输出。每次运行时使用的配置(按角色)。 |
optimizationConfig |
可选。在评估运行后运行优化步骤的配置。如果未设置,则不会运行优化步骤。 |
scheduledEvaluationRun |
仅限输出。创建相应评估运行的已安排的评估运行资源名称。仅当评估运行是由已安排的评估运行创建时,才设置此字段。格式: |
goldenRunMethod |
仅限输出。用于运行评估的方法。 |
operation |
仅限输出。创建相应评估运行的操作。格式: |
EvaluationRun.EvaluationType
相应运行中的评估类型。未来可能会添加其他值。
| 枚举 | |
|---|---|
EVALUATION_TYPE_UNSPECIFIED |
未指定评估类型。 |
GOLDEN |
黄金评估。 |
SCENARIO |
场景评估。 |
MIXED |
表示运行包含黄金评估和场景评估。 |
EvaluationRun.EvaluationRunState
评估运行的状态。
| 枚举 | |
|---|---|
EVALUATION_RUN_STATE_UNSPECIFIED |
未指定评估运行状态。 |
QUEUED |
表示评估运行已加入队列。 |
RUNNING |
评估运行正在运行。 |
COMPLETED |
评估运行已完成。 |
ERROR |
评估运行出错。 |
CANCELLED |
评估运行已取消。 |
EvaluationRun.Progress
评估运行的进度。
| JSON 表示法 |
|---|
{ "totalCount": integer, "failedCount": integer, "errorCount": integer, "completedCount": integer, "passedCount": integer, "cancelledCount": integer } |
| 字段 | |
|---|---|
totalCount |
仅限输出。相应运行中的评估结果总数。 |
failedCount |
仅限输出。结果为“失败”的已完成评估结果的数量。(EvaluationResult.execution_state 为 COMPLETED,且 EvaluationResult.evaluation_status 为 FAIL)。 |
errorCount |
仅限输出。未能执行的评估结果数量。(EvaluationResult.execution_state 为 ERROR)。 |
completedCount |
仅限输出。成功完成的评估结果数量。(EvaluationResult.execution_state 为 COMPLETED)。 |
passedCount |
仅限输出。结果为“通过”的已完成评估结果的数量。(EvaluationResult.execution_state 为 COMPLETED,且 EvaluationResult.evaluation_status 为 PASS)。 |
cancelledCount |
仅限输出。已取消的评估结果数量。(EvaluationResult.execution_state 为 CANCELLED)。 |
EvaluationRun.EvaluationRunSummary
包含评估运行中特定评估的通过和失败结果数量的摘要。
| JSON 表示法 |
|---|
{ "passedCount": integer, "failedCount": integer, "errorCount": integer } |
| 字段 | |
|---|---|
passedCount |
仅限输出。相应评估在此运行中的通过结果数。 |
failedCount |
仅限输出。相应评估在此运行中的失败结果数。 |
errorCount |
仅限输出。相应评估在此运行中的错误结果数。 |
LatencyReport
评估运行的延迟报告。
| JSON 表示法 |
|---|
{ "toolLatencies": [ { object ( |
| 字段 | |
|---|---|
toolLatencies[] |
仅限输出。无序列表。每种工具的延迟时间指标。 |
callbackLatencies[] |
仅限输出。无序列表。每个回调的延迟时间指标。 |
guardrailLatencies[] |
仅限输出。无序列表。每个安全措施的延迟时间指标。 |
llmCallLatencies[] |
仅限输出。无序列表。每次 LLM 调用的延迟时间指标。 |
sessionCount |
仅限输出。延迟时间报告中考虑的会话总数。 |
LatencyReport.ToolLatency
单个工具的延迟时间指标。
| JSON 表示法 |
|---|
{ "toolDisplayName": string, "latencyMetrics": { object ( |
| 字段 | |
|---|---|
toolDisplayName |
仅限输出。工具的显示名称。 |
latencyMetrics |
仅限输出。工具的延迟时间指标。 |
| 工具的标识符。以下是互斥字段的列表。在响应中,最多只能设置以下字段之一: | |
tool |
仅限输出。格式: |
toolsetTool |
仅限输出。工具集工具标识符。 |
| 互斥字段的结束。 | |
LatencyReport.LatencyMetrics
组件的延迟时间指标。
| JSON 表示法 |
|---|
{ "p50Latency": string, "p90Latency": string, "p99Latency": string, "callCount": integer } |
| 字段 | |
|---|---|
p50Latency |
仅限输出。第 50 百分位的延迟时间。 该时长以秒为单位,最多包含九个小数位,以“ |
p90Latency |
仅限输出。第 90 百分位的延迟时间。 该时长以秒为单位,最多包含九个小数位,以“ |
p99Latency |
仅限输出。第 99 百分位的延迟时间。 该时长以秒为单位,最多包含九个小数位,以“ |
callCount |
仅限输出。资源被调用的次数。 |
LatencyReport.CallbackLatency
单个回调的延迟时间指标。
| JSON 表示法 |
|---|
{
"stage": string,
"latencyMetrics": {
object ( |
| 字段 | |
|---|---|
stage |
仅限输出。回调的阶段。 |
latencyMetrics |
仅限输出。回调的延迟时间指标。 |
LatencyReport.GuardrailLatency
单个安全措施的延迟时间指标。
| JSON 表示法 |
|---|
{
"guardrail": string,
"guardrailDisplayName": string,
"latencyMetrics": {
object ( |
| 字段 | |
|---|---|
guardrail |
仅限输出。防护栏的名称。格式: |
guardrailDisplayName |
仅限输出。安全防护措施的显示名称。 |
latencyMetrics |
仅限输出。护栏的延迟时间指标。 |
LatencyReport.LlmCallLatency
单次 LLM 调用对应的延迟时间指标。
| JSON 表示法 |
|---|
{
"model": string,
"latencyMetrics": {
object ( |
| 字段 | |
|---|---|
model |
仅限输出。模型的名称。 |
latencyMetrics |
仅限输出。LLM 调用的延迟时间指标。 |
方法 |
|
|---|---|
|
删除评估运行。 |
|
导出评估运行。 |
|
获取指定评估运行的详细信息。 |
|
列出指定应用中的所有评估运行。 |