监控滥用行为

如 Google Cloud Platform 服务条款的第 4.3 条“生成式 AI 安全和滥用”中所述，Google 在向客户提供生成式 AI 服务时，会使用以下流程来检测潜在的滥用行为以及违反其使用限制政策和限制使用政策的行为。

  • 自动检测：Google 使用自动安全分类器来检测 潜在的滥用行为和违规行为。如需详细了解安全 分类器的工作原理，请参阅配置安全 过滤条件。

  • 提示日志记录：如果自动安全分类器检测到可疑 活动，需要进一步调查客户是否 违反了我们的政策，Google 可能会记录客户提示，但仅用于 检查是否违反了《使用限制政策》或《限制使用政策》。 这些数据不会用于训练或微调任何 AI/机器学习模型。这些数据会安全地存储在客户为其项目选择的同一单区域或 多区域中，最长存储期限为 90 天，并遵循诸如数据驻留、Access Transparency 和 VPC Service Controls 等保障措施。Google Cloud 出于滥用行为监控目的而记录的提示日志不会使用客户管理的加密密钥 (CMEK) 进行加密。客户也可以选择申请停用滥用行为日志记录功能（请参阅下文）。

    • 操作：获得授权的 Google 员工可能会评估被标记的提示 并且可能会与客户联系以确认问题。如果未能解决 此类行为（或者此类行为反复出现亦或属于严重滥用行为），可能会导致客户对 Gemini Enterprise Agent Platform 或 Google Cloud 服务的访问权限被暂停或 终止。

    • 适用服务：Google 的生成式 AI 服务。

    • 适用客户：只有使用受 Google Cloud Platform 服务条款约束的客户才需要记录提示以监控滥用行为。 Google Cloud 这意味着，默认情况下，签订了 主协议 Google Cloud 的客户无需记录提示以监控 滥用行为。

    • 客户选择停用：客户可以填写 此表单来申请豁免。如果获得批准， Google 将不会存储与获批 Google Cloud 账号关联的任何提示。

高级 AI 安全

如《高级 AI 安全 附录》中所述， Google Cloud 针对指定为“高级 AI”的模型， 已实施更严格的滥用行为监控系统。

  • 提示和响应日志记录：所有提示和响应都将记录下来， 并安全地存储最多 30 天，仅用于监控 滥用行为。这些数据不会用于训练或微调任何 AI/机器学习模型。 这些数据存储在客户为其项目选择的同一单区域或 多区域中，并遵循 Google Cloud 诸如数据驻留、Access Transparency 和 VPC Service Controls 等保障措施。出于滥用行为监控目的而记录的提示和响应日志不会使用客户管理的加密密钥 (CMEK) 进行加密。使用某些高级 AI 功能时，可能无法选择停用提示-响应日志记录。 如需了解详情，请与您的客户支持团队联系。

  • 自动调查：Google 会部署自动调查工具（ 包括安全分类器）来分析记录的数据，并检测潜在的 滥用行为和违规行为。

  • 操作：获得授权的 Google 员工可能会评估被标记的提示，并且 可能会与客户联系以确认问题。如果未能解决此类 行为（或者此类行为反复出现亦或属于严重滥用行为），可能会导致客户对 Gemini Enterprise Agent Platform 或 Google Cloud 服务的访问权限被暂停或 终止。

  • 适用服务：指定为“高级 AI”的模型和功能， 包括：

    • Claude Mythos（所有版本）
    • Claude Fable（所有版本）
    • Claude Sonnet >=5 和 Claude Opus >=4.7（当用于 Anthropic 的 网络验证 计划涵盖的高风险双重用途 或禁止用途时）

  • 客户选择停用：使用 某些高级 AI 功能时，可能无法实现零数据保留。如需了解详情，请与您的客户支持团队联系。如需了解如何管理附录的接受情况，请参阅以下部分。

在项目中启用高级 AI 模型之前，需要针对每个项目同意《高级 AI 安全附录》一次。在启用任何高级 AI 模型之前，您需要在 控制台中通过 Google Cloud Model Garden 同意该附录。

同意该附录的用户必须确认其代表组织行事，并且拥有必要的权限来约束客户履行附录中的义务。如需同意该附录，用户必须拥有 aiplatform.consents.update 权限，该权限包含在 aiplatform.admin 角色中。

管理《高级 AI 安全附录》

如需阻止用户同意此附录，管理员可以：

合作伙伴专用条款

在 Gemini Enterprise Agent Platform 上使用合作伙伴模型时，必须遵守合作伙伴专用条款。

Anthropic

在 Gemini Enterprise Agent Platform 上使用 Anthropic 模型时，必须遵守 Anthropic 的 商业服务条款 或与 Anthropic 达成的其他适用协议，其中使用 Anthropic 高级 AI 时必须遵守 Anthropic 服务专用条款的 F 部分。本页介绍的滥用行为监控系统用于确保遵守这些条款。

数据保留

对于 Google Cloud 上的 Anthropic Claude Fable 5 和 Mythos 5，提示和响应最多保留 30 天。如需使用 Google Cloud 上的 Claude Fable 5 和 Mythos 5，您必须按照 Anthropic 的要求启用与 Anthropic 共享此数据以进行滥用行为监控的功能。

后续步骤