创建标准集群以运行容器工作负载

本文档介绍了如何在 Google Distributed Cloud (GDC) 气隙区域中创建标准 Kubernetes 集群。标准集群提供项目范围、高度可配置的 Kubernetes 集群,其中包含一组最少的内置托管服务。与共享集群相比,标准集群在服务配置方面具有更高的灵活性,但也需要更多的管理开销。如需详细了解标准集群,请参阅 Kubernetes 集群配置。

标准集群是 可用区级资源 ,无法跨多个可用区。如需在多可用区环境中运行集群,您必须在每个可用区中手动创建集群。

本文档面向应用运维人员组内的应用开发者等受众群体,他们负责管理组织内的容器工作负载。如需了解详情,请参阅 GDC 网闸隔离配置文档的受众群体。

准备工作

如需创建标准集群,请申请必要的权限并准备环境。

申请 IAM 角色

请与组织 IAM 管理员联系,以授予您以下角色:

  • Project IAM Admin (project-iam-admin):向其他用户授予在标准集群中管理访问权限所需的角色。
  • Standard Cluster Admin (standard-cluster-admin):在项目中创建标准集群。

这些角色绑定到您的项目命名空间。

准备环境

  • 验证您是否已进行适当的设置,以便访问和管理标准集群。如需了解详情,请参阅 管理对标准集群的访问权限。
  • 生成可用区 API 服务器的 kubeconfig 文件以托管您的集群。 将环境变量 MANAGEMENT_API_SERVER 设置为 kubeconfig 路径。如需了解详情,请参阅 可用区管理 API 服务器资源。
  • 查看集群 限制以考虑 资源。

规划 Pod CIDR 地址块

如需为工作负载分配大小合适的 Pod CIDR 地址块,您必须先计算 Kubernetes 集群所需的 IP 地址数量,然后再创建集群。创建集群后,大多数网络参数都无法更改。

Kubernetes 集群在分配 IP 地址时遵循以下逻辑:

  • Kubernetes 为每个节点分配一个包含 256 个地址的 /24 CIDR 块。此数量符合 Kubernetes 集群中每个节点的默认 Pod 数上限 (110)。
  • 分配给节点的 CIDR 块的大小取决于每个节点的 Pod 数上限值。
  • 该地址块包含的地址数量始终至少是每个节点的 Pod 数上限的两倍。

请参阅以下示例,了解如何计算默认值“每个节点的掩码大小= /24”,以容纳 110 个 Pod:

Maximum pods per node = 110
Total number of IP addresses required = 2 * 110 = 220

Per node mask size = /24
Number of IP addresses in a /24 = 2(32 - 24) = 256

根据所需的节点数,确定要为 Kubernetes 集群配置的所需 Pod CIDR 掩码。在配置 CIDR 范围时,请规划将来向集群添加节点 :

  Total number of nodes supported = 2(Per node mask size - pod CIDR mask)

假设默认的“每个节点的掩码大小= /24”,请参阅以下 表格,该表格将 Pod CIDR 掩码映射到支持的节点数。

Pod CIDR 掩码 计算: 2(每个节点的掩码大小 - CIDR 掩码) 支持的节点数上限(包括控制平面 节点)
/21 2(24 - 21) 8
/20 2(24-20) 16
/19 2(24 - 19) 32
/18 2(24 - 18) 64

计算 Kubernetes 集群的 Pod CIDR 地址块后,请在下一部分中将其配置为集群创建工作流的一部分。

创建标准集群

如需创建标准集群,请完成以下步骤:

控制台

  1. 在项目选择器中, 选择您的项目。

    标准集群是项目范围的资源。如果您选择组织,则会创建共享集群,该集群是组织范围的资源。如需了解详情,请参阅 资源层次结构。

  2. 在导航菜单中,依次选择 Kubernetes Engine > 集群。

  3. 点击创建集群 。

  4. 在名称 字段中,指定集群的名称。

  5. 选择要在其中创建集群的可用区。

  6. 选择集群的 Kubernetes 版本。

  7. 点击下一步 。

  8. 为集群配置投放网络设置。创建集群后,您将无法更改这些投放网络设置。Kubernetes 集群的默认且唯一受支持的互联网协议是互联网协议版本 4 (IPv4)。

    1. 如果您想创建专用负载均衡器节点,请输入要创建的 节点数。默认情况下,您会收到零个节点,并且负载均衡器流量会通过控制平面节点运行。

    2. 选择要使用的 Service CIDR (无类别域间路由)。 系统会从此范围为已部署的服务(例如负载均衡器)分配 IP 地址。

    3. 选择要使用的 Pod CIDR 。集群会从此范围为您的 Pod 和虚拟机分配 IP 地址。

    4. 点击下一步 。

  9. 查看为集群自动生成的默认节点池的详细信息。点击 修改 以修改 默认节点池。

  10. 如需创建其他节点池,请选择添加节点池 。修改默认节点池或添加新节点池时,您可以使用以下选项对其进行自定义:

    1. 为节点池分配名称。创建节点池后,您无法修改名称。
    2. 指定要在节点池中创建的工作器节点数。
    3. 选择最符合您的工作负载要求的机器类。查看以下设置的列表:

      • 机器类型
      • CPU
      • 内存
    4. 点击保存 。

  11. 点击创建 以创建集群。

创建标准集群最多可能需要 60 分钟才能完成。

API

  1. 创建 Cluster 自定义资源,并将其另存为 YAML 文件,例如 cluster.yaml:

    apiVersion: cluster.gdc.goog/v1
    kind: Cluster
    metadata:
      name: CLUSTER_NAME
      namespace: PROJECT_NAME
    spec:
      clusterNetwork:
        podCIDRSize: POD_CIDR
        serviceCIDRSize: SERVICE_CIDR
      initialVersion:
        kubernetesVersion: KUBERNETES_VERSION
      nodePools:
      - machineTypeName: MACHINE_TYPE
        name: NODE_POOL_NAME
        nodeCount: NUMBER_OF_WORKER_NODES
        taints: TAINTS
        labels: LABELS
        acceleratorOptions:
          gpuPartitionScheme: GPU_PARTITION_SCHEME
      releaseChannel:
        channel: UNSPECIFIED
    

    替换以下内容:

    • CLUSTER_NAME:集群的名称。集群名称不得以 -system 结尾。-system 后缀是为 GDC 创建的集群保留的。
    • PROJECT_NAME:要在其中创建集群的项目的名称。
    • POD_CIDR:分配 Pod 虚拟 IP 地址的网络范围的大小。如果未设置,则使用默认值 21。
    • SERVICE_CIDR:分配服务虚拟 IP 地址的网络范围的大小。如果未设置,则使用默认值 23。
    • KUBERNETES_VERSION:集群的 Kubernetes 版本,例如 1.26.5-gke.2100。如需列出可供配置的可用 Kubernetes 版本,请参阅 列出集群的可用 Kubernetes 版本。
    • MACHINE_TYPE:节点池的工作器节点的机器类型。查看可供配置的 可用机器类型 。
    • NODE_POOL_NAME:节点池的名称。
    • NUMBER_OF_WORKER_NODES:要在节点池中预配的工作器节点数。
    • TAINTS:要应用于此节点池的节点的污点。这是一个可选字段。
    • LABELS:要应用于此节点池的节点的标签。它包含键值对列表。这是一个可选字段。
    • GPU_PARTITION_SCHEME:GPU 分区方案(如果您运行 GPU 工作负载)。这是一个可选字段。 例如,mixed-2。如果未设置此字段,则不会对 GPU 进行分区。如需详细了解可用的多实例 GPU (MIG) 配置文件,请参阅 支持的 MIG 配置文件。
  2. 将自定义资源应用于您的 GDC 实例:

    kubectl apply -f cluster.yaml --kubeconfig MANAGEMENT_API_SERVER
    

    将 MANAGEMENT_API_SERVER 替换为可用区 API 服务器的 kubeconfig 路径。如果您尚未为目标可用区中的 API 服务器生成 kubeconfig 文件 ,请参阅 登录。

创建标准集群最多可能需要 60 分钟才能完成。

Terraform

  1. 在 Terraform 配置文件中,插入以下代码段:

    provider "kubernetes" {
      config_path = "MANAGEMENT_API_SERVER"
    }
    
    resource "kubernetes_manifest" "cluster-create" {
      manifest = {
        "apiVersion" = "cluster.gdc.goog/v1"
        "kind" = "Cluster"
        "metadata" = {
          "name" = "CLUSTER_NAME"
          "namespace" = "PROJECT_NAME"
        }
        "spec" = {
          "clusterNetwork" = {
            "podCIDRSize" = "POD_CIDR"
            "serviceCIDRSize" = "SERVICE_CIDR"
          }
          "initialVersion" = {
            "kubernetesVersion" = "KUBERNETES_VERSION"
          }
          "nodePools" = [{
            "machineTypeName" = "MACHINE_TYPE"
            "name" = "NODE_POOL_NAME"
            "nodeCount" = "NUMBER_OF_WORKER_NODES"
            "taints" = "TAINTS"
            "labels" = "LABELS"
            "acceleratorOptions" = {
              "gpuPartitionScheme" = "GPU_PARTITION_SCHEME"
            }
          }]
          "releaseChannel" = {
            "channel" = "UNSPECIFIED"
          }
        }
      }
    }
    

    替换以下内容:

    • MANAGEMENT_API_SERVER:可用区 API 服务器的 kubeconfig 路径。如果您尚未为 目标可用区中的 API 服务器生成 kubeconfig 文件,请参阅 登录。
    • CLUSTER_NAME:集群的名称。集群名称不得以 -system 结尾。-system 后缀是为 GDC 创建的集群保留的。
    • PROJECT_NAME:要在其中创建集群的项目的名称。
    • POD_CIDR:分配 Pod 虚拟 IP 地址的网络范围的大小。如果未设置,则使用默认值 21。
    • SERVICE_CIDR:分配服务虚拟 IP 地址的网络范围的大小。如果未设置,则使用默认值 23。
    • KUBERNETES_VERSION:集群的 Kubernetes 版本,例如 1.26.5-gke.2100。如需列出可供配置的可用 Kubernetes 版本,请参阅 列出集群的可用 Kubernetes 版本。
    • MACHINE_TYPE:节点池的工作器节点的机器类型。查看可供配置的 可用机器类型 。
    • NODE_POOL_NAME:节点池的名称。
    • NUMBER_OF_WORKER_NODES:要在节点池中预配的工作器节点数。
    • TAINTS:要应用于此节点池的节点的污点。这是一个可选字段。
    • LABELS:要应用于此节点池的节点的标签。它包含键值对列表。这是一个可选字段。
    • GPU_PARTITION_SCHEME:GPU 分区方案(如果您运行 GPU 工作负载)。这是一个可选字段。 例如,mixed-2。如果未设置此字段,则不会对 GPU 进行分区。如需详细了解可用的多实例 GPU (MIG) 配置文件,请参阅 支持的 MIG 配置文件。
  2. 使用 Terraform 应用新的标准集群:

    terraform apply
    

创建标准集群最多可能需要 60 分钟才能完成。

后续步骤