由于微服务通常是以容器的形式实现的,因此容器编排和资源管理平台被用于服务的部署、运维和维护。

一个典型的协调和资源管理平台由各种逻辑(形成抽象层)和物理工件组成,用于部署容器。例如,在 Kubernetes 中,容器在最小的部署单元内运行,称为 Pod。一个 Pod 理论上可以承载一组容器,但通常情况下,一个 Pod 内只运行一个容器。一组 Pod 被定义在所谓的节点内,节点可以是物理机或虚拟机(VM)。一组节点构成了一个集群。通常情况下,需要单个微服务的多个实例来分配工作负载,以达到预期的性能水平。集群是一个资源池(节点),用于分配微服务的工作负载。使用的技术之一是横向扩展,即访问频率较高的微服务被分配更多的实例或分配到具有更多资源(如 CPU 和 / 或内存)的节点。