云原生

集群、系统与工程排障

1. Kubernetes 中 Pod、Deployment、StatefulSet、Service、Ingress、HPA 分别解决什么问题？
2. Kubernetes 如何调度 GPU？requests/limits、MIG、优先级和抢占如何配合？
3. 容器和虚拟机的隔离边界有什么区别？namespace、cgroup、overlayfs 分别做什么？
4. Ray、Slurm、Volcano 等调度系统的定位和核心机制是什么？
5. 模型服务出现 OOM、P99 飙升、吞吐下降时，如何建立排障路径？
6. 如何设计模型服务的健康检查、熔断、限流、灰度和回滚？
7. 如何建立训练和推理的 SLO、指标、日志、trace 与告警体系？
8. 分布式 checkpoint 如何做到快速保存、恢复和容错？