课程简介

随着大模型的发展，对算力的需求呈爆发式增长。算力逐渐走向大规模、高性能、高效能。K8s 等云原生技术，解决了大模型训练过程中的资源管理与调度、弹性扩展、容错及高可用难题，成为大模型发展的关键支撑之一。

 OpenAI GPT系列和腾讯混元等大模型借助k8s实现了超大规模集群的并行训练，极大地提高了大模型训练效率和稳定性。

本次分享将深度剖析腾讯 TKE 及大模型团队针对超大规模集群可用性、单集群算力瓶颈等一系列挑战所采取的解决方案及最佳实践。

课程收益

1、帮助学员了解大规模k8s集群的一系列致命故障风险和解决方案、最佳实践

2、帮助学员了解Kubernetes多集群管理的实践与挑战

3、帮助企业洞察未来Kubernetes在AI领域的发展趋势

受众人群

企业管理者，IT行业从业者及其他对大规模k8s集群感兴趣的人员

课程周期

3H

课程大纲

1、大模型对算力的挑战与k8s的解决方案

2、大规模k8s可用性风险来源与解决方案

3、如何解决单集群的算力瓶颈

4、腾讯混元基于TKE大模型训练的实践案例

5、QA