课程简介
随着人工智能领域的迅速发展,AI 模型开发、部署越来越多采用云原生技术,AI 模型的运行稳定性、推理性能和部署效率日益成为影响其在实际应用中价值的关键因素。
企业使用云原生技术解决 AI 模型的部署和运行时问题,成为了 AI 模型在生产落地的重要挑战。通过提升 AI 模型推理的性能、易用性和稳定性,均可以更大程度释放 AI 模型对企业的价值。
本次分享火山引擎通过云原生技术解决 AI 模型运行稳定性、推理性能和部署效率问题,重点分享 GPU 检测自愈、推理性能测试和性能优化、应用托管等技术和产品,为企业解决系统性的云原生 AI 技术方案。
课程收益
1、帮助学员了解云原生 AI 的挑战和解决方案,提升 AI 模型在生产环境中的价值和影响力;
2、系统性分享云原生 AI 面对的挑战,推动AI与云原生技术深度结合;
3、帮助企业结合存储访问加速、推理性能测试和优化技术,提升模型推理性能
受众人群
企业管理者,IT行业从业者及其他对云原生AI感兴趣的人员
课程周期
3H
课程大纲
1、AI 模型运行稳定性、推理性能和部署效率的挑战
2、GPU 故障场景、模型推理和部署流程分析
3、云原生 AI 解决方案
4、QA