演讲主题

深度学习作业GPU利用率分析与提升

深度学习在众多智能软件应用中发挥着关键作用。企业开发人员在共享的多租户GPU深度学习平台上提交和运行深度学习作业，以有效地训练和测试模型。但是，某些作业对分配的 GPU 的利用率相当低，导致大量资源浪费并降低开发效率。我们通过对深度学习平台收集的真实作业对低 GPU 利用率问题进行了全面的实证研究，确定了常见的根本原因并提出了相应的非入侵性的通用修复方法，取得了不错的性能提升，同时设计了人工智能模型对GPU利用率进行建模和预测。