版权归原作者所有，如有侵权，请联系我们

NLP训练中的分布式算子研究

上传时间：2023-11-22 15:21

CCF计算机科普

自然语言处理

由中国计算机学会主办，提供优质的计算机科普内容。

视频简介：随着NLP语料越来越丰富，对于模型的训练效率提出了更高的要求。分布式训练，是当前NLP任务中面临的重要挑战。本次分享会介绍在分布式训练任务中的数据并行、模型并行、算子并行，以及和国产芯片生态的适配与融合。

内容资源由项目单位提供

请科普中国APP发表评论或查看更多评论