首先需要安装Ascend的hdk驱动,在此不多赘述。

其次需要安装CANN。需要注意的是,CANN 8.5.0正式版的官方教程里声称te、hccl等pip包已经被弃用,有一步是卸载这些包。实测卸载之后会导致mindspore无法正常使用,且CANN官方docker镜像中保留了te等包,因此建议跳过这条卸载命令。

非最新版安装参考(来自sjw学长):

pta版本MindSpeed-LLM环境安装教程

msa版MindSpeed-LLM安装教程

在此基础之上,可以将其中的版本替换为下方所示:

MindSpore 2.8.0
MindSpeed-Core-MS r0.5.0
Msadapter 0.4.0
CANN 8.5.0
MindSpeed-LLM 2.3.0
MindSpeed-MM 2.3.0
Megatron 12.1

随后对于MindSpeed-MM的安装,参照MindSpeed-MM/docs/zh/pytorch/installation.md · Ascend/MindSpeed-MM – AtomGit | GitCode中的手动安装即可,装入与MindSpeed-LLM的同级目录。

未完待续。。。。。。。

Castronaut的头像

作者 Castronaut

行走在地狱边缘,狂舞于悬崖之巅。

发表回复