检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
工具介绍及准备工作 本章节主要介绍针对LLaMAFactory开发的测试工具benchmark，支持训练、性能对比、下游任务评测、loss和下游任务对比能力。对比结果以excel文件呈现。方便用户验证发布模型的质量。所有配置都通过yaml文件设置，用户查看默认yaml文件即可知道最优性能的配置。
分离部署 PD分离部署使用说明 父主题： 推理关键特性使用
Prefix Caching 什么是Prefix Caching 在LLM推理应用中，经常会面临具有长system prompt的场景以及多轮对话的场景。长system prompt的场景，system prompt在不同的请求中但是相同的，KV Cache的计算也是相同的；多轮
投机推理 投机推理使用说明 Eagle投机小模型训练 父主题： 推理关键特性使用
multi-lora 什么是multi-lora LoRA（Low-Rank Adaptation）是一种适用于大模型的轻量化微调技术方法。原理是通过在模型层中引入低秩矩阵，将大模型的权重降维处理，来实现高效的模型适配。相比于传统的微调方法，LoRA不仅能大幅减少所需的训练参数，
工具介绍及准备工作 本章节主要介绍针对ModelLink开发的测试工具benchmark，支持训练、性能对比、下游任务评测、loss和下游任务对比能力。对比结果以excel文件呈现。方便用户验证发布模型的质量。所有配置都通过yaml文件设置，用户查看默认yaml文件即可知道最优性能的配置。
录制Profiling Ascend PyTorch Profiler是针对PyTorch框架开发的性能数据采集和解析工具，通过在PyTorch训练脚本中插入Ascend PyTorch Profiler接口，执行训练的同时采集性能数据，完成训练后直接输出可视化的性能数据文件，提升了性能分析效率。
支持的模型列表 模型列表分为表1 大语言模型列表和表2 多模态模型列表，详细如下。 表1 支持的大语言模型列表和权重获取地址 模型参数量 是否适配MindSpeed-LLM 是否适配Llama-Factory 是否适配VeRL 开源权重文件获取地址 llama3.1-8b √ √
准备镜像 镜像可分为使用基础镜像、DockerFile制作后的训练镜像（二选一），使用Dockerfile制作后的训练镜像比使用基础镜像多了步骤：DockerFile制作训练镜像。 详细步骤 创建镜像组织：在SWR服务页面创建镜像组织。 图1 创建镜像组织 登录ECS服务器: 根据2
执行LoRA微调训练任务 Step1 上传训练权重文件和数据集 如果在准备代码和数据阶段已经上传权重文件和数据集到容器中，可以忽略此步骤。 如果未上传训练权重文件和数据集到容器中，具体参考上传代码和权重文件到工作环境和上传数据到指定目录章节完成。训练脚本中会自动执行训练前的权重转换操作和数据处理操作。
常见错误原因和解决方法 显存溢出错误 网卡名称错误 保存ckpt时超时报错 Git下载代码时报错 父主题： 主流开源大模型基于Lite Server适配ModelLink PyTorch NPU训练指导（6.3.908）
常见错误原因和解决方法 显存溢出错误 网卡名称错误 保存ckpt时超时报错 Git下载代码时报错 父主题： 主流开源大模型基于Lite Server适配ModelLink PyTorch NPU训练指导（6.3.909）
sfsturbo:shares:addShareNic：此策略项表示sfsturbo创建网卡的权限。 sfsturbo:shares:deleteShareNic：此策略项表示sfsturbo删除网卡的权限。 sfsturbo:shares:showShareNic：此策略项表示sfsturbo显示网卡详情的权限。
支持的模型列表 表1 支持的大语言模型列表和权重获取地址 序号 模型名称 是否支持fp16/bf16推理 是否支持W4A16量化 是否支持W8A8量化 是否支持W8A16量化 是否支持 kv-cache-int8量化 开源权重获取地址 1 llama-7b √ √ √ √ √ https://huggingface
工具介绍及准备工作 本章节主要介绍针对LLaMAFactory开发的测试工具benchmark，支持训练、性能对比、下游任务评测、loss和下游任务对比能力。对比结果以excel文件呈现。方便用户验证发布模型的质量。所有配置都通过yaml文件设置，用户查看默认yaml文件即可知道最优性能的配置。
支持的模型列表 模型列表分为表1 大语言模型列表和表2 多模态模型列表，详细如下。 表1 支持的大语言模型列表和权重获取地址 模型参数量 是否适配MindSpeed-LLM 是否适配Llama-Factory 开源权重文件获取地址 llama3.1-8b √ √ https://huggingface
准备镜像 镜像可分为使用基础镜像、DockerFile制作后的训练镜像（二选一），使用Dockerfile制作后的训练镜像比使用基础镜像多了步骤：DockerFile制作训练镜像。 详细步骤 创建镜像组织：在SWR服务页面创建镜像组织。 图1 创建镜像组织 登录ECS服务器: 根据2
录制Profiling Ascend PyTorch Profiler是针对PyTorch框架开发的性能数据采集和解析工具，通过在PyTorch训练脚本中插入Ascend PyTorch Profiler接口，执行训练的同时采集性能数据，完成训练后直接输出可视化的性能数据文件，提升了性能分析效率。
SFT全参微调训练任务 Step1 上传训练权重文件和数据集 如果在准备代码和数据阶段已经上传权重文件和数据集到容器中，可以忽略此步骤。 如果未上传训练权重文件和数据集到容器中，具体参考上传代码和权重文件到工作环境和上传数据到指定目录章节完成。训练脚本中会自动执行训练前的权重转换操作和数据处理操作。
常见错误原因和解决方法 显存溢出错误 网卡名称错误 保存ckpt时超时报错 Git下载代码时报错 父主题： 主流开源大模型基于Lite Server适配ModelLink PyTorch NPU训练指导（6.3.907）
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
