检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
序行为的执行环境,通常严格控制其中的程序所能访问的资源,在沙箱中,网络访问、对真实系统的访问、对输入设备的读取通常被禁止或是严格限制。从这个角度来说,沙箱属于虚拟化的一种。沙箱中的所有改动对操作系统不会造成任何损失。 运行环境:运行环境是指正式发布上线的真实环境。测试完成后,将应
云原生监控插件升级检查异常处理 检查项内容 在集群升级过程中,云原生监控插件从3.9.0之前的版本升级至3.9.0之后的版本升级时,存在兼容性问题,需检查该插件是否开启了grafana的开关。 解决方案 由于云原生监控插件在3.9.0之后的版本,不再聚合grafana的能力,因此
IP因鉴权失败次数过多导致被拉黑,请30分钟后重试,或联系管理员放通该IP。 500 1010001 Internal system error. 系统错误。 请联系客服处理。 1023001 Internal error. 内部错误。 1023002 Response timeout. 响应超时。
Abnormal:网络连接不正常 表15 sfsTurboStatus 参数 参数类型 描述 sfsId String SFS Turbo的ID。 name String SFS Turbo的名称。 status String 与SFS Turbo的连接状态信息。可选值如下: Active:SFS连通状态正常
ody前缀、Body后缀、页头、页脚和Cookie设置。该配置对此站点所有页面生效,例如在页头前缀中加入脚本或者设置style样式。 当前系统基于业务诉求,对开发者开发的脚本无法从机制上保证安全,需开发者自行保证安全。 父主题: 如何设置应用
网关 网关用来控制流程的执行流向,可理解为决策、判断。 排他网关 排他网关用来在流程中,实现一组分支的唯一决策。系统将按照“条件顺序”评估流出网关的分支,流程会执行第一个连线条件被评估为true(当多个条件为true时,将执行第一个决策)的分支,并且不再继续评估下面的分支。如果所
roZero上安装的应用是带版本号的,在库和管理菜单里的软件包管理可以看到应用版本,可以升级应用到最新版本。 版本号格式为“X.X.X”(系统默认版本号以0开头,界面只需要填写后两位即可)。 图1 库的版本管理 图2 软件包的版本管理 父主题: 工程能力
服务编排保存成功后,才可以进行运行,查看服务编排的执行结果是否符合预期,如果不符合预期,可进行调试。 运行服务编排 服务编排开发完成后,单击页面上方的,保存服务编排。 保存后,系统会对服务编排进行编译。如果有报错或者警告,请单击“确定”,在服务编排编辑器页面修改服务编排。修改后再次保存,直至无报错和警告。 保存成功后,单击页面上方的,运行服务编排。
to_tsquery将查询转换为tsquery数据类型。 to_tsquery([ config regconfig, ] querytext text) returns tsquery to_tsquery从querytext中创建一个tsquery,querytext必须由布尔运算符& (AND)、|
响应 响应样例 { “returnCode”:“1”, “returnMessage”:“执行成功信息” } 要素说明 参数名 参数类型 备注 returnCode String 返回状态值,取值包括如下: 0:代表成功。 1:代表失败。 returnMessage String
审批流查询(ApprovalRequests) 接口地址 /id/b1s/v1/ ApprovalRequests 接口API功能描述 查询审批流信息 调用方式 Get 请求地址参数 参数名称 参数说明 地址示例 () 在地址中加入(审批流唯一标识-Code)返回指定单据 /id
草稿单审批(ApprovalRequests) 接口地址 /id/b1s/v1/ApprovalRequests(x) 接口API功能描述 发送审批流审批结果 调用方式 patch 请求地址参数 参数名称 参数说明 地址示例 () 在地址中加入(审批流唯一标识-Code)审批指定单据
整数、枚举型和文本型全局变量添加 操作步骤 登录性能测试服务控制台,在左侧导航栏中选择“PerfTest测试工程”。 在待编辑PerfTest测试工程所在行,单击工程名称进入测试工程详情页面。 选择“测试用例”页签,单击“全局变量”。 通过手工输入方式添加全局变量。 单击“添加变量”。
部署组件到指定CCE集群 本章节指导您部署组件到使用前准备时已经创建好的指定环境(例如:env-cce-az1)下的CCE集群。 操作步骤 登录ServiceStage控制台。 单击“应用管理”,进入应用列表。 单击创建应用时创建的应用名称(例如:test-app)“操作”栏的“新增组件”。
训练中的权重转换说明 以 llama2-13b 举例,运行 0_pl_pretrain_13b.sh 脚本。脚本同样还会检查是否已经完成权重转换的过程。 若已完成权重转换,则直接执行预训练任务。若未进行权重转换,则会自动执行 scripts/llama2/2_convert_mg_hf
使用AWQ量化 AWQ(W4A16)量化方案能显著降低模型显存以及需要部署的卡数。降低小batch下的增量推理时延。支持AWQ量化的模型列表请参见表3。 本章节介绍如何使用AWQ量化工具实现推理量化。 量化方法:per-group Step1 模型量化 可以在Huggingfac
使用SmoothQuant量化 SmoothQuant(W8A8)量化方案能降低模型显存以及需要部署的卡数。也能同时降低首token时延和增量推理时延。支持SmoothQuant(W8A8)量化的模型列表请参见表3。 本章节介绍如何使用SmoothQuant量化工具实现推理量化。
准备数据(可选) 此小节为自定义数据集执行过程,如非自定义数据集此小节忽略。 本教程使用到的是LLamaFactory代码包自带数据集。您也可以自行准备数据集,目前支持alpaca格式和sharegpt格式的微调数据集;使用自定义数据集时,请更新代码目录下data/dataset_info
查看日志和性能 查看日志 训练过程中,训练日志会在最后的Rank节点打印。 图1 打印训练日志 训练完成后,如果需要单独获取训练日志文件,可以在${SAVE_PATH}/logs路径下获取。 本示例日志路径为/home/ma-user/ws/saved_dir_for_ma_output/Qwen-14B/logs
准备环境 本文档中的模型运行环境是ModelArts Lite的DevServer。请参考本文档要求准备DevServer机器。 资源规格要求 计算规格:单机训练需要使用单机8卡,多机训练需要使用2机16卡。 硬盘空间:至少200GB。 Ascend资源规格: Ascend: 1