检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
当用户部署的API服务期望开放给其他用户调用时，原有Token认证无法支持， 可用API Key认证的鉴权方式进行调用请求。 API Key认证指调用API时，在HTTP请求头部消息增加一个参数X-Apig-AppCode（参数值为API Key值），API服务仅校验API Key，从而实现快速响应。
以NLP为例，可参考训练NLP大模型和部署NLP大模型完成模型的训练和部署。 体验模型功能 对于已有模型进行部署操作。平台提供预置部署服务，可直接单击“体验中心”体验模型功能，对于没有提供预置服务的模型，需要到“模型开发 > 模型部署”页面进行模型部署。 在左侧导航栏中选择“模型开发 > 模型部署”，单击界面右上角“创建部署”。
105012 插件request请求超时。 插件请求超时，检查插件服务。 105013 插件返回结果过大。 当前支持10M大小的返回，超过此大小会报错。 105014 插件request proxy error。 请检查插件服务是否有问题导致无法连接。 认证鉴权 110000 认证失败。
……]”的方式来构造，若您的数据是同一个角色连续多次对话的“多轮问题”，可以将同一个角色的对话采用某个分隔符拼接到一个字符串中。例如： 原始对话示例： A：xxx号话务员为您服务！ A：先生您好，有什么可以帮助您的？ B：你好，是这样的 B：我家里上不了网了 B：网连不上 A：先生，您家的网络无法连接是吗 A：请问您尝试重新插拔网线吗？
在特定任务上具有更高的准确性：微调后的模型在具体任务中表现更优。相较于预训练阶段的通用能力，微调能使模型更好地解决细分任务的需求。 在一个客户服务问答系统中，可以用特定领域（如电商、保险）的对话数据对预训练模型进行微调，使其更好地理解和回答与该领域相关的问题。 强化学习（DPO） 关注偏好性：DPO（Direct
度控制，如下提供了这些推理参数的建议值和说明，供您参考： 表1 推理参数的建议和说明 推理参数 范围 建议值 说明 温度（temperature） 0~1 0.3 温度主要用于控制模型输出的随机性和创造性。温度越高，输出的随机性和创造性越高；温度越低，输出结果越可以被预测，确定性相对也就越高。
使用推理SDK章节示例代码均以ak和sk保存在环境变量中来实现身份验证。 登录“我的凭证”页面，获取“IAM用户名”、“账号名”以及待使用区域的“项目ID”。调用服务时会用到这些信息，请提前保存。 由于盘古大模型当前部署在“西南-贵阳一”区域，需要获取与“西南-贵阳一”区域对应的project id。 图1
熟悉各种应用，当然您也可以参考帮助文档学习相关内容； 创建前准备，在创建Agent之前您可以先创建需要使用到的工作流、插件、知识库、MCP服务，接入需要使用的模型，并可以使用prompt工程提前写好prompt模板； 开始创建，应用分为两种，一种为零代码应用，一种为低代码（工作流
单击操作列“评测报告”，在“评测报告”页面，可以查看评测任务的报告和详情。 其中，各评测指标说明详见CV大模型评测指标说明。 导出评测报告。 在“评测报告 > 服务结果分析”页面，单击“导出”，可选择需要导出的评测报告，单击“确定”。 单击右侧“导出记录”，可查看导出的任务ID，单击操作列“下载”，可将评测报告下载到本地。
）模型，且推荐的模型数量设置为5。这意味着除了基模型池中的5个LightGBM模型外，系统还会再推荐5个不同的模型。因此，总共有10个模型用于训练，其中5个是LightGBM模型，另外5个是系统根据数据情况推荐的不同模型。 说明： 当基模型算法池包含gatednet时，该参数不生效。
单击操作列“评测报告”，在“评测报告”页面，可以查看评测任务的评测报告及详情。 其中，各评测指标说明详见预测大模型评测指标说明。 导出评测报告。 在“评测报告 > 服务结果分析”页面，单击“导出”，可选择需要导出的评测报告，单击“确定”。 单击右侧“下载记录”，可查看导出的任务ID，单击操作列“下载”，可将评测报告下载到本地。
模型名称 prompt 样例 Pangu-NLP-N1-32K-3.1.34 [unused9]系统：你生成综合质量（有用性，事实性，无害性）极好的回复。[unused10][unused9]系统：你是一个擅长于文章写作、文本分析、代码编写、数学运算、逻辑推理的AI助手，专注于针对用户
"target":"你好，请问有什么可以帮助你的？"},{"context":"请介绍一下华为云的产品。","target":"华为云提供包括但不限于计算、存储、网络等产品服务。"}] 从OBS导入：单个文件大小不超过50GB，文件数量不限制。 本地上传：单个文件大小不超过10M，文件数量最多100个。 多轮问答（人设）
够满足不同场景的需求。通过灵活的API接口，模型可以无缝集成到各类应用中。 模型调用：在模型部署后，用户可以通过模型调用功能快速访问模型的服务。平台提供了高效的API接口，确保用户能够方便地将模型嵌入到自己的应用中，实现智能对话、文本生成等功能。 父主题： 产品功能
模型数据集流程见表2。 表2 盘古预测大模型数据集构建流程 流程 子流程 说明 操作指导 导入数据至盘古平台 创建导入任务 将存储在OBS服务中的数据导入至平台统一管理，用于后续加工或发布操作。 导入数据至盘古平台 发布预测类数据集 发布预测类数据集 数据发布是将单个数据集发布为
制，表1提供了典型推理参数的建议值和说明，供您参考： 表1 典型推理参数的建议和说明 推理参数 范围 建议值 说明 温度（temperature） 0~1 0.3 温度主要用于控制模型输出的随机性和创造性。温度越高，输出的随机性和创造性越高；温度越低，输出结果越可以被预测，确定性相对也就越高。
Studio平台中，使用数据工程构建三方大模型数据集流程见表1。 表1 三方大模型数据集构建流程 流程 子流程 说明 操作指导 导入数据至盘古平台 创建导入任务 将存储在OBS服务或本地的数据导入至平台统一管理，用于后续加工或发布操作。 说明： 执行导入操作时，数据集类型需要选择“单轮问答数据”。 导入数据至盘古平台
support. 数据集中的内容不支持，请保证上传的数据格式与平台要求的一致。 get obs bucket folders error. 请检查OBS服务是否正常，是否可以访问OBS桶数据。 数据加工 dataset is not online. 数据加工使用的数据集未上线，请先执行上线操作。
Studio大模型开发平台，在“我的空间”模块，单击进入所需空间。 图1 我的空间 在左侧导航栏中选择“体验中心”，单击“科学计算”页签。 选择部署的服务。 完成页面参数配置。请参考表1 科学计算大模型体验中心参数说明。 表1 科学计算大模型体验中心参数说明 参数 说明 结果存储路径 用于存放模型推理结果的OBS路径。
单击操作列“评测报告”，在“评测报告”页面，可以查看评测任务的基本信息及评测概览。 其中，各评测指标说明详见NLP大模型评测指标说明。 导出评测报告。 在“评测报告 > 服务结果分析”页面，单击“导出”，可选择需要导出的评测报告，单击“确定”。 单击右侧“导出记录”，可查看导出的任务ID，单击操作列“下载”，可将评测报告下载到本地。
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
