检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
配置服务访问授权 配置OBS访问授权 ModelArts Studio大模型开发平台使用对象存储服务(Object Storage Service,简称OBS)进行数据存储,实现安全、高可靠和低成本的存储需求。因此,为了能够顺利进行存储数据、训练模型等操作,需要用户配置访问OBS服务的权限。
制,表1提供了典型推理参数的建议值和说明,供您参考: 表1 典型推理参数的建议和说明 推理参数 范围 建议值 说明 温度(temperature) 0~1 0.3 温度主要用于控制模型输出的随机性和创造性。温度越高,输出的随机性和创造性越高;温度越低,输出结果越可以被预测,确定性相对也就越高。
"height": 426, "width": 640, "date_captured": "2013-11-21 01:34:01", "flickr_url": "",
管理盘古数据资产 数据资产介绍 数据资产是指在平台中被纳入管理、存储并可供使用的数据集。 数据资产包含以下两种形式: 用户自行发布的数据集。 用户可以通过“数据工程 > 数据发布 >发布任务 ”功能将数据集发布为数据资产。发布的数据集支持查看详细信息、编辑、删除以及发布至AI Gallery等操作。
审计 云审计服务(Cloud Trace Service,CTS)是华为云安全解决方案中专业的日志审计服务,提供对各种云资源操作记录的收集、存储和查询功能,可用于支撑安全分析、合规审计、资源跟踪和问题定位等常见应用场景。 用户开通云审计服务并创建、配置追踪器后,CTS可记录用户使用盘古的管理事件和数据事件用于审计。
使用API调用Agent应用 Agent开发平台支持将创建好的应用进行API调用。在调用应用前,请先参考为Agent应用提升技能,完成创建应用操作。 使用Postman调用API 获取调用接口。 在应用页签,单击需要调用的应用。 按键盘F12,进入开发者工具。在页面右侧“预览调试
计费模式 包周期计费模式属于预付费模式,即先付费再使用。按需计费模式属于后付费模式,即费用根据服务实际消耗量计费,系统将每小时自动扣费。 盘古大模型的计费模式见表1。 表1 计费模式表 计费类别 计费项 计费模式 计费量纲 付费方式 计费周期 模型服务 模型订阅服务 包周期计费 套
什么是提示词工程 提示词工程简介 提示词工程(Prompt Engineering)是一个较新的学科,应用于开发和优化提示词(Prompt),帮助用户有效地将大语言模型用于各种应用场景和研究领域。掌握提示词工程相关技能将有助于用户更好地了解大语言模型的能力和局限性。 提示词工程不
在“配置信息”页面,参照表1完成信息配置。 表1 插件信息配置说明 参数名称 参数说明 插件URL 插件服务的请求URL地址。 URL协议只支持HTTP和HTTPS。 系统会校验URL地址是否为标准的URL格式。 URL对应的IP默认不应为内网,否则会导致注册失败。 请求方式 插件服务的请求方式,POST或GET。
配置NFS网盘服务。 安装NFS服务 该步骤需要设备联网下载软件依赖包。 Ubuntu系统 在线安装: sudo apt install nfs-kernel-server Euler OS系统 在线安装: sudo yum install nfs-utils 若需离线安装,请联系盘古客服。
通过API调用工作流 工作流试运行成功后,可以使用API调用该工作流。 使用Postman调用API 获取调用接口。 在工作流页签,单击需要调用的工作流。 按键盘F12,进入开发者工具。在页面右侧“试运行”中输入并发送问题。在开发者工具中查找本次问答所触发的接口响应,参考下图示例
此时可使用API Key认证。该方式不仅相比Token认证更简便,还与业界主流模型调用规范保持一致。 Token认证 Token在计算机系统中代表令牌(临时)的意思,拥有Token就代表拥有某种权限。Token认证就是在调用API的时候将Token加到请求消息头,从而通过身份认证,获得操作API的权限。
开始和结束节点 开始节点用于开启触发一个工作流,结束节点用于返回一个工作流的最终结果。 开始节点 开始节点是一个工作流的起始节点,用于设定启动工作流所需的输入参数。开始节点只有输入参数,没有输出等其他参数。开始节点中默认有一个输入参数query,表示用户在本轮对话中输入的原始内容
该参数用于设置与模型的最大交互次数,超过最大回复轮数还没有提取到参数则跳出提问器。 高级配置 允许用户退出交互 开启后,若用户在与提问器的对话交互中,表达“中止对话”类的意图,系统会自动结束当前提问,并跳转至结束节点。 提取参数完毕需要用户确认 开启后,若用户希望提问器参数提取完毕后进行用户确认,则开启此功能。 提取约束
)模型,且推荐的模型数量设置为5。这意味着除了基模型池中的5个LightGBM模型外,系统还会再推荐5个不同的模型。因此,总共有10个模型用于训练,其中5个是LightGBM模型,另外5个是系统根据数据情况推荐的不同模型。 说明: 当基模型算法池包含gatednet时,该参数不生效。
设置模型部署参数信息,平台已给出默认值。 资源配置 计费模式 包年包月计费模式。 实例数 设置部署模型时所需的实例数。 订阅提醒 订阅提醒 该功能开启后,系统将在任务状态更新时,通过短信或邮件将提醒发送给用户。 基本信息 服务名称 设置部署任务的名称。 描述(选填) 设置部署任务的描述。 表2 科学计算气象模型部署场景
式,按订单的购买周期计费,适用于可预估资源使用周期的场景。 按需计费模式:按需付费是后付费方式,可以随时开通/关闭对应资源,支持秒级计费,系统会根据云服务器的实际使用情况每小时出账单,并从账户余额里扣款。 父主题: 计费FAQ
数据工程介绍 数据工程介绍 数据工程是ModelArts Studio大模型开发平台(下文简称“平台”)为用户提供的一站式数据处理与管理功能,旨在通过系统化的数据获取、加工、发布等过程,确保数据能够高效、准确地为大模型的训练提供支持,帮助用户高效管理和处理数据,提升数据质量和处理效率,为大模型开发提供坚实的数据基础。
数据工程使用流程 高质量数据是推动大模型不断迭代和优化的根基,它的质量直接决定了模型的性能、泛化能力以及应用场景的适配性。只有通过系统化地准备和处理数据,才能提取出有价值的信息,从而更好地支持模型训练。因此,数据的获取、加工、合成、标注、配比、评估、发布等环节,成为数据开发中不可或缺的重要步骤。
模型安全:通过模型动态混淆技术,使模型在运行过程中保持混淆状态,有效防止结构信息和权重信息在被窃取后暴露。 系统安全:通过网络隔离、身份认证和鉴权、Web安全等技术保护大模型系统安全,增强自身防护能力,以抵御外部安全攻击。 父主题: 大模型概念类