检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
ModelArts Studio大模型开发平台是盘古大模型服务推出的包括数据管理、模型训练、模型部署于一体的综合平台,专为开发和应用大模型而设计,旨在为开发者提供简单、高效的大模型开发和部署方式。平台配备数据工程、模型开发、应用开发三大工具链,帮助开发者充分利用盘古大模型的功能。
Token认证 Token在计算机系统中代表令牌(临时)的意思,拥有Token就代表拥有某种权限。Token认证就是在调用API的时候将Token加到请求消息头,从而通过身份认证,获得操作API的权限。
图2 日志管理 图3 日志管理 运行日志内容介绍 数据集加工任务运行日志包括3个部分。具体如下。 数据集加工任务总览 加工任务创建后打印。显示该加工任务包含的算子。 图4 数据集加工任务总览 算子运行详情日志 记录算子在运行时关键节点的信息。
配置知识库 知识库是Agent开发平台中用于存储、管理和检索领域知识的核心组件,它通过结构化存储、智能检索以及动态更新机制,为Agent提供精准的信息支持。
统计三方大模型调用信息 针对调用的大模型,平台提供了统一的管理功能。 登录ModelArts Studio大模型开发平台,在“我的空间”模块,单击进入所需空间。 图1 我的空间 单击左侧导航栏“调用统计”,选择“NLP”页签。
部署完成后,单击算法包名称,进入详情页后,可以在最下方的服务管理处看到服务列表信息。 图3 服务管理 服务部署完成后,可以根据服务列表中的访问地址完成服务的调用请求,请求体结构按照创建算法包组件时设置的结构进行填写。
管理原始数据集 数据导入成功后,可对原始数据集进行统一管理,支持的操作如下:查看数据集的基本信息、数据血缘、操作记录以及对下载、删除数据集等操作。 登录ModelArts Studio大模型开发平台,单击进入操作空间。
登陆Agent开发平台; 在页面左上方选择我的工作台->应用管理,单击右上角创建应用。 图1 创建多智能体应用 进入应用创建页面,选择“多智能体应用(beta)”,填写应用名称,描述,选择应用图标单击右下角立即创建。 进入多智能体编辑页面,初始只有一个多智能体控制器节点。
图3 发布工作流 管理工作流 在工作流的管理界面,可以进行工作流的复制、复制ID、调用路径、删除等操作。 复制工作流 在工作流列表页面,单击所要复制工作流右下角的 "..." 图标,再单击“复制”可以将该工作流复制到您的工作流列表中。 图4 管理工作流 不支持跨画布复制节点。
-成长地图 | 华为云
灵活的知识库管理 平台提供智能化的知识库系统,支持开发者构建专属数据资产库。无论是本地文档(支持PDF、Doc、PPT等格式)、网页数据还是结构化数据库,均可快速导入知识库。
撰写提示词前需要先创建提示词工程,用于对提示词进行统一管理。 登录ModelArts Studio大模型开发平台,进入所需空间。 在左侧导航栏中选择“Agent开发 > 提示词工程 > 提示词开发”,单击界面右上角“创建工程”。 输入工程名称、描述,选择行业、标签后。
获取项目ID 从控制台获取项目ID 登录管理控制台。 在页面右上角的用户名的下拉列表中选择“我的凭证”。 图1 我的凭证 在“我的凭证”页面,获取项目ID(project_id),以及账号名、账号ID、IAM用户名和IAM用户ID。
在左侧导航栏中选择“应用管理”,然后在页面顶部功能列表中选择“单智能体应用”功能进入应用开发主页面。 选择要调试的应用,单击进入应用详情页面。 在应用详情页面单击右上角调度旁的下拉菜单,弹出图1对话框,选择调度模式。 图1 调度方式切换 父主题: 基础配置
如何利用提示词提高大模型在难度较高推理任务中的准确率 可以通过思维链的方式提高大模型在复杂推理任务中的准确率。 思维链是一种通过分步骤推理来提升大模型在复杂任务中表现的方法。
在这种场景下,你可以使用变量聚合节点聚合多路分支的输出变量,变量聚合节点会读取多路分支中第一个不为空的值,供流程下游的节点使用和操作,不用额外处理未运行分支的输出结果,简化了数据流的管理。 变量聚合节点为可选节点,若无需配置,可跳过该步骤。
另外,您是否吸烟或有其他呼吸系统疾病史?"
代码 - 编写Python代码片段,仅支持python系统库,不支持引入依赖包;代码配置示例如下: 文本拼接示例代码。
工作流嵌套可实现复杂任务的模块化拆分和处理,使工作流编排逻辑更加灵活、清晰、更易于管理。 工作流节点配置步骤如下: 单击画布下方“添加节点”按钮,在节点抽屉中拖动“工作流”节点至画布中,单击该节点以打开节点配置页面。 参照表1 工作流节点配置说明,完成工作流节点的配置。
在左侧导航栏中选择“系统管理与统计 > 应用接入”,单击界面右上角“创建应用接入”。 在“应用配置”中,选择已部署好的大模型,并设置应用接入名称、描述,单击“确定”。 在“应用接入”列表的“API Key”列中可获取API Key值。 父主题: 调用盘古行业NLP大模型