检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
在左侧导航栏中选择“系统管理与统计 > 应用接入”，单击界面右上角“创建应用接入”。 在“应用配置”中，选择已部署好的大模型，并设置应用接入名称、描述，单击“确定”。 在“应用接入”列表的“API Key”列中可获取API Key值。 父主题： 开发盘古搜索规划模型
温度 控制模型推理N条数据的随机性，当temperature趋近于0时，选择最大概率的词；temperature越大，分布越平缓，选择更随机。 核采样 控制模型推理的多样性，取值越大，生成文本的多样性越强。
权限管理 如果您需要对华为云上购买的盘古大模型资源，为企业中的员工设置不同的访问权限，以达到不同员工之间的权限隔离，您可以使用统一身份认证服务（IAM）和盘古角色管理功能进行精细的权限管理。 如果华为云账号已经能满足您的要求，不需要创建独立的IAM用户（子用户）进行权限管理，您可以跳过本章节
在左侧导航栏中选择“系统管理与统计 > 应用接入”，单击界面右上角“创建应用接入”。 在“应用配置”中，选择已部署好的大模型，并设置应用接入名称、描述，单击“确定”。 在“应用接入”列表的“API Key”列中可获取API Key值。 父主题： 开发盘古向量&重排模型
在左侧导航栏中选择“系统管理与统计 > 应用接入”，单击界面右上角“创建应用接入”。 在“应用配置”中，选择已部署好的大模型，单击“确定”。 在“应用接入”列表的“API Key”操作列中可获取API Key值。 如图4，为Token认证方式的请求Header参数填写示例。
三方大模型 三方大模型规格 除了盘古自研模型外，当前ModelArts Studio大模型开发平台还面向NLP领域，集成热门的开源三方NLP模型以供客户选择使用。 例如：DeepSeek V3发布于2024年12月26日，是一个MoE架构的LLM模型，总共671B参数量，在数学、代码类相关评测集上取得了超过
Deepseek大模型介绍 平台预置DeepSeek-R1-32K及DeepSeek-V3-32K模型。 DeepSeek-R1 DeepSeek-R1满血版671B参数模型，在数学、代码、自然语言处理能力比肩OpenAI o1正式版。DeepSeek-R1-32K-0.0.1版本支持推理部署
当前，平台支持的推理参数包括：温度、核采样以及话题重复度控制，表1提供了典型推理参数的建议值和说明，供您参考： 表1 典型推理参数的建议和说明 推理参数 范围 建议值 说明 温度（temperature） 0~1 0.3 温度主要用于控制模型输出的随机性和创造性。
使用数据工程构建NLP大模型数据集 NLP大模型支持接入的数据集类型 盘古NLP大模型仅支持接入文本类数据集，数据集文件内容包括：预训练文本、单轮问答、多轮问答、带人设单轮问答、带人设多轮问答、偏好优化DPO等，同时新增了Reasoner模型，Reasoner模型是一种基于逻辑推理或知识推理的
使用盘古NLP大模型创建Python编码助手应用 场景描述 该示例演示了如何使用盘古NLP大模型创建Python编码助手执行应用，示例将使用Agent开发平台预置的Python解释器预置插件。 “Python解释器插件”能够执行用户输入的Python代码，并获取结果。此插件为应用提供了强大的计算
按需计费模式：按需付费是后付费方式，可以随时开通/关闭对应资源，支持秒级计费，系统会根据云服务器的实际使用情况每小时出账单，并从账户余额里扣款。 父主题： 计费FAQ
数据评估：数据评估通过对数据集进行系统的质量检查，依据评估标准评估数据的多个维度，旨在发现潜在问题并加以解决。 在集成了数据获取、数据加工、数据发布功能外，平台还支持对原始数据集、加工数据集、发布数据集、数据合成指令进行一站式管理。
只有通过系统化地准备和处理数据，才能提取出有价值的信息，从而更好地支持模型训练。因此，数据的获取、加工、合成、标注、配比、评估、发布等环节，成为数据开发中不可或缺的重要步骤。 数据工程操作流程见图1、表1。
配置MCP服务 Agent平台工具调用支持MCP协议，并提供了一个丰富的MCP服务生态系统，以增强智能体的功能。MCP是一种开放协议，它规范了应用程序向大语言模型提供上下文的方式，平台集成了"高德地图"、"车票查询工具"、"必应搜索"等多种实用MCP服务，开通后可以一键集成调用。
工业应用编排介绍 工业应用编排功能是一个基于脚本组件和算法包组件的编排工具。其中，组件是用来构成应用编排的最小业务单元，即将封装好的业务功能作为应用编排中的一个节点，实现特定的业务功能。 例如，需要构建一个视频抽帧的应用，该应用需要具备读取视频数据、视频抽帧、抽帧后图片处理、输出图片数据的功能
配置工作流 工作流是Agent开发平台中用于设计和实现复杂任务自动化的核心工具，它通过任务编排、条件判断以及多种组件的协同功能，帮助开发者高效处理复杂任务。工作流中包含大模型节点、知识检索节点、意图识别节点、判断节点、代码节点等多种节点，每个节点都具有特定的功能，能够处理数据、执行任务和运行算法
原文主要讲的是随着无人驾驶技术的发展，人们关注其安全性和实用性，但目前缺乏系统评估，数据不可靠，需要各方合作解决风险。接下来，用户的要求是简化语言，突出关键信息，让读者更容易理解。这意味着我需要去掉复杂的句子结构，用更通俗的词汇，同时确保关键点不被遗漏。
系统安全：通过网络隔离、身份认证和鉴权、Web安全等技术保护大模型系统安全，增强自身防护能力，以抵御外部安全攻击。 父主题： 大模型概念类
词语特征过滤 词个数表示按照系统词库，对文档进行分词，分词后统计词的总个数，平均词长度为所有词的长度总和除以词总个数，两者都满足则保留当前文档。根据如下特征过滤： 待保留的词个数。 待保留的平均词长度。
评估数据集 数据评估介绍 数据评估旨在通过对数据集进行系统的质量检查，评估其数据质量和代表性等多个维度，发现潜在问题并加以解决。
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
