检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
检测到您已登录华为云国际站账号，为了您更好的体验，建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
Flink DataStream样例程序 Flink DataStream样例程序开发思路 Flink DataStream样例程序（Java） Flink DataStream样例程序（Scala） 父主题： 开发Flink应用
HCatalog访问Hive样例程序 功能介绍 本章节介绍如何在MapReduce任务中使用HCatalog分析Hive表数据，读取输入表第一列int类型数据执行count(distinct XX)操作，将结果写入输出表。 样例代码 该样例程序在“hive-examples/hc
Impala样例程序开发思路 场景说明 假定用户开发一个Impala数据分析应用，用于管理企业雇员信息，如表1、表2所示。 开发思路 数据准备。 创建三张表，雇员信息表“employees_info”、雇员联络信息表“employees_contact”、雇员信息扩展表“empl
准备ClickHouse应用开发环境 准备ClickHouse应用开发环境 准备ClickHouse应用运行环境 导入并配置ClickHouse样例工程 父主题： ClickHouse开发指南（安全模式）
cted Acyclical Graph）来定义和描述，支持多种工作流模式及流程定时触发机制。易扩展、易维护、可靠性高，与Hadoop生态系统各组件紧密结合。 Oozie流程的三种类型： Workflow 描述一个完整业务的基本流程。 Coordinator Coordinato
准备Spark应用开发环境 准备Spark本地应用开发环境 准备Spark连接集群配置文件 导入并配置Spark样例工程 新建Spark样例工程（可选） 配置Spark Python3样例工程 父主题： Spark2x开发指南（普通模式）
HBase应用开发流程介绍 本文档主要基于Java API对HBase进行应用开发。 开发流程中各阶段的说明如图1和表1所示。 图1 HBase应用程序开发流程 表1 HBase应用开发的流程说明 阶段 说明 参考文档 了解基本概念 在开始开发应用前，需要了解HBase的基本概念，了解场景需求，设计表等。
在Linux中调测Hive JDBC应用 执行mvn package生成jar包，在工程目录target目录下获取，比如:hive-examples-1.0.jar。 在运行调测环境上创建一个目录作为运行目录，如“/opt/hive_examples”(Linux环境)，并在该目录下创建子目录“conf”。
在Linux中调测Hive HCatalog应用 执行mvn package生成jar包，在工程目录target目录下获取，比如: hive-examples-1.0.jar。 将上一步生成的hive-examples-1.0.jar上传至运行调测环境的指定路径，例如“/opt/
2及之后版本默认端口为9111。详见MRS Manager管理界面“服务管理 > Hive > 服务配置”中“templeton.port”配置。 示例中的协议类型在普通集群中为“http”,安全集群为“https”。详见MRS Manager管理界面“服务管理 > Hive > 服务配置”中“templeton.protocol
HDFS应用开发流程介绍 开发流程中各阶段的说明如图1和表1所示。 图1 HDFS应用程序开发流程 表1 HDFS应用开发的流程说明 阶段 说明 参考文档 了解基本概念 在开始开发应用前，需要了解HDFS的基本概念。 HDFS应用开发常用概念 准备开发环境 使用Eclipse工具，请根据指导完成开发环境配置。
FlinkServer REST API样例程序 使用代理用户访问FlinkServer REST API样例程序（Java） 父主题： 开发Flink应用
在本地Windows环境中调测HetuEngine应用 操作场景 在程序代码完成开发后，可以在Windows环境下进行编译，本地和集群业务平面网络互通时，您可以直接在本地进行调测。 操作步骤 在Windows环境下的Intellij IDEA开发环境中，单击IDEA右侧Maven导入依赖。
使用Consumer API订阅安全Topic并消费 功能介绍 用于实现使用Consumer API订阅安全Topic，并进行消息消费。 代码样例 以下为用于实现使用Consumer API订阅安全Topic，并进行消息消费的代码片段。 详细内容在com.huawei.bigdata
登录FusionInsight Manager页面，选择“集群 > 服务 > Kafka > 配置 > 全部配置”，搜索参数“sasl.enabled.mechanisms”，将参数值改为“GSSAPI,PLAIN”。单击“保存”，单击“概览”，选择“更多 > 重启服务”使配置生效 获取“huawei-spr
workflow.xml 功能描述 描述了一个完整业务的流程定义文件。一般由一个start节点、一个end节点和多个实现具体业务的action节点组成。 参数解释 “workflow.xml”文件中包含的各参数及其含义，请参见表1。 表1 参数含义 参数 含义 name 流程文件名
使用Oozie调度Spark访问HBase以及Hive 前提条件 已经配置完成导入并配置Oozie样例工程的前提条件。 开发环境配置 参考获取MRS应用开发样例工程，获取样例代码解压目录中“src\oozie-examples”目录下的样例工程文件夹“ooziesecurity-
Spark SQL样例程序 Spark SQL样例程序开发思路 Spark SQL样例程序（Java） Spark SQL样例程序（Scala） Spark SQL样例程序（Python） 父主题： 开发Spark应用
Hudi表初始化 初始化导入存量数据通常由Spark作业来完成，由于初始化数据量通常较大，因此推荐使用API方式给充足资源来完成。 对于批量初始化后需要接Flink或Spark流作业实时写入的场景，一般建议通过对上游消息进行过滤，从一个指定的时间范围开始消费来控制数据的重复接入量
ickHouseBalancer端口/default', ClickHouseBalancer实例IP：服务的实例IP地址可通过登录Manager界面后，选择“集群 > 服务 > ClickHouse > 实例”，在实例列表页面中查询。 ClickHouseBalancer端口：
长按/截图保存，微信识别二维码
或者关注公众号“华为云”
