华为云用户手册

  • 响应示例 状态码: 200 OK { "traffic_mirror_session" : { "name" : "test-session", "created_at" : "2023-03-23T10:53:12Z", "updated_at" : "2023-03-23T10:56:54Z", "id" : "16538eda-7e94-4b90-b5f3-a653f62dc817", "project_id" : "7365fcd452924e398ec4cc1fe39c0d12", "description" : "", "traffic_mirror_filter_id" : "b765ba87-c0b4-4f1a-9ec3-d5b1d1ddb137", "traffic_mirror_sources" : [ "6134900d-31a6-4b71-8453-dbca7f26982a" ], "traffic_mirror_target_id" : "c9f8acef-d550-4fbe-be7c-e8bfd3501dc1", "traffic_mirror_target_type" : "elb", "virtual_network_id" : 1, "packet_length" : 96, "priority" : 11, "enabled" : true, "type" : "eni" }, "request_id" : "a7ee4a0e-12e9-457a-b739-46bffb2e7bbb" }
  • 请求示例 添加镜像源6134900d-31a6-4b71-8453-dbca7f26982e到镜像会话e15a6e40-2580-4949-bf2a-55ee7cd49392中。 PUT https://{endpoint}/v3/{project_id}/vpc/traffic-mirror-sessions/e15a6e40-2580-4949-bf2a-55ee7cd49392/add-sources { "traffic_mirror_session" : { "traffic_mirror_sources" : [ "6134900d-31a6-4b71-8453-dbca7f26982e" ] } }
  • 请求参数 表2 请求Body参数 参数 是否必选 参数类型 描述 traffic_mirror_session 是 TrafficMirrorSourcesOption object 流量镜像会话对象 表3 TrafficMirrorSourcesOption 参数 是否必选 参数类型 描述 traffic_mirror_sources 是 Array of strings 功能说明:镜像源ID列表
  • 响应示例 状态码: 200 OK { "traffic_mirror_session" : { "name" : "test-session", "created_at" : "2023-02-23T06:57:39Z", "updated_at" : "2023-02-23T06:57:39Z", "id" : "e15a6e40-2580-4949-bf2a-55ee7cd49392", "project_id" : "7365fcd452924e398ec4cc1fe39c0d12", "description" : "", "traffic_mirror_filter_id" : "b765ba87-c0b4-4f1a-9ec3-d5b1d1ddb137", "traffic_mirror_sources" : [ "6134900d-31a6-4b71-8453-dbca7f26982a" ], "traffic_mirror_target_id" : "1adbc9b3-df85-4343-948a-d129536fa309", "traffic_mirror_target_type" : "eni", "virtual_network_id" : 1, "packet_length" : 96, "priority" : 6, "enabled" : true, "type" : "eni" }, "request_id" : "be17b2e9-098c-4b56-ac0c-97e6b6413f12" }
  • 响应示例 状态码: 200 OK { "traffic_mirror_session" : { "name" : "test-session", "created_at" : "2023-02-23T06:57:39Z", "updated_at" : "2023-02-23T06:57:39Z", "id" : "e15a6e40-2580-4949-bf2a-55ee7cd49392", "project_id" : "7365fcd452924e398ec4cc1fe39c0d12", "description" : "", "traffic_mirror_filter_id" : "b765ba87-c0b4-4f1a-9ec3-d5b1d1ddb137", "traffic_mirror_sources" : [ "6134900d-31a6-4b71-8453-dbca7f26982a" ], "traffic_mirror_target_id" : "1adbc9b3-df85-4343-948a-d129536fa309", "traffic_mirror_target_type" : "eni", "virtual_network_id" : 1, "packet_length" : 96, "priority" : 6, "enabled" : true, "type" : "eni" }, "request_id" : "be17b2e9-098c-4b56-ac0c-97e6b6413f12" }
  • 响应示例 状态码: 200 OK { "request_id" : "38719a68-c7c1-4fe1-bf12-4bb049349174", "traffic_mirror_filter_rules" : [ { "created_at" : "2023-02-17T08:42:44Z", "updated_at" : "2023-02-17T08:42:44Z", "id" : "3daa97b5-ad58-477d-86a5-52b65257f94b", "project_id" : "7365fcd452924e398ec4cc1fe39c0d12", "description" : "", "traffic_mirror_filter_id" : "b765ba87-c0b4-4f1a-9ec3-d5b1d1ddb137", "direction" : "ingress", "protocol" : "ICMPV6", "ethertype" : "IPv4", "source_cidr_block" : null, "destination_cidr_block" : null, "source_port_range" : null, "destination_port_range" : null, "action" : "accept", "priority" : 16 } ], "page_info" : { "previous_marker" : "3daa97b5-ad58-477d-86a5-52b65257f94b", "current_count" : 1 } }
  • URI GET /v3/{project_id}/vpc/traffic-mirror-filter-rules 表1 路径参数 参数 是否必选 参数类型 描述 project_id 是 String 项目ID 表2 Query参数 参数 是否必选 参数类型 描述 action 否 String 使用规则action过滤 description 否 String 使用规则描述过滤 destination_cidr_block 否 String 使用规则目的网段过滤 destination_port_range 否 String 使用规则目的端口范围过滤 direction 否 String 使用规则方向过滤 id 否 String 使用规则ID过滤或排序 priority 否 String 使用规则优先级过滤 protocol 否 String 使用规则协议过滤 source_cidr_block 否 String 使用规则源网段过滤 source_port_range 否 String 使用规则源端口范围过滤 traffic_mirror_filter_id 否 String 使用筛选条件ID过滤 limit 否 Integer 功能说明:每页返回的个数 取值范围:0-2000 marker 否 String 分页查询起始的资源ID,为空时查询第一页
  • 响应示例 状态码: 200 OK { "request_id" : "f87354b7-eecd-4b64-87f6-bfd6430e33bd", "traffic_mirror_sessions" : [ { "name" : "test-session", "created_at" : "2023-03-14T08:44:12Z", "updated_at" : "2023-03-14T08:44:12Z", "id" : "6cc12480-5a92-4aed-99fb-07c52cc98961", "project_id" : "7365fcd452924e398ec4cc1fe39c0d12", "description" : "", "traffic_mirror_filter_id" : "b765ba87-c0b4-4f1a-9ec3-d5b1d1ddb137", "traffic_mirror_sources" : [ "6134900d-31a6-4b71-8453-dbca7f26982a" ], "traffic_mirror_target_id" : "029ab12b-dc38-4228-b146-44975bf55250", "traffic_mirror_target_type" : "eni", "virtual_network_id" : 1, "packet_length" : 96, "priority" : 9, "enabled" : true, "type" : "eni" } ], "page_info" : { "previous_marker" : "6cc12480-5a92-4aed-99fb-07c52cc98961", "current_count" : 1 } }
  • URI GET /v3/{project_id}/vpc/traffic-mirror-sessions 表1 路径参数 参数 是否必选 参数类型 描述 project_id 是 String 项目ID 表2 Query参数 参数 是否必选 参数类型 描述 created_at 否 String 使用创建时间戳排序 description 否 String 使用镜像会话描述过滤 enabled 否 String 使用enabled过滤 id 否 String 使用镜像会话ID过滤或排序 name 否 String 使用镜像会话名称过滤或排序 packet_length 否 String 使用最大传输单元MTU过滤 priority 否 String 使用镜像会话优先级过滤 traffic_mirror_filter_id 否 String 使用筛选条件ID过滤 traffic_mirror_target_id 否 String 使用镜像目的ID过滤 traffic_mirror_target_type 否 String 使用镜像目的类型过滤 type 否 String 使用镜像源类型过滤 updated_at 否 String 使用更新时间戳排序 virtual_network_id 否 String 使用VNI过滤 limit 否 Integer 功能说明:每页返回的个数 取值范围:0-2000 marker 否 String 分页查询起始的资源ID,为空时查询第一页
  • 请求参数 表2 请求Body参数 参数 是否必选 参数类型 描述 traffic_mirror_session 是 TrafficMirrorSourcesOption object 流量镜像会话对象 表3 TrafficMirrorSourcesOption 参数 是否必选 参数类型 描述 traffic_mirror_sources 是 Array of strings 功能说明:镜像源ID列表
  • 响应示例 状态码: 200 OK { "traffic_mirror_session" : { "name" : "test-session", "created_at" : "2023-02-23T06:57:39Z", "updated_at" : "2023-02-23T06:57:39Z", "id" : "e15a6e40-2580-4949-bf2a-55ee7cd49392", "project_id" : "7365fcd452924e398ec4cc1fe39c0d12", "description" : "", "traffic_mirror_filter_id" : "b765ba87-c0b4-4f1a-9ec3-d5b1d1ddb137", "traffic_mirror_sources" : [ ], "traffic_mirror_target_id" : "", "traffic_mirror_target_type" : "", "virtual_network_id" : 1, "packet_length" : 96, "priority" : 6, "enabled" : true, "type" : "eni" }, "request_id" : "6f107fc1-93be-4d5a-af71-4099da7eeaa9" }
  • 请求示例 移除ID为e15a6e40-2580-4949-bf2a-55ee7cd49392的镜像会话中的镜像源6134900d-31a6-4b71-8453-dbca7f26982a。 PUT https://{endpoint}/v3/{project_id}/vpc/traffic-mirror-sessions/e15a6e40-2580-4949-bf2a-55ee7cd49392/remove-sources { "traffic_mirror_session" : { "traffic_mirror_sources" : [ "6134900d-31a6-4b71-8453-dbca7f26982a" ] } }
  • 响应示例 状态码: 200 OK { "description" : "api-test", "feature" : "NOTEBOOK", "flavor" : "modelarts.vm.cpu.2u", "id" : "f9937afa-4451-42db-a76b-72d624749f66", "image" : { "description" : "description", "id" : "e1a07296-22a8-4f05-8bc8-e936c8e54090", "name" : "notebook2.0-mul-kernel-cpu-cp36", "swr_path" : "swr.xxxxx.com/atelier/notebook2.0-mul-kernel-cpu-cp36:3.3.2-release_v1", "tag" : "3.3.2-release_v1", "type" : "BUILD_IN" }, "lease" : { "create_at" : 1638841744515, "duration" : 3600000, "enable" : true, "type" : "TIMING", "update_at" : 1638841744515 }, "name" : "notebooks_test", "status" : "CREATING", "token" : "3eff13f2-3d70-5456-6dc7-e3f99f562022", "workspace_id" : "0" }
  • Notebook基础镜像列表 ModelArts开发环境提供Docker容器镜像,可作为预构建容器运行。预置镜像里面包含PyTorch,Tensorflow,MindSpore等常用AI引擎框架,镜像命名以AI引擎为主,并且每个镜像里面都预置了很多常用包,用户可以直接使用而无需重新安装。 开发环境预置镜像分为X86和ARM两类: 表1 X86预置镜像列表 引擎类型 镜像名称 PyTorch pytorch1.8-cuda10.2-cudnn7-ubuntu18.04 pytorch1.10-cuda10.2-cudnn7-ubuntu18.04 pytorch1.4-cuda10.1-cudnn7-ubuntu18.04 Tensorflow tensorflow2.1-cuda10.1-cudnn7-ubuntu18.04 tensorflow1.13-cuda10.0-cudnn7-ubuntu18.04 MindSpore mindspore1.7.0-cuda10.1-py3.7-ubuntu18.04 mindspore1.7.0-py3.7-ubuntu18.04 mindspore1.2.0-cuda10.1-cudnn7-ubuntu18.04 mindspore1.2.0-openmpi2.1.1-ubuntu18.04 无AI引擎(专用于自定义镜像的基础镜像) conda3-cuda10.2-cudnn7-ubuntu18.04 conda3-ubuntu18.04 表2 ARM预置镜像列表 引擎类型 镜像名称 TensorFlow tensorflow1.15-mindspore1.7.0-cann5.1.0-euler2.8-aarch64 tensorflow1.15-cann5.1.0-py3.7-euler2.8.3 MindSpore mindspore_1.10.0-cann_6.0.1-py_3.7-euler_2.8.3 mindspore_1.9.0-cann_6.0.0-py_3.7-euler_2.8.3 mindspore1.7.0-cann5.1.0-py3.7-euler2.8.3 mindspore1.7.0-cuda10.1-py3.7-ubuntu18.04 父主题: Notebook基础镜像介绍
  • Nginx Nginx是通过log_format指令来自定义访问日志的格式。 选择示例日志:应选择一条比较典型的日志作为示例日志。在“步骤1 选择示例日志”中,可单击“从已有日志中选择”,在弹出框中根据业务需求选择待操作的日志,也可以直接在输入框中输入待操作的日志,单击“确定”。通过选择不同时间段筛选日志。 时间范围有三种方式,分别是相对时间、整点时间和自定义。您可以根据自己的实际需求,选择时间范围。 相对时间:表示查询距离当前时间1分钟、5分钟、15分钟等时间区间的日志数据。例如当前时间为19:20:31,设置相对时间1小时,表示查询18:20:31~19:20:31的日志数据。 整点时间:表示查询最近整点1分钟、15分钟等时间区间的日志数据。例如当前时间为19:20:31,设置整点时间1小时,表示查询18:00:00~19:00:00的日志数据。 自定义:表示查询指定时间范围的日志数据 在“步骤2 输入Nginx日志配置”中需要输入Nginx日志配置,根据输入或选择的日志进行配置。其中有默认配置可使用,单击“默认Nginx配置”即可。 标准Nginx配置文件中,日志配置的部分通常以log_format开头。 日志格式 默认配置如下所示。 log_format main '$remote_addr - $remote_user [$time_local] "$request" ' '$status $body_bytes_sent "$http_referer" ' '"$http_user_agent" "$http_x_forwarded_for"'; 用户也可进行自定义配置,具体配置格式要求如下所示。 使用Nginx配置,不可为空 以log_format开头,并且包含(')和字段名称 长度最大限制为5000 需要与示例日志内容匹配 log_format字段之间的间隔,除大小字母、数字、下划线及中划线外,可使用其他任意字符 以(')或者(';)结尾 字段提取。可将输入或选择的日志自动提取为以一个示例字段对应一个字段名称的格式的日志解析结果。 在“步骤3 字段提取”下单击“智能提取”。以如下原始日志为例进行分析: 将以下原始日志输入待操作框中。 39.149.31.187 - - [12/Mar/2020:12:24:02 +0800] "GET / HTTP/1.1" 304 0 "-" "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/80.0.3987.132 Safari/537.36" "-" 并使用如下Nginx日志配置。 log_format main '$remote_addr - $remote_user [$time_local] "$request" ' '$status $body_bytes_sent "$http_referer" ' '"$http_user_agent" "$http_x_forwarded_for"'; 图4 智能提取结果 当日志提取字段的类型为float时,精确度为7位有效数字。 如果超过7位有效数字的话,则会导致提取字段内容不准确,从而影响可视化查看和快速分析,因此建议将字段类型修改为String。 在字段提取完成后,可对日志模板进行设置。结构化字段设置规则请参考设置结构化字段。 单击“保存”,完成日志结构化配置,初次设置完成后将不能对字段类型编辑修改。
  • 分隔符 分隔符是使用分隔符(例如:逗号、空格或字符)提取字段。 选择示例日志:应选择一条比较典型的日志作为示例日志。在“步骤1 选择示例日志”中,可单击“从已有日志中选择”,在弹出框中根据业务需求选择待操作的日志,也可以直接在输入框中输入待操作的日志,单击“确定”。通过选择不同时间段筛选日志。 时间范围有三种方式,分别是相对时间、整点时间和自定义。您可以根据自己的实际需求,选择时间范围。 相对时间:表示查询距离当前时间1分钟、5分钟、15分钟等时间区间的日志数据。例如当前时间为19:20:31,设置相对时间1小时,表示查询18:20:31~19:20:31的日志数据。 整点时间:表示查询最近整点1分钟、15分钟等时间区间的日志数据。例如当前时间为19:20:31,设置整点时间1小时,表示查询18:00:00~19:00:00的日志数据。 自定义:表示查询指定时间范围的日志数据 在“步骤2 指定分隔符”需要根据原始日志内容选择分隔符,或自定义其他需要的特殊字符作为分隔符。 不可见字符需要输入0x开头的16进制字符,长度为0-4个字符,总共32个不可见字符。 自定义字符支持输入1-10个字符,每个字符都作为独立的分隔符。 自定义字符串支持输入1-30个字符,字符串整体作为一个分隔符。 字段提取。可将输入或选择的日志自动提取为以一个示例字段对应一个字段名称的格式的日志解析结果。 在“步骤3字段提取”下单击“智能提取”。以如下原始日志为例进行分析: 将以下原始日志输入待操作框中。 1 5f67944957444bd6bb4fe3b367de8f3d 1d515d18-1b36-47dc-a983-bd6512aed4bd 192.168.0.154 192.168.3.25 38929 53 17 1 96 1548752136 1548752736 ACCEPT OK 图3 智能提取结果 当日志提取字段的类型为float时,精确度为7位有效数字。 如果超过7位有效数字的话,则会导致提取字段内容不准确,从而影响可视化查看和快速分析,因此建议将字段类型修改为String。 在字段提取完成后,可对日志模板进行设置。结构化字段设置规则请参考设置结构化字段。 单击“保存”,完成日志结构化配置,初次设置完成后将不能对字段类型编辑修改。
  • JSON JSON是通过提取JSON字段将其拆分为键值对。 选择示例日志:应选择一条比较典型的日志作为示例日志。在“步骤1 选择示例日志”中,可单击“从已有日志中选择”,在弹出框中根据业务需求选择待操作的日志,也可以直接在输入框中输入待操作的日志,单击“确定”。通过选择不同时间段筛选日志。 时间范围有三种方式,分别是相对时间、整点时间和自定义。您可以根据自己的实际需求,选择时间范围。 相对时间:表示查询距离当前时间1分钟、5分钟、15分钟等时间区间的日志数据。例如当前时间为19:20:31,设置相对时间1小时,表示查询18:20:31~19:20:31的日志数据。 整点时间:表示查询最近整点1分钟、15分钟等时间区间的日志数据。例如当前时间为19:20:31,设置整点时间1小时,表示查询18:00:00~19:00:00的日志数据。 自定义:表示查询指定时间范围的日志数据 字段提取。可将输入或选择的日志自动提取为以一个示例字段对应一个字段名称的格式的日志解析结果。 在“步骤2 字段提取”下单击“智能提取”。以如下原始日志为例进行分析: 将以下原始日志输入待操作框中。 {"a1": "a1", "b1": "b1", "c1": "c1", "d1": "d1"} 图2 提取结果 当日志提取字段的类型为float时,精度为16位有效数字。如果超过16位有效数字,则会导致提取字段内容不准确,从而影响可视化查看和快速分析,因此建议将字段类型修改为String。 当日志提取字段的类型为long时,日志内容超过16位有效数字,只会精确显示前16位有效数字,后面的数字会变为0。 当日志提取字段的类型为long时,日志内容超过21位有效数字,则会识别为float类型,建议将字段类型修改为String。 在字段提取完成后,可对日志模板进行设置。结构化字段设置规则请参考设置结构化字段。 单击“保存”,完成日志结构化配置,初次设置完成后将不能对字段类型编辑修改。
  • 设置tag字段 设置结构化配置时,可以对日志维度信息进行tag字段设置,设置完成后可以在可视化界面对设置字段进行SQL查询。 在字段提取步骤中选择“tag字段”页签。 单击“添加字段”。 在tag字段列表中“字段名称”,输入需要设置 tag字段名称,例如hostIP。 tag字段功能上线前设置的结构化配置,在修改结构化配置进行tag字段设置时,系统tag不会带出示例字段。 如需添加多个字段可单击“添加字段”,继续添加。 设置完成后单击“保存”。 tag支持的系统字段包括:category、clusterId、clusterName、containerName、hostIP、hostId、hostName、nameSpace、pathFile、podName。 tag不支持的系统字段包括:groupName、logStream、lineNum、content、logContent、logContentSize、collectTime。 日志提取字段和tag字段可以同时设置。
  • 设置结构化字段 在进行结构化配置字段提取之后,可对结构化字段进行设置,具体设置规则如下表。 表1 结构化字段设置规则 日志提取方式 字段名称 字段类型是否可修改 字段是否可删除 正则分析(自动生成) 用户自定义。 名称必须以字母开始,且仅包含字母和数字。 是 是 正则分析(手动输入) 支持在输入正则表达式时进行命名。 支持使用系统默认命名field1、field2、field3……,或对其修改后的名称。 是 是 JSON格式 智能提取字段名称,可定义别名。 是 是 分隔符 默认名称field1、field2、field3……,可进行修改。 是 是 Nginx 根据Nginx配置生成,可定义别名。 是 是 ELB模板 根据ELB资料中提供的日志字段被定义。 否 否 VPC模板 根据VPC资料中提供的日志字段被定义。 否 否 CTS模板 字段名称为json日志中的key。 否 否 APIG模板 根据APIG资料中提供的日志字段被定义。 否 否 DCS审计日志 根据DCS资料中提供的日志字段被定义。 否 否 TOMCAT 根据TOMCAT官网提供的字段名称进行nginx解析的名称 否 否 NGINX 根据NGINX资料中提供的日志字段被定义。 否 否 GAUSSV5审计日志 根据GAUSSV5资料中提供的日志字段被定义。 否 否 DDS审计日志 根据DDS资料中提供的日志字段被定义。 否 否 DDS错误日志 根据DDS资料中提供的日志字段被定义。 否 否 DDS慢日志 根据DDS资料中提供的日志字段被定义。 否 否 CFW访问控制日志 根据CFW资料中提供的日志字段被定义。 否 否 CFW攻击日志 根据CFW资料中提供的日志字段被定义。 否 否 CFW流量日志 根据CFW资料中提供的日志字段被定义。 否 否 MYSQL错误日志 根据MYSQL资料中提供的日志字段被定义。 否 否 MYSQL慢日志 根据MYSQL资料中提供的日志字段被定义。 否 否 POSTGRESQL错误日志 根据POSTGRESQL资料中提供的日志字段被定义。 否 否 SQLSERVER错误日志 根据SQLSERVER资料中提供的日志字段被定义。 否 否 GeminiDB Redis慢日志 根据GeminiDB Redis资料中提供的日志字段被定义。 否 否 CDN 根据CDN资料中提供的日志字段被定义。 否 否 SMN 根据SMN资料中提供的日志字段被定义。 否 否 GAUSSDB_MYSQL错误日志 根据GAUSSDB_MYSQL资料中提供的日志字段被定义。 否 否 GAUSSDB_MYSQL慢日志 根据GAUSSDB_MYSQL资料中提供的日志字段被定义。 否 否 ER企业路由器 根据ER企业路由器资料中提供的日志字段被定义。 否 否 MYSQL审计日志 根据MYSQL审计日志资料中提供的日志字段被定义。 否 否 GeminiDB Cassandra慢日志 根据GeminiDB Cassandra慢日志资料中提供的日志字段被定义。 否 否 GeminiDB Mongo慢日志 根据GeminiDB Mongo慢日志资料中提供的日志字段被定义。 否 否 GeminiDB Mongo错误日志 根据GeminiDB Mongo错误日志资料中提供的日志字段被定义。 否 否 WAF访问日志 根据WAF访问日志资料中提供的日志字段被定义。 否 否 WAF攻击日志 根据WAF攻击日志资料中提供的日志字段被定义。 否 否 DMS重平衡日志 根据DMS重平衡日志资料中提供的日志字段被定义。 否 否 CCE审计日志 根据CCE审计日志资料中提供的日志字段被定义。 否 否 CCE事件日志 根据CCE事件日志资料中提供的日志字段被定义。 否 否 GeminiDB Redis审计日志 根据GeminiDB Redis审计日志资料中提供的日志字段被定义。 否 否 自定义模板 用户自定义。 是 是 正则分析(手动输入)、JSON格式、分隔符、Nginx和自定义模板的字段名称需要满足如下要求: 只支持输入英文、数字、中划线、下划线及小数点。 不能以小数点、下划线开头或以小数点结尾。 长度为1-64个字符。
  • 创建集群时开启安全通信 登录MRS管理控制台。 单击“购买集群”,进入购买集群页面。 在购买集群页面,选择“快速购买”或“自定义购买”。 参考快速购买集群或购买自定义集群配置集群信息。 在“通信安全授权”栏,勾选通信安全授权。 图1 通信安全授权 单击“立即购买”创建集群。 当集群开启Kerberos认证时,需要确认是否需要开启Kerberos认证,若确认开启请单击“继续”,若无需开启Kerberos认证请单击“返回”关闭Kerberos认证后再创建集群。
  • 集群创建成功后关闭安全通信 登录MRS管理控制台。 在现有集群列表中,单击待关闭安全通信的集群名称。 系统跳转至该集群详情页面。 图2 通信安全授权 单击“通信安全授权”右侧的开关关闭授权,在弹出窗口单击“确定”。 关闭授权后将导致集群状态变更为“网络通道未授权”,集群部分功能不可用,请谨慎操作。 图3 关闭通信安全授权 若用户已开启敏感操作保护(详见IAM服务的敏感操作),则输入选择的对应验证方式获取的验证码进行进行验证,避免误操作带来的风险和损失。 图4 身份验证
  • 快速购买实时分析集群 进入购买MRS集群页面。 在购买集群页面,选择“快速购买”页签。 参考下列参数说明配置集群基本信息,参数详细信息请参考购买自定义集群。 区域:默认即可。 计费模式:选择“按需计费”时,可能需要冻结一定的保证金。具体内容请参见 计费说明。 集群名称:可以设置为系统默认名称,但为了区分和记忆,建议带上项目拼音缩写或者日期等。例如:“mrs_20201130”。 集群类型:默认即可。 版本类型:默认选择普通版(不同版本提供的组件有所不同,请根据需要选择版本类型)。 集群版本:默认选择最新版本即可(不同版本集群提供的组件有所不同,请根据需要选择集群版本)。 组件选择:选择“实时分析集群”。 可用区:默认即可。 当您为IES购买MRS时,请选择可用区为“边缘可用区”。 虚拟私有云:默认即可。如果没有虚拟私有云,请单击“查看虚拟私有云”进入虚拟私有云,创建一个新的虚拟私有云。 子网:默认即可。 企业项目:默认即可。 CPU架构:默认即可。 集群节点:请根据自身需要选择集群节点规格数量等。MRS 3.x及之后版本集群Master节点规格不能小于64GB。 Kerberos认证:选择是否开启Kerberos认证。购买集群后,不支持修改。 用户名:默认为“root/admin”,root用于远程登录ECS机器,admin用于登录集群管理页面。 密码:设置root用户和admin用户密码。 确认密码:再次输入设置的root用户和admin用户密码。 图1 实时分析集群 图2 集群节点配置 勾选通信安全授权,通信安全授权详情请参考授权安全通信。 单击“立即购买”。 当集群开启Kerberos认证时,需要确认是否需要开启Kerberos认证,若确认开启请单击“继续”,若无需开启Kerberos认证请单击“返回”关闭Kerberos认证后再创建集群。购买集群后,不支持修改。 如果您对价格有疑问,可以单击页面左下角“了解计费详情”,根据计费详情来了解产品价格。 单击“返回集群列表”,可以查看到集群创建的状态。单击“访问集群”,可以查看集群详情。 集群创建的状态过程请参见表1中的“状态”参数说明。 集群创建需要时间,所创集群的初始状态为“启动中”,创建成功后状态更新为“运行中”,请您耐心等待。 MRS系统界面支持同一时间并发创建10个集群,且最多支持管理100个集群。
  • 快速购买Kafka流式集群 进入购买MRS集群页面。 在购买集群页面,选择“快速购买”页签。 参考下列参数说明配置集群基本信息,参数详细信息请参考购买自定义集群。 区域:默认即可。 计费模式:选择“按需计费”时,可能需要冻结一定的保证金。具体内容请参见 计费说明。 集群名称:可以设置为系统默认名称,但为了区分和记忆,建议带上项目拼音缩写或者日期等。例如:“mrs_20200321”。 集群类型:选择“流式集群”。 版本类型:选择“普通版”。 集群版本:根据实际需求选择集群版本。 组件选择:选择“Kafka流式集群”。 可用区:默认即可。 当您为IES购买MRS时,请选择可用区为“边缘可用区”。 企业项目:默认即可。 虚拟私有云:默认即可。如果没有虚拟私有云,请单击“查看虚拟私有云”进入虚拟私有云,创建一个新的虚拟私有云。 子网:默认即可。 CPU架构:默认即可。MRS 3.x版本无该参数。 集群节点:请根据自身需要选择集群节点规格数量等。MRS 3.x及之后版本集群Master节点规格不能小于64GB。 LVM:默认即可。MRS 3.x版本暂时不支持该参数。 Kerberos认证:选择是否开启Kerberos认证。购买集群后,不支持修改。 用户名:默认为“root/admin”,root用于远程登录ECS机器,admin用于登录集群管理页面。 密码:设置root用户和admin用户密码。 确认密码:再次输入设置的root用户和admin用户密码。 图1 Kafka流式集群 图2 集群节点配置 勾选通信安全授权,通信安全授权详情请参考授权安全通信。 单击“立即购买”。 当集群开启Kerberos认证时,需要确认是否需要开启Kerberos认证,若确认开启请单击“继续”,若无需开启Kerberos认证请单击“返回”关闭Kerberos认证后再创建集群。购买集群后,不支持修改。 如果您对价格有疑问,可以单击页面左下角“了解计费详情”,根据计费详情来了解产品价格。 单击“返回集群列表”,可以查看到集群创建的状态。单击“访问集群”,可以查看集群详情。 集群创建的状态过程请参见表1中的“状态”参数说明。 集群创建需要时间,所创集群的初始状态为“启动中”,创建成功后状态更新为“运行中”,请您耐心等待。 MRS系统界面支持同一时间并发创建10个集群,且最多支持管理100个集群。
  • 自定义集群拓扑调整说明 表3 拓扑调整说明 服务名称 依赖关系 角色名称 角色业务部署建议 说明 OMSServer - OMSServer 部署在Master节点上,不支持修改。 - ClickHouse 依赖ZooKeeper CHS(ClickHouseServer) 所有节点均可部署。 角色实例部署数量范围:偶数个,2~256。 部署了该角色的非Master节点组会被认为是Core节点类型。 CLB(ClickHouseBalancer) 所有节点均可部署。 角色实例部署数量范围:2~256。 - ZooKeeper - QP(quorumpeer) 只能部署在Master节点上。 角色实例部署数量范围:3~9,步长为2。 - Hadoop 依赖ZooKeeper NN(NameNode) 只能部署在Master节点上。 角色实例部署数量范围:2。 - HFS(HttpFS) 只能部署在Master节点上。 角色实例部署数量范围:0~10。 - JN(JournalNode) 只能部署在Master节点上。 角色实例部署数量范围:3~60,步长为2。 - DN(DataNode) 所有节点均可部署。 角色实例部署数量范围:3~10000。 部署了该角色的非Master节点组会被认为是Core节点类型。 RM(ResourceManager) 只能部署在Master节点上。 角色实例部署数量范围:2。 - NM(NodeManager) 所有节点均可部署。 角色实例部署数量范围:3~10000。 - JHS(JobHistoryServer) 只能部署在Master节点上。 角色实例部署数量范围:1~2。 - TLS(TimelineServer) 只能部署在Master节点上。 角色实例部署数量范围:0~1。 - Presto 依赖Hive PCD(Coordinator) 只能部署在Master节点上。 角色实例部署数量范围:2。 - PWK(Worker) 所有节点均可部署。 角色实例部署数量范围:1~10000。 - Spark2x 依赖Hadoop 依赖Hive 依赖ZooKeeper JS2X(JDBCServer2x) 只能部署在Master节点上。 角色实例部署数量范围:2~10。 - JH2X(JobHistory2x) 只能部署在Master节点上。 角色实例部署数量范围:2。 - SR2X(SparkResource2x) 只能部署在Master节点上。 角色实例部署数量范围:2~50。 - IS2X(IndexServer2x) (可选)只能部署在Master节点上。 角色实例部署数量范围:0~2,步长为2。 - HBase 依赖Hadoop HM(HMaster) 只能部署在Master节点上。 角色实例部署数量范围:2。 - TS(ThriftServer) 所有节点均可部署。 角色实例部署数量范围:0~10000。 - RT(RESTServer) 所有节点均可部署。 角色实例部署数量范围:0~10000。 - RS(RegionServer) 所有节点均可部署。 角色实例部署数量范围:3~10000。 - TS1(Thrift1Server) 所有节点均可部署。 角色实例部署数量范围:0~10000。 若集群安装了Hue服务并且需要在Hue WebUI使用HBase,HBase服务需安装此实例。 Hive 依赖Hadoop 依赖DBService MS(MetaStore) 只能部署在Master节点上。 角色实例部署数量范围:2~10。 - WH(WebHCat) 只能部署在Master节点上。 角色实例部署数量范围:1~10。 - HS(HiveServer) 只能部署在Master节点上。 角色实例部署数量范围:2~80。 - Hue 依赖DBService H(Hue) 只能部署在Master节点上。 角色实例部署数量范围:2。 - Sqoop 依赖Hadoop SC(SqoopClient) 所有节点均可部署。 角色实例部署数量范围:1~10000。 - Kafka 依赖ZooKeeper B(Broker) 所有节点均可部署。 角色实例部署数量范围:3~10000。 - Flume - MS(MonitorServer) 只能部署在Master节点上。 角色实例部署数量范围:1~2。 - F(Flume) 所有节点均可部署。 角色实例部署数量范围:1~10000。 部署了该角色的非Master节点组会被认为是Core节点类型。 Tez 依赖Hadoop 依赖DBService 依赖ZooKeeper TUI(TezUI) 只能部署在Master节点上。 角色实例部署数量范围:1~2。 - Flink 依赖ZooKeeper 依赖KrbServer 依赖DBService 依赖Hadoop FR(FlinkResource) 所有节点均可部署。 角色实例部署数量范围:1~10000。 - FS(FlinkServer) 所有节点均可部署。 角色实例部署数量范围:0~2。 - Oozie 依赖Hadoop 依赖DBService 依赖ZooKeeper O(oozie) 只能部署在Master节点上。 角色实例部署数量范围:2。 - Impala 依赖Hadoop 依赖Hive 依赖DBService 依赖ZooKeeper StateStore 只能部署在Master节点上。 角色实例部署数量范围:1。 - Catalog 只能部署在Master节点上。 角色实例部署数量范围:1。 - Impalad 所有节点均可部署。 角色实例部署数量范围:1~10000。 - Kudu - KuduMaster 只能部署在Master节点上。 角色实例部署数量范围:3或者5。 - KuduTserver 所有节点均可部署。 角色实例部署数量范围:3~10000。 - Ranger 依赖DBservice RA(RangerAdmin) 只能部署在Master节点上。 角色实例部署数量范围:1~2。 - USC(UserSync) 只能部署在Master节点上。 角色实例部署数量范围:1。 - TSC(TagSync) 所有节点均可部署。 角色实例部署数量范围:0~1。 - HetuEngine (仅适用于MRS 3.1.2-LTS.3及以后版本) 依赖Hadoop 依赖DBService 依赖Hive 依赖ZooKeeper 依赖KrbServer 依赖Yarn 依赖HDFS HSB(HSBroker) 所有节点均可部署。 角色实例部署数量范围:2~50。 - HSC(HSConsole) 所有节点均可部署。 角色实例部署数量范围:2。 - HSF(HSFabric) 所有节点均可部署。 角色实例部署数量范围:0~50。 - QAS(仅适用于MRS 3.2.0-LTS.1及以后版本) 所有节点均可部署。 角色实例部署数量范围:0~2。 - IoTDB(仅适用于MRS 3.2.0-LTS.1及以后版本) 依赖KrbServer CN(ConfigNode) 只能部署在Master节点上。 角色实例部署数量范围:3~9,步长为2。 - IoTDBS(IoTDBServer) 所有节点均可部署。 角色实例部署数量范围:3~256。 - CDL(仅适用于MRS 3.2.0-LTS.1及以后版本) 依赖DBService 依赖HDFS 依赖Hive 依赖KrbServer 依赖Kafka 依赖Spark 依赖ZooKeeper 依赖Yarn CC(CDLConnector) 所有节点均可部署。 角色实例部署数量范围:1~256。 - CS(CDLService) 所有节点均可部署。 角色实例部署数量范围:1~2。 -
  • 自定义集群模板说明 表1 自定义集群常用模板说明 常用模板 说明 节点数量范围 管控合设 管理角色和控制角色共同部署在Master节点中,数据实例合设在同一节点组。该部署方式适用于100个以下的节点,可以减少成本。 Master节点数量大于等于3个,小于等于11个。 节点组数量总和小于等于10个,非Master节点组中节点数量总和小于等于10000个。 管控分设 管理角色和控制角色分别部署在不同的Master节点中,数据实例合设在同一节点组。该部署方式适用于100-500个节点,在高并发负载情况下表现更好。 Master节点数量大于等于5个,小于等于11个。 节点组数量总和小于等于10个,非Master节点组中节点数量总和小于等于10000个。 数据分设 管理角色和控制角色分别部署在不同的Master节点中,数据实例分设在不同节点组。该部署方式适用于500个以上的节点,可以将各组件进一步分开部署,适用于更大的集群规模。 Master节点数量大于等于9个,小于等于11个。 节点组数量总和小于等于10个,非Master节点组中节点数量总和小于等于10000个。 表2 MRS自定义集群节点部署方案 节点部署原则 适用场景 组网规则 管理节点、控制节点和数据节点分开部署 (此方案至少需要8个节点) MN × 2 + CN × 9 + DN × n (推荐)数据节点数500-2000时采用此方案 集群节点数超过200时,各节点划分到不同子网,各子网通过核心交换机三层互联,每个子网的节点数控制在200个以内,不同子网中节点数量请保持均衡。 集群节点数低于200时,各节点部署在同一子网,集群内通过汇聚交换机二层互联。 MN × 2 + CN × 5 + DN × n (推荐)数据节点数100-500时采用此方案 MN × 2 + CN × 3 + DN × n (推荐)数据节点数30-100时采用此方案 管理节点和控制节点合并部署,数据节点单独部署 (MN+CN) × 3 + DN × n (推荐)数据节点数3-30时采用此方案 集群内节点部署在同一子网,集群内通过汇聚交换机二层互联。 管理节点、控制节点和数据节点合并部署 节点数小于6的集群使用此方案 此方案至少需要3个节点 说明: 生产环境或商用环境不推荐使用此场景: 管理节点、控制节点和数据节点合并部署时,集群性能和可靠性都会产生较大影响。 如节点数量满足需求,建议将数据节点单独部署。 如节点数量不满足将数据节点单独部署的要求,必须使用此场景时,需要使用双平面组网方式。将管理网络与业务网络流量隔离,防止业务平面的数据量过大,导致管理操作不能正常下发。 集群内节点部署在同一子网,集群内通过汇聚交换机二层互联。
  • 创建自定义集群 进入购买MRS集群页面。 在购买集群页面,选择“自定义购买”页签。 参考下列参数说明配置集群软件信息,参数详细信息请参考软件配置。 区域:默认即可。 计费模式:选择“包年/包月”或者“按需计费”。 集群名称:可以设置为系统默认名称,但为了区分和记忆,建议带上项目拼音缩写或者日期等。例如:“mrs_20180321”。 集群版本:目前仅MRS 3.x版本支持。 集群类型:选择“自定义”并根据需要勾选对应组件。 单击“下一步”,并配置硬件信息。 可用区:默认即可。 企业项目:默认即可。 虚拟私有云:默认即可。如果没有虚拟私有云,请单击“查看虚拟私有云”进入虚拟私有云,创建一个新的虚拟私有云。 子网:默认即可。 安全组:选择“自动创建”。 弹性公网IP:选择“暂不绑定”。 常用模板:具体说明请参见自定义集群模板说明。 节点数:请根据业务量调整集群实例数量。具体可参考表2。 实例规格:单击配置实例规格、系统盘和数据盘存储类型和存储空间。 拓扑调整:若常用模板中的部署方式不满足需求或者需要手动安装部分默认安装不部署的实例或者需要手动安装部分实例时,请设置“拓扑调整”为“开启”,然后根据业务需要调整实例部署方式,具体说明请参见自定义集群拓扑调整说明。 单击“下一步”进入高级配置页签。 参数说明请参见高级配置。 单击“下一步”进入确认配置页签。 在“确认配置”页面检查配置集群信息,如需调整配置,可单击,跳转到对应页签后重新设置参数。 勾选通信安全授权,通信安全授权详情请参考授权安全通信。 单击“立即购买”。 当集群开启Kerberos认证时,需要确认是否需要开启Kerberos认证,若确认开启请单击“继续”,若无需开启Kerberos认证请单击“返回”关闭Kerberos认证后再创建集群。 单击“返回集群列表”,可以查看到集群创建的状态。 集群创建需要时间,所创集群的初始状态为“启动中”,创建成功后状态更新为“运行中”,请您耐心等待。
  • 创建集群时配置RDS数据连接 该操作指导用户在创建MRS集群时配置RDS数据连接。 进入购买MRS集群页面。 在购买集群页面,选择“自定义购买”。 在软件配置中,参考表2配置“元数据 ”,其他参数请参考购买自定义集群进行配置并创建集群。 表2 数据连接参数说明 参数 参数说明 元数据 选择“外置数据连接”。使用外部数据源元数据,若集群异常或删除时将不影响元数据,适用于存储计算分离的场景。 支持Hive或Ranger组件的集群支持该功能。 组件名 当“外置数据连接”功能开启时,该参数有效。用于表示可以设置外部数据源的组件类型。 Hive Ranger 数据连接类型 当“外置数据连接”功能开启时,该参数有效。用于表示外部数据源的类型。 Hive组件支持的数据连接类型: RDS服务PostgreSQL数据库 RDS服务MySQL数据库 “云数据库GaussDB(for MySQL)”(仅MRS 3.1.2-LTS.3和MRS 3.1.5版本支持) 本地数据库 Ranger组件支持的数据连接类型: RDS服务MySQL数据库 本地数据库 数据连接实例 当“数据连接类型”选择“本地数据库”时无需配置该参数。用于表示MRS集群与RDS服务数据库连接的名称,该实例必须先创建才能在此处引用。可单击“创建数据连接”进行创建,具体请参考数据连接前置操作和创建RDS数据连接进行操作。 图2 创建集群时配置数据连接
  • 快速购买HBase查询集群 进入购买MRS集群页面。 在购买集群页面,选择“快速购买”页签。 参考下列参数说明配置集群基本信息,参数详细信息请参考购买自定义集群。 区域:默认即可。 计费模式:选择“按需计费”时,可能需要冻结一定的保证金。具体内容请参见 计费说明。 集群名称:可以设置为系统默认名称,但为了区分和记忆,建议带上项目拼音缩写或者日期等。例如:“mrs_20180321”。 集群类型:默认即可。 版本类型:默认选择普通版(不同版本提供的组件有所不同,请根据需要选择版本类型)。 集群版本:默认选择最新版本即可(不同版本集群提供的组件有所不同,请根据需要选择集群版本)。 组件选择:选择“HBase查询集群”。 可用区:默认即可。 当您为IES购买MRS时,请选择可用区为“边缘可用区”。 企业项目:默认即可。 虚拟私有云:默认即可。如果没有虚拟私有云,请单击“查看虚拟私有云”进入虚拟私有云,创建一个新的虚拟私有云。 子网:默认即可。 企业项目:默认即可。 集群节点:请根据自身需要选择集群节点规格数量等。MRS 3.x及之后版本集群Master节点规格不能小于64GB。 Kerberos认证:选择是否开启Kerberos认证。购买集群后,不支持修改。 用户名:默认为“root/admin”,root用于远程登录ECS机器,admin用于登录集群管理页面。 密码:设置root用户和admin用户密码。 确认密码:再次输入设置的root用户和admin用户密码。 图1 HBase查询集群 图2 集群节点配置 勾选通信安全授权,通信安全授权详情请参考授权安全通信。 单击“立即购买”。 当集群开启Kerberos认证时,需要确认是否需要开启Kerberos认证,若确认开启请单击“继续”,若无需开启Kerberos认证请单击“返回”关闭Kerberos认证后再创建集群。购买集群后,不支持修改。 如果您对价格有疑问,可以单击页面左下角“了解计费详情”,根据计费详情来了解产品价格。 单击“返回集群列表”,可以查看到集群创建的状态。单击“访问集群”,可以查看集群详情。 集群创建的状态过程请参见表1中的“状态”参数说明。 集群创建需要时间,所创集群的初始状态为“启动中”,创建成功后状态更新为“运行中”,请您耐心等待。 MRS系统界面支持同一时间并发创建10个集群,且最多支持管理100个集群。
  • 集群状态 登录MRS管理控制台,可在现有集群列表的“状态”列查看已有集群的状态,可在状态筛选框中勾选集群状态查看指定集群,MRS集群可筛选状态如表1所示。 表1 集群状态说明 状态 说明 启动中 集群正在创建,则其状态为“启动中”。 运行中 集群创建成功且运行正常,则其状态为“运行中”。 扩容中 集群Master节点、Core节点或者Task节点正在扩容,则其状态为“扩容中”。 说明: 如果集群扩容失败,用户可重新进行扩容操作。 缩容中 当对集群节点进行缩容、弹性缩容、包周期集群退订节点、变更OS和重装OS的操作时,被变更的集群节点正在删除,则其状态为“缩容中”。 异常 集群中部分组件状态异常,导致集群异常,则其状态为“异常”。 删除中 在集群现有列表单击“删除”按钮并确认后,按需购买的集群节点正在删除中,则集群状态为“删除中”。 说明: 包年包月集群无法执行删除操作。 冻结 包年/包月资源宽限期到期未续费、按需资源扣费失败且在宽限期到期前未充值,系统会冻结这些资源,其状态为“冻结”。本文提及的冻结一般指欠费冻结,其它冻结场景请参见资源冻结的类型有哪些?。 说明: 冻结期间集群不可用且关闭集群中所有云主机,解冻后集群自动恢复为“运行中”状态。如果用户没有续费,冻结期限到期后集群会被删除,状态更新为“已删除” 故障节点修复中 集群中故障的节点正在修复,则其状态为“故障节点修复中”。
  • 快速购买Hadoop分析集群 进入购买MRS集群页面。 在购买集群页面,选择“快速购买”页签。 参考下列参数说明配置集群基本信息,参数详细信息请参考购买自定义集群。 区域:默认即可。 计费模式:选择“按需计费”时,可能需要冻结一定的保证金。具体内容请参见 计费说明。 集群名称:可以设置为系统默认名称,但为了区分和记忆,建议带上项目拼音缩写或者日期等。例如:“mrs_20180321”。 集群类型:默认即可。 版本类型:默认选择普通版(不同版本提供的组件有所不同,请根据需要选择版本类型)。 集群版本:默认选择最新版本即可(不同版本集群提供的组件有所不同,请根据需要选择集群版本)。 组件选择:选择“Hadoop分析集群”。 可用区:默认即可。 当您为IES购买MRS时,请选择可用区为“边缘可用区”。 企业项目:默认即可。 虚拟私有云:默认即可。如果没有虚拟私有云,请单击“查看虚拟私有云”进入虚拟私有云,创建一个新的虚拟私有云。 子网:默认即可。 CPU架构:默认即可。 集群节点:请根据自身需要选择集群节点规格数量等。MRS 3.x及之后版本集群Master节点规格不能小于64GB。 Kerberos认证:选择是否开启Kerberos认证。购买集群后,不支持修改。 用户名:默认为“root/admin”,root用于远程登录ECS机器,admin用于登录集群管理页面。 密码:设置root用户和admin用户密码。 确认密码:再次输入设置的root用户和admin用户密码。 图1 Hadoop分析集群 图2 集群节点配置 勾选通信安全授权,通信安全授权详情请参考授权安全通信。 单击“立即购买”。 当集群开启Kerberos认证时,需要确认是否需要开启Kerberos认证,若确认开启请单击“继续”,若无需开启Kerberos认证请单击“返回”关闭Kerberos认证后再创建集群。购买集群后,不支持修改。 如果您对价格有疑问,可以单击页面左下角“了解计费详情”,根据计费详情来了解产品价格。 单击“返回集群列表”,可以查看到集群创建的状态。单击“访问集群”,可以查看集群详情。 集群创建的状态过程请参见表1中的“状态”参数说明。 集群创建需要时间,所创集群的初始状态为“启动中”,创建成功后状态更新为“运行中”,请您耐心等待。 MRS系统界面支持同一时间并发创建10个集群,且最多支持管理100个集群。
共100000条