华为云用户手册

  • 查询配置项列表中的系统参数 KooCLI支持多配置项,查询配置项列表中的系统参数的命令如下,查询结果支持以table,json或tsv格式输出,默认以json格式输出: hcloud configure list hcloud configure list { "localDea": "intl", "language": "cn", "offline": "false", "agreePrivacy": "true", "warning": "true", "current": "test", "profiles": [ { "name": "default", "mode": "AKSK", "accessKeyId": "********", "secretAccessKey": "****", "securityToken": "", "region": "cn-north-4", "projectId": "060576****************134588f135", "domainId": "", "skipSecureVerify": "false", "readTimeout": 10, "connectTimeout": 5, "retryCount": 0 }, { "name": "test", "mode": "AKSK", "accessKeyId": "********", "secretAccessKey": "****", "securityToken": "", "region": "cn-north-4", "projectId": "", "domainId": "", "skipSecureVerify": "false", "readTimeout": 10, "connectTimeout": 5, "retryCount": 0 } ] } 其中,敏感参数的值会被匿名化展示。 可以使用“--cli-query”对查询结果进行过滤。使用“--cli-query”时,默认以json格式输出,可同时使用“--cli-output”指定输出格式。例如以json格式输出,筛选每个配置项中的AK/SK: hcloud configure list --cli-output=json --cli-query="profiles[].{Name:name,AK:accessKeyId,SK:secretAccessKey}" [ { "AK": "********", "Name": "default", "SK": "****" }, { "AK": "********", "Name": "test", "SK": "****" } ] 如需以table格式输出查询结果,命令中需要指定“--cli-output=table”,如下: hcloud configure list --cli-output=table --cli-query="profiles[].[name,accessKeyId,secretAccessKey,projectId]" 如需以tsv格式输出查询结果,命令中需要指定“--cli-output=tsv”,如下: hcloud configure list --cli-output=tsv --cli-query="profiles[0].[name,accessKeyId,secretAccessKey,projectId]" 父主题: 查询配置项列表
  • 指定配置项的认证模式 KooCLI的配置项的认证模式取值为AKSK、ecsAgency,推荐使用AKSK。当使用的配置项同时配置了多种认证模式相关的参数,用户可使用“--cli-mode”选项来指定配置项的认证模式: hcloud CCE ListNodes --cluster_id="f288****-****-****-****-****ac101534" --project_id="0dd8cb****************19b5a84546" --cli-profile=test --cli-mode=AKSK 设置配置项时,需要以“--cli-profile”指定配置项的名称,同时还需根据认证模式“--cli-mode”添加相应的认证参数: 若配置项的认证模式为“AKSK”,则配置时命令中“--cli-access-key”和“--cli-secret-key”的值不能为空; 若配置项的认证模式为“ecsAgency”,则配置时命令中需指定“--cli-mode=ecsAgency”; 父主题: 选项说明
  • 交互式提示 KooCLI支持功能强大的多平台支持的交互式提示,方便命令构建,在命令中添加“--interactive”参数即可进入交互式提示。交互式中根据用户当前输入的内容,提示云服务名称,API的operation,参数及其描述信息,也提供部分参数值的补全功能。 交互式的使用方式如下: 交互模式中使用“Tab”或向上箭头、向下箭头键实现待补全内容的上下选择。 选中待补全内容后,使用空格键将已选内容追加到当前命令中。 进入交互模式后,使用“Ctrl+C”可切换至新命令行,使用“Ctrl+D”可退出交互模式。 交互式可提示和补全如下内容: 云服务 初次进入交互模式后,会自动提示云服务及系统命令列表。 图1 交互式中提示云服务和系统命令列表 所提示的云服务列表中,左列展示云服务短名/系统命令,右列展示该云服务的服务名称/该系统命令的描述信息。 API 已输入的云服务/系统命令经校验无误后,会继续提示该服务的API列表/该系统命令的子命令(或参数)。 所提示的系统命令列表中,左列展示该系统命令的子命令(或参数),右列展示该子命令(或参数)的描述信息。 图2 交互式中提示云服务的API列表 所提示的云服务API列表中,左列展示API的operation名称,右列展示该API的描述信息。 图3 交互式中提示系统命令的子命令 图4 交互式中提示系统命令的参数 若已输入的云服务/系统命令非法,则不再提示任何信息。 参数 已输入服务名与API的operation,或已输入系统命令及其子命令经校验无误后,会继续提示该API/系统命令子命令的参数列表。 图5 交互式中提示云服务API的参数列表 图6 交互式中提示系统命令子命令的参数列表 所提示的参数列表中,左列展示参数名称;右列展示该参数的描述信息。 若已输入API的operation/系统命令子命令非法,或已输入的参数名非法,则不再提示任何信息。 参数值 在交互式中,在部分参数名后输入等号,会提示该参数的可取值或默认值列表。例如:若调用API的命令中当前输入的参数是“--cli-region=”时,会提示该API的可选区域列表。 图7 交互式中提示已输入云服务API的可选区域列表 交互模式下的快捷键 Ctrl + W:将光标前的单词删除 Ctrl + K:将光标之后的内容删除 Ctrl + U:将光标之前的内容删除 Ctrl + L:清除屏幕 若用户尚未添加配置项,或默认配置项中的区域不被命令中的API所支持,用户需先根据提示,从目标API支持的cli-region列表中选择合适的区域值。确定区域后,KooCLI会继续提示该API的参数列表。 交互式提示参数时,除自定义map类型的参数(即:参数名中包含“{*}”的参数)外,已输入的参数不会重复提示;若提示的参数名中有“[N]”,其含义为索引位,请使用数字代替该字符;若提示的参数名中有“{*}”,其含义为自定义参数名称,请使用任意不含“.”的字符串代替该字符。 切换至新命令行后可使用向上箭头和向下箭头浏览已执行命令的历史记录。 父主题: 常用命令
  • 查询指定配置项中的系统参数 使用“--cli-profile”指定要查询的配置项的名称,缺省时查询默认配置项。支持以table,json或tsv格式输出,默认以json格式输出。查看指定配置项中的系统参数的命令为: hcloud configure show [--cli-profile=${profileName}] hcloud configure show --cli-profile=test { "name": "test", "mode": "AKSK", "accessKeyId": "********", "secretAccessKey": "****", "securityToken": "", "region": "cn-north-4", "projectId": "", "domainId": "", "skipSecureVerify": "false", "readTimeout": 10, "connectTimeout": 5, "retryCount": 0 } 父主题: 查询指定配置项
  • 在API Explorer上获取CLI示例 API Explorer上开放的各云服务API,除了支持在线调试,还能生成KooCLI命令示例(以下简称CLI示例)。您在API Explorer界面上填写API参数,在其对应的“CLI示例”中可直接拷贝使用。 下图为API Explorer上CDN服务的创建加速域名API。在API Explorer页面填写完成各项请求参数后,CLI示例会及时刷新命令内容。您可以将填写好请求参数的CLI示例保存,后续在KooCLI中直接调用,或集成到脚本中调用。 图1 在API Explorer上获取CLI示例 在API Explorer界面上,已填写值的参数,才会体现在CLI示例中。 CLI示例会携带项目ID,区域等信息,如果您在其他项目或区域中使用,请注意替换成对应的项目ID与区域。
  • 无配置方式AKSK 访问密钥(永久AK/SK) 用户可以在命令中直接输入永久AK(cli-access-key)和SK(cli-secret-key)调用云服务API: hcloud ECS NovaListServers --cli-region="cn-north-4" --project_id="4ff018c3******************f31948" --cli-access-key=******** --cli-secret-key=******** 临时安全凭证(临时AK/SK和SecurityToken) 用户可以在命令中直接输入临时AK(cli-access-key),SK(cli-secret-key)和SecurityToken(cli-security-token)调用云服务API: hcloud ECS NovaListServers --cli-region="cn-north-4" --project_id="4ff018c3******************f31948" --cli-access-key=******** --cli-secret-key=******** --cli-security-token=******** 父主题: 无配置方式使用KooCLI
  • 查询配置项列表中的custom参数 查询KooCLI配置项列表中的custom参数的命令如下,查询结果支持以table,json或tsv格式输出,默认以json格式输出: hcloud configure list --cli-custom=true hcloud configure list --cli-custom=true { "current": "test", "profiles": [ { "name": "default", "custom": {} }, { "name": "test", "custom": { "password": { "value": "****", "isEncrypted": true }, "projectId": { "value": "06810000000000000000000000f89d2e", "isEncrypted": false } } } ] } 其中,加密保存的custom参数值会被匿名化展示。 可以使用“--cli-query”对查询结果进行过滤,使用“--cli-query”时,默认以json格式输出,可同时使用“--cli-output”指定输出格式。例如以json格式输出,查询名称为test的配置项的所有custom参数: hcloud configure list --cli-custom=true --cli-query="profiles[?name=='test'].custom" --cli-output=json [ { "password": { "isEncrypted": true, "value": "****" }, "projectId": { "isEncrypted": false, "value": "06810000000000000000000000f89d2e" } } ] 父主题: 查询配置项列表
  • 创建IAM用户并授权 使用KooCLI管理和使用您的各类云服务资源时,需提供调用者(IAM用户)的身份信息用于认证鉴权。 IAM用户是由华为帐号在IAM中创建的用户,是云服务的使用人员,具有独立的身份凭证,根据华为帐号授予的权限使用资源,可以确保华为帐号及资源的安全性。IAM用户不进行独立的计费,由所属华为帐号统一付费。 您注册华为云后,系统自动创建华为帐号对应的IAM用户,该用户在IAM中标识为“企业管理员”,其权限无法修改。出于业务需要,您可以另外创建IAM用户,并根据实际需要给IAM用户授权。
  • 步骤三:初始化配置(可选) 本节以Windows系统为例介绍KooCLI的使用,Linux和Mac系统的使用基本相同,可参考。 如果您希望以无配置方式使用KooCLI,可跳过此步骤;若您希望以非交互方式添加配置项,请参考新增或修改配置项。 KooCLI初始化命令用于将常用的永久AK/SK和区域信息存储在配置文件中,如下表所示,避免使用时频繁输入这些固定信息: 表1 初始化时的参数 参数 说明 Access Key ID 访问密钥(永久AK/SK)中的访问密钥ID,简称AK,初始化时必填。 Secret Access Key 访问密钥(永久AK/SK)中的密码访问密钥,简称SK,初始化时必填。 Region 区域,如cn-north-4,初始化时选填。 可通过如下命令进行初始化配置,输入命令后按回车进入交互模式,根据界面提示输入各参数值: hcloud configure init hcloud configure init 开始初始化配置,其中"Secret Access Key"输入内容匿名化处理,获取参数可参考'https://support.huaweicloud.com/usermanual-hcli/hcli_09.html' Access Key ID [required]: ******** Secret Access Key [required]: **** Secret Access Key (again): **** Region: cn-north-4 ******************************************************** ***** ***** ***** 初始化配置成功 ***** ***** ***** ******************************************************** 初始化过程中,“Secret Access Key”的值需要二次确认。为保障您的账号安全,对您输入的“Secret Access Key”进行了匿名化处理。在您输入过程中不会显示输入的字符,在输入结束回车至下一行时,会以“*”回显您的输入内容。在配置完成后,KooCLI会在本地加密保存配置项中的认证相关的敏感信息。 如果重新执行初始化命令,则会在删除原配置文件后重新生成新的配置文件,配置文件保存地址如下: Windows系统: C:\Users\{您的Windows系统用户名}\.hcloud\config.json Linux系统: /home/{当前用户名}/.hcloud/config.json Mac系统: /Users/{当前用户名}/.hcloud/config.json 完成初始化后,可通过如下命令查询配置信息。KooCLI1.2.7以前的版本密文显示查询结果中的敏感信息;1.2.7及以后的版本匿名化显示查询结果中的敏感信息。 hcloud configure show --cli-profile=default hcloud configure show --cli-profile=default { "name": "default", "mode": "AKSK", "accessKeyId": "********", "secretAccessKey": "****", "securityToken": "", "region": "cn-north-4", "projectId": "", "domainId": "", "skipSecureVerify": "false", "readTimeout": 10, "connectTimeout": 5, "retryCount": 0 }
  • 概述 KooCLI将调用命令时出现的错误分为五种类型,在错误提示信息的起始位置声明其具体类型:[NETWORK_ERROR],[CLI_ERROR],[USE_ERROR],[OPENAPI_ERROR]和[APIE_ERROR]。各类错误的定位方法如下: [NETWORK_ERROR]:一般是HTTP请求异常,请检查网络连接; [CLI_ERROR]:一般是因KooCLI处理命令过程中本身的异常导致的错误,请联系KooCLI的oncall协助处理; [USE_ERROR]:一般是因命令中参数不正确造成的错误,请根据错误提示做相应修改; [OPENAPI_ERROR]:一般是调用云服务API时发生的错误,请联系相关云服务oncall协助处理; [APIE_ERROR]:一般是调用API Explorer获取元数据时发生的错误,请联系API Explorer云服务oncall协助处理。 您也可以根据下表常见问题概览查找所需内容。 表1 常见问题概览 常见问题分类 相关链接 认证相关 如何获取永久AK/SK? 如何获取账号ID、项目ID? 如何获取区域? 如何获取临时AK/SK和securitytoken? 各认证方式的优先级是什么? 配置项相关 命令中未指定配置项时默认使用哪个配置项? 元数据缓存相关 元数据缓存文件存于何处?如何清理? 日志相关 日志文件存于何处? 网络连接相关 如何解决网络连接超时问题? 云服务相关 提示不支持的服务时如何处理? 云服务API相关 提示不支持的operation时如何处理? 如何指定云服务的API和版本号? 云服务API的响应体为空时,如何判断命令是否执行成功? 区域相关 提示缺少cli-region参数时如何处理? 提示不支持的cli-region时如何处理? 参数相关 KooCLI系统参数包括哪些? 提示不正确的参数时如何处理? 为什么会有新旧系统参数,如cli-region与region,在使用时的区别是什么推荐使用哪个? 提示重复的参数时如何处理? 如何使用cli-jsonInput?注意事项有哪些? 使用cli-jsonInput的场景有哪些? 提示不支持的参数位置/类型时如何处理? 云服务API的body位置参数值如何置空? 交互式/自动补全相关 使用交互式/自动补全需要注意什么? 输出格式相关 KooCLI支持的输出格式有哪些? JMESPath表达式的用法有哪些? JMESPath支持的内置函数有哪些? KooCLI与输出相关的系统参数有哪些,推荐使用哪些? 新输出参数cli-output,cli-query,cli-output-num在使用时的注意事项有哪些? 旧输出参数cli-output-rows,cli-output-cols,cli-output-num如何使用? 旧输出参数cli-output-rows,cli-output-cols,cli-output-num使用时的注意事项有哪些? 旧输出参数cli-json-filter如何使用? 旧输出参数cli-json-filter使用时的注意事项有哪些? 其他 无配置方式使用KooCLI需要注意什么? 命令中服务名、operation、参数的value值是否需要使用双引号引起? 在线/离线模式分别适用什么场景? 如何卸载KooCLI?
  • 系统参数 KooCLI系统参数是指其内置参数,各系统参数的描述信息及其使用方式如下表所示: 表1 KooCLI新系统参数 参数 参数描述 使用方式 help 打印帮助信息 命令中直接使用 debug 打印调试信息 命令中直接使用 dryrun 执行校验后打印请求报文,跳过实际运行 命令中直接使用 interactive 进入交互式模式 命令中直接使用 cli-region 区域 配置于配置项后使用 / 命令中直接使用 cli-access-key AK/SK模式时需要的参数Access Key ID 配置于配置项后使用 / 命令中直接使用 cli-secret-key AK/SK模式时需要的参数Secret Access Key 配置于配置项后使用 / 命令中直接使用 cli-domain-id 账号ID 配置于配置项后使用 / 命令中直接使用 cli-project-id 项目ID 配置于配置项后使用 / 命令中直接使用 cli-profile 指定配置项,缺省时使用默认配置项 配置于配置项后使用 / 命令中直接使用 cli-mode 认证模式[AKSK|ecsAgency] 配置于配置项后使用 / 命令中直接使用 cli-jsonInput 通过JSON文件方式传入API参数 命令中直接使用 cli-output 响应数据的输出格式[json|table|tsv] 命令中直接使用 cli-query 筛选响应数据的JMESPath路径 命令中直接使用 cli-output-num table输出时,是否打印表格的行号。取值为true或false,默认为true 命令中直接使用 cli-endpoint 自定义请求域名 命令中直接使用 cli-connect-timeout 请求连接超时时间(秒),默认值5秒,参数最小取值为1秒 配置于配置项后使用 / 命令中直接使用 cli-read-timeout I/O超时时间(秒),默认值10秒,参数最小取值为1秒 配置于配置项后使用 / 命令中直接使用 cli-retry-count 请求连接重试次数,默认取值为0次,参数取值范围为0~5次 配置于配置项后使用 / 命令中直接使用 cli-security-token 用户获取的临时token,必须和临时AK/SK同时使用 配置于配置项后使用 / 命令中直接使用 cli-lang 语言,取值为cn或en 配置于配置项后使用 cli-offline 是否使用离线模式。取值为true或false,默认为false 配置于配置项后使用 cli-skip-secure-verify 是否跳过https请求证书验证(不建议)。取值为true或false,默认为false 配置于配置项后使用 / 命令中直接使用 cli-agree-privacy-statement 是否同意隐私。取值为true或false,默认为false 配置于配置项后使用 cli-warning 是否提示命令执行过程中的Warning信息。取值为true或false,默认为true 配置于配置项后使用 对上表中所列的各参数使用方式解释如下: 仅支持配置于配置项后使用: 指该参数只可以通过“hcloud configure set --key1=value1 --key2=value2 ...”命令配置到配置项后再使用。使用时在命令中通过“--cli-profile=${profileName}”指定配置项名称,KooCLI即会在运行过程中解析并使用该配置项中配置的各项参数值。 若在命令中直接使用该类参数,会提示如下错误: [USE_ERROR]不正确的参数:* 仅支持命令中直接使用: 指该参数只可以通过“--key1=value1 --key2=value2 ...”直接在命令中使用。 若将该类参数配置到配置项中,会提示如下错误: [USE_ERROR]不正确的参数:* 配置于配置项后使用 / 命令中直接使用: 指该类参数既可以通过“hcloud configure set --key1=value1 --key2=value2 ...”命令配置到配置项后再使用,也可以通过“--key1=value1 --key2=value2 ...”直接在命令中使用。对于同一参数,KooCLI会在运行过程中优先使用命令中指定的该参数值。未在命令中指定的参数,则使用当前配置项中其值。 与新系统参数相关的KooCLI旧系统参数参见下表。
  • 旧系统参数 KooCLI旧系统参数的描述信息及其对应的新系统参数如下表所示: 表1 KooCLI旧系统参数 旧系统参数 参数描述 其对应的新系统参数 region 指定区域 cli-region access-key AK/SK模式时需要的参数Access Key ID cli-access-key secret-key AK/SK模式时需要的参数Secret Access Key cli-secret-key domain-id 账号ID cli-domain-id project-id 项目ID cli-project-id profile 指定配置项 cli-profile mode 认证模式[AKSK|ecsAgency] cli-mode jsonInput 通过JSON文件方式传入API参数 cli-jsonInput output-cols table输出时,指定需要打印的字段 cli-output-cols output-rows table输出时,指定需要打印的层级 cli-output-rows output-num table输出时,是否打印表格的行号。取值为true或false,默认为true cli-output-num json-filter json输出时,对json结果执行JMESPath查询 cli-json-filter connect-timeout 请求连接超时时间(秒),默认值5秒,参数最小取值为1秒 cli-connect-timeout read-timeout I/O超时时间(秒),默认值10秒,参数最小取值为1秒 cli-read-timeout retry-count 请求连接重试次数,默认取值为0次,参数取值范围为0~5次 cli-retry-count security-token 用户获取的临时token,必须和临时AK/SK同时使用 cli-security-token lang 语言,取值为cn或en cli-lang
  • 问题背景 在KooCLI系统参数列表中,部分参数同时存在两种形式,如“--cli-region”和“--region”。其中,未添加“cli-”前缀的称为旧系统参数;添加了“cli-”前缀的称为新系统参数。之所以支持新系统参数,是因为在KooCLI上开放的云服务中,存在部分API的某参数与旧系统参数重名的情况。该场景可能会使命令中两个同名的参数用于不同的用途,即:其一作为目标API参数,另一作为系统参数。在命令执行过程中会对参数的合法性进行检查,若命令中存在重复参数,则会提示如下错误: [USE_ERROR]重复的参数*,如非误输,请以'cli-*'为key输入其中的KooCLI系统参数 另外,若云服务的API中存在(或可自定义)与旧系统参数同名的参数,则若该参数出现在命令中,KooCLI将无法确认该参数作何种用途。故在解析该命令的过程中,会通过交互向信息向用户确认该参数的实际用途,避免解析错误。例如: 目标API中存在与KooCLI系统参数%s同名的参数,无法识别命令中%s的位置.请确认该参数为:KooCLI系统参数(a);目标API参数(b);兼为两者(c): 目标API中可自定义与KooCLI系统参数%s同名的参数,无法识别命令中%s的位置.请确认该参数为:KooCLI系统参数(a);目标API参数(b);兼为两者(c): 因此,当您构建KooCLI命令时,对于其中的系统参数,为避免出现参数冲突而引起错误或交互,推荐使用新系统参数。 新增系统参数将添加至新系统参数列表中。旧系统参数将仅维持其已有功能,不再持续升级。
  • kp_cph_trust委托说明 kp_cph_trust委托同时被授予CPH FullAccess权限、VPC FullAccess权限以及OBS Administrator权限,用于对KooPhone所依赖的CPH资源进行使用,且该授权仅在当前区域生效。 由于KooPhone对CPH服务、VPC服务、OBS服务有依赖,如果没有CPH FullAccess权限、VPC FullAccess以及OBS Administrator权限,可能会影响KooPhone服务的正常使用。因此在使用KooPhone云服务期间,请不要删除或者修改kp_cph_trust委托。
  • 安装Python3 本章节仅适用于集群外客户端节点安装Python3。 使用root用户,登录集群外客户端节点,执行如下命令,检查是否安装了Python3。 python3 --version 是,执行8。 否,执行2。 安装Python,此处以Python 3.6.6为例。 执行如下命令,安装相关依赖: yum install zlib zlib-devel zip -y yum install gcc-c++ yum install openssl-devel yum install sqlite-devel -y 如果pandas库需要额外安装如下依赖: yum install -y xz-devel yum install bzip2-devel 下载对应Python版本源码。 wget https://www.python.org/ftp/python/3.6.6/Python-3.6.6.tgz 执行如下命令,解压python源码压缩包,例如下载在“opt”目录下。 cd /opt tar -xvf Python-3.6.6.tgz 创建Python的安装目录,此处以“/opt/python36”为例。 mkdir /opt/python36 编译Python。 cd /opt/python-3.6.6 ./configure --prefix=/opt/python36 执行成功,显示结果如下: 执行make -j8命令,执行成功,显示结果如下: 执行make install命令,执行成功,显示结果如下: 执行如下命令,配置Python环境变量。 export PYTHON_HOME=/opt/python36 export PATH=$PYTHON_HOME/bin:$PATH 执行python3 --version命令,显示结果如下,表示Python已经安装完成。 Python 3.6.6 验证Python3。 pip3 install helloword python3 import helloworld helloworld.say_hello("test") 测试安装第三方Python库(如pandas、sklearn)。 pip3 install pandas pip3 install backports.lzma pip3 install sklearn 执行命令python3 -m pip list,查看安装结果。 打包Python.zip cd /opt/python36/ zip -r python36.zip ./* 上传到HDFS指定目录。 hdfs dfs -mkdir /user/python hdfs dfs -put python36.zip /user/python 配置MRS客户端。 进入Spark客户端安装目录“/opt/client/Spark2x/spark/conf”,在“spark-defaults.conf”配置文件如下参数。 spark.pyspark.driver.python=/usr/bin/python3 spark.yarn.dist.archives=hdfs://hacluster/user/python/python36.zip#Python 父主题: MRS对接Jupyter Notebook
  • 常见问题 pandas本地import使用时,报错如下: 参考以下步骤进行处理: 执行命令python -m pip install backports.lzma安装lzma模块,如下图所示: 进入“/usr/local/python3/lib/python3.6”目录(机器不同,目录也有所不同,可以通过which命令来查找当前运行python是使用的那个目录的),然后编辑lzma.py文件。 将: from _lzma import * from _lzma import _encode_filter_properties, _decode_filter_properties 更改为: try: from _lzma import * from _lzma import _encode_filter_properties, _decode_filter_properties except ImportError: from backports.lzma import * from backports.lzma import _encode_filter_properties, _decode_filter_properties 修改前: 修改后: 保存退出,然后再次import。
  • 方案概述 在MRS服务中可以配合Jupyter Notebook使用PySpark,能够提高机器学习、数据探索和ETL应用开发效率。 本实践指导用户如何在MRS集群中配置Jupyter Notebook来使用Pyspark。 具体流程如下: 在集群外节点安装客户端 安装Python3 安装Jupyter Notebook 验证Jupyter Notebook访问MRS 本实践仅适用于MRS 3.x及之后版本,且在集群外客户端节点中安装Python3。 父主题: MRS对接Jupyter Notebook
  • 安装Jupyter Notebook 使用root用户登录客户端节点,执行如下命令安装Jupyter Notebook。 pip3 install jupyter notebook 显示结果如下,表示安装成功: 为保障系统安全,需要生成一个密文密码用于登录Jupyter,放到Jupyter Notebook的配置文件中。 执行如下命令,需要输入两次密码:(进行到Out[3]退出) ipython [root@ecs-notebook python36]# ipython Python 3.6.6 (default, Dec 20 2021, 09:32:25) Type 'copyright', 'credits' or 'license' for more information IPython 7.16.2 -- An enhanced Interactive Python. Type '?' for help. In [1]: from notebook.auth import passwd In [2]: passwd() Enter password: Verify password: Out[2]: 'argon2:$argon2id$v=19$m=10240,t=10,p=8$g14BqLddl927n/unsyPlLQ$YmoKJzbUfNG7LcxylJzm90bgbKWUIiHy6ZV+ObTzdcA 执行如下命令生成Jupyter配置文件。 jupyter notebook --generate-config 修改配置文件。 vi ~/.jupyter/jupyter_notebook_config.py 添加如下配置: # -*- coding: utf-8 -*- c.NotebookApp.ip='*' #此处填写ecs对应的内网IP c.NotebookApp.password = u'argon2:$argon2id$v=19$m=10240,t=10,p=8$NmoAVwd8F6vFP2rX5ZbV7w$SyueJoC0a5TbCuHYzqfSx1vQcFvOTTryR+0uk2MNNZA' # 填写步骤2,Out[2]密码生成的密文 c.NotebookApp.open_browser = False # 禁止自动打开浏览器 c.NotebookApp.port = 9999 # 指定端口号 c.NotebookApp.allow_remote_access = True 父主题: MRS对接Jupyter Notebook
  • Linux兼容性列表 主机迁移服务支持的Linux迁移方式包括:Linux文件级迁移、Linux块级迁移。 支持的Linux文件级迁移OS兼容性列表,参见表1。 若您需要将不包含在表1的OS版本源端服务器迁移到华为云,您可以采用以下方式: 使用镜像服务,通过外部镜像文件创建Linux系统盘镜像。 不迁移源端服务器,直接使用公有镜像或市场镜像创建目的端服务器,然后重新部署源端服务器的应用。 使用上云迁移服务。 Linux块级迁移要求源端Glibc版本大于等于2.14,支持的Linux块级迁移内核列表,参见表2。 通过getconf GNU_LIBC_VERSION命令,可以查看Glibc版本。 通过uname -r命令,可以查看到内核版本。 若您需要将不包含在表2的内核的源端服务器迁移到华为云,您可以采用Linux文件级迁移方式。 表1 Linux文件级迁移系统兼容性列表 OS类型 OS版本 位数 是否支持UEFI 备注 Redhat Red Hat Enterprise Linux 6.0(仅支持KVM平台) 64 NO - Red Hat Enterprise Linux 6.1/6.2/6.3/6.4/6.5/6.7/6.8/6.9/6.10 64 NO Red Hat Enterprise Linux 7.0 64 NO Red Hat Enterprise Linux 7.1/7.2/7.3/7.4/7.5/7.6/7.7/7.8/7.9 64 Yes Red Hat Enterprise Linux 8.0/8.1/8.2/8.3/8.4/8.5/8.7/8.8/8.9 64 Yes Red Hat Enterprise Linux 9.0/9.1/9.2/9.3 64 Yes CentOS CentOS 6.0(仅支持KVM平台) 64 NO - CentOS 6.1/6.2/6.3/6.4/6.5/6.6/6.7/6.8/6.9/6.10 64 NO CentOS 7.0 64 NO CentOS 7.1/7.2/7.3/7.4/7.5/7.6/7.7/7.8/7.9 64 Yes CentOS 8.0/8.1/8.2/8.3/8.4/8.5 64 Yes CentOS Stream 8 64 Yes 源端会被识别为CentOS 8.0,不会影响迁移 CentOS Stream 9 64 Yes 源端会被识别为CentOS 9.0,不会影响迁移 Oracle Oracle Linux 6.0/6.1/6.2/6.3/6.4/6.5/6.6/6.7/6.8/6.9/6.10 64 NO - Oracle Linux 7.0 64 NO Oracle Linux 7.1/7.2/7.3/7.4/7.5/7.6/7.7/7.8/7.9 64 Yes Oracle Linux 8.0/8.1/8.2/8.3/8.4/8.5/8.6/8.7/8.8 64 Yes Oracle Linux 9.0/9.1/9.2/9.3 64 Yes SUSE SUSE Linux Enterprise Server 11 SP3 64 NO - SUSE Linux Enterprise Server 11 SP4 64 Yes SUSE Linux Enterprise Server 12 SP0 64 Yes 该版本不支持btrfs SUSE Linux Enterprise Server 12 SP1/SP2/SP3/SP4/SP5 64 Yes - SUSE Linux Enterprise Server 15 SP0/SP1/SP2/SP3/SP5 64 Yes SUSE Linux Enterprise Server 15 SP4 64 NO Ubuntu Ubuntu Server 12.04 64 NO - Ubuntu Server 12.10 64 Yes Ubuntu Server 13.10 64 Yes Ubuntu Server 14.04/14.10 64 Yes Ubuntu Server 15.04/15.10 64 Yes Ubuntu Server 16.04/16.10 64 Yes Ubuntu Server 17.04/17.10 64 Yes Ubuntu Server 18.04 64 Yes Ubuntu Server 18.10 64 NO Ubuntu Server 19.04/19.10 64 Yes Ubuntu Server 20.04 64 Yes Ubuntu Server 21.04/21.10 64 Yes Ubuntu Server 22.04/22.10 64 Yes Ubuntu Server 23.04/23.10 64 Yes Debian Debian GNU/Linux 6.0.10 64 NO - Debian GNU/Linux 7.11.0 64 NO Debian GNU/Linux 8.0/8.1/8.2/8.3/8.4/8.5/8.6/8.7/8.8/8.9/8.10/8.11 64 NO Debian GNU/Linux 9.0/9.1/9.2/9.3/9.4/9.5/9.6/9.7/9.8/9.9/9.10/9.11/9.12/9.13 64 NO Debian GNU/Linux 10.0/10.1/10.2/10.3/10.4/10.5/10.6/10.7/10.8/10.9/10.10/10.11/10.12/10.13 64 Yes Debian GNU/Linux 11.0/11.1/11.2 64 Yes Debian GNU/Linux 11.3/11.4/11.5/11.7 64 NO Fedora Fedora 23/24/25/26/27/28/29/33/34/35/36/37 64 NO - Fedora 30/31/32/38/39 64 Yes EulerOS EulerOS 2.2.0 64 NO - EulerOS 2.3.0 64 NO EulerOS 2.5.0 64 NO Amazon Linux Amazon Linux 2.0 64 NO - Amazon Linux 2018.3 64 NO Amazon Linux 2023 AMI 64 NO - Alibaba Cloud Linux Alibaba Cloud Linux 3.2104 64 Yes - Alibaba Cloud Linux 3.2104 快速启动版 64 NO Alibaba Cloud Linux 3.2104 SCC版 64 Yes Alibaba Cloud Linux 3.2104 等保2.0三级版 64 NO Alibaba Cloud Linux 2.1903 LTS 64 Yes Alibaba Cloud Linux 2.1903 LTS SCC版 64 NO Alibaba Cloud Linux 2.1903 LTS 快速启动版 64 NO Alibaba Cloud Linux 2.1903 LTS 等保2.0三级版 64 NO AlmaLinux AlmaLinux OS 8.3/8.4/8.5/8.6/8.7/8.8/8.9/9.0/9.1/9.2/9.3 64 Yes - TencentOS TencentOS Server 2.4 64 NO - TencentOS Server 2.4 (TK4) 64 NO TencentOS Server 3.1 (TK4) 64 NO Kylin Kylin Linux Advanced Server V10 (Sword) 64 NO - OpenEuler OpenEuler 20.03 64 NO - OpenEuler 21.09 64 NO OpenSUSE OpenSUSE 15.1/15.2/15.3/15.4 64 NO - OpenSUSE 15.0/15.5 64 Yes - Rocky Linux Rocky Linux 8.5/8.6/8.7/9.0/9.1 64 NO - Rocky Linux 8.3/8.4/8.8/8.9/9.2/9.3 64 Yes 表2 Linux块级迁移内核支持列表 OS类型 内核版本 CentOS 2.6.32-131.0.15.el6.x86_64 2.6.32-220.13.1.el6.x86_64 2.6.32-220.17.1.el6.x86_64 2.6.32-220.2.1.el6.x86_64 2.6.32-220.23.1.el6.x86_64 2.6.32-220.4.1.el6.x86_64 2.6.32-220.4.2.el6.x86_64 2.6.32-220.7.1.el6.x86_64 2.6.32-220.el6.x86_64 2.6.32-279.11.1.el6.x86_64 2.6.32-279.1.1.el6.x86_64 2.6.32-279.14.1.el6.x86_64 2.6.32-279.19.1.el6.x86_64 2.6.32-279.2.1.el6.x86_64 2.6.32-279.22.1.el6.x86_64 2.6.32-279.5.1.el6.x86_64 2.6.32-279.5.2.el6.x86_64 2.6.32-279.9.1.el6.x86_64 2.6.32-279.el6.x86_64 2.6.32-358.0.1.el6.x86_64 2.6.32-358.11.1.el6.x86_64 2.6.32-358.14.1.el6.x86_64 2.6.32-358.18.1.el6.x86_64 2.6.32-358.2.1.el6.x86_64 2.6.32-358.23.2.el6.x86_64 2.6.32-358.6.1.el6.x86_64 2.6.32-358.6.2.el6.x86_64 2.6.32-358.el6.x86_64 2.6.32-431.11.2.el6.x86_64 2.6.32-431.1.2.0.1.el6.x86_64 2.6.32-431.17.1.el6.x86_64 2.6.32-431.20.3.el6.x86_64 2.6.32-431.20.5.el6.x86_64 2.6.32-431.23.3.el6.x86_64 2.6.32-431.29.2.el6.x86_64 2.6.32-431.3.1.el6.x86_64 2.6.32-431.5.1.el6.x86_64 2.6.32-431.el6.x86_64 2.6.32-504.12.2.el6.x86_64 2.6.32-504.1.3.el6.x86_64 2.6.32-504.16.2.el6.x86_64 2.6.32-504.23.4.el6.x86_64 2.6.32-504.30.3.el6.x86_64 2.6.32-504.3.3.el6.x86_64 2.6.32-504.8.1.el6.x86_64 2.6.32-504.el6.x86_64 2.6.32-573.1.1.el6.x86_64 2.6.32-573.12.1.el6.x86_64 2.6.32-573.18.1.el6.x86_64 2.6.32-573.22.1.el6.x86_64 2.6.32-573.26.1.el6.x86_64 2.6.32-573.3.1.el6.x86_64 2.6.32-573.7.1.el6.x86_64 2.6.32-573.8.1.el6.x86_64 2.6.32-573.el6.x86_64 2.6.32-642.11.1.el6.x86_64 2.6.32-642.1.1.el6.x86_64 2.6.32-642.13.1.el6.x86_64 2.6.32-642.13.2.el6.x86_64 2.6.32-642.15.1.el6.x86_64 2.6.32-642.3.1.el6.x86_64 2.6.32-642.4.2.el6.x86_64 2.6.32-642.6.1.el6.x86_64 2.6.32-642.6.2.el6.x86_64 2.6.32-642.el6.x86_64 2.6.32-696.10.1.el6.x86_64 2.6.32-696.10.2.el6.x86_64 2.6.32-696.10.3.el6.x86_64 2.6.32-696.1.1.el6.x86_64 2.6.32-696.13.2.el6.x86_64 2.6.32-696.16.1.el6.x86_64 2.6.32-696.18.7.el6.x86_64 2.6.32-696.20.1.el6.x86_64 2.6.32-696.23.1.el6.x86_64 2.6.32-696.28.1.el6.x86_64 2.6.32-696.30.1.el6.x86_64 2.6.32-696.3.1.el6.x86_64 2.6.32-696.3.2.el6.x86_64 2.6.32-696.6.3.el6.x86_64 2.6.32-696.el6.x86_64 2.6.32-71.14.1.el6.x86_64 2.6.32-71.18.1.el6.x86_64 2.6.32-71.18.2.el6.x86_64 2.6.32-71.24.1.el6.x86_64 2.6.32-71.29.1.el6.x86_64 2.6.32-71.7.1.el6.x86_64 2.6.32-71.el6.x86_64 2.6.32-754.10.1.el6.x86_64 2.6.32-754.11.1.el6.x86_64 2.6.32-754.12.1.el6.x86_64 2.6.32-754.14.2.el6.x86_64 2.6.32-754.15.3.el6.x86_64 2.6.32-754.17.1.el6.x86_64 2.6.32-754.18.2.el6.x86_64 2.6.32-754.2.1.el6.x86_64 2.6.32-754.22.1.el6.x86_64 2.6.32-754.23.1.el6.x86_64 2.6.32-754.24.2.el6.x86_64 2.6.32-754.24.3.el6.x86_64 2.6.32-754.25.1.el6.x86_64 2.6.32-754.27.1.el6.x86_64 2.6.32-754.28.1.el6.x86_64 2.6.32-754.29.1.el6.x86_64 2.6.32-754.29.2.el6.x86_64 2.6.32-754.30.2.el6.x86_64 2.6.32-754.31.1.el6.x86_64 2.6.32-754.33.1.el6.x86_64 2.6.32-754.35.1.el6.x86_64 2.6.32-754.3.5.el6.x86_64 2.6.32-754.6.3.el6.x86_64 2.6.32-754.9.1.el6.x86_64 2.6.32-754.el6.x86_64 3.10.0-1062.1.1.el7.x86_64 3.10.0-1062.12.1.el7.x86_64 3.10.0-1062.1.2.el7.x86_64 3.10.0-1062.18.1.el7.x86_64 3.10.0-1062.4.1.el7.x86_64 3.10.0-1062.4.2.el7.x86_64 3.10.0-1062.4.3.el7.x86_64 3.10.0-1062.7.1.el7.x86_64 3.10.0-1062.9.1.el7.x86_64 3.10.0-1062.el7.x86_64 3.10.0-1127.10.1.el7.x86_64 3.10.0-1127.13.1.el7.x86_64 3.10.0-1127.18.2.el7.x86_64 3.10.0-1127.19.1.el7.x86_64 3.10.0-1127.8.2.el7.x86_64 3.10.0-1127.el7.x86_64 3.10.0-1160.2.1.el7.x86_64 3.10.0-1160.2.2.el7.x86_64 3.10.0-1160.el7.x86_64 3.10.0-123.1.2.el7.x86_64 3.10.0-123.13.1.el7.x86_64 3.10.0-123.13.2.el7.x86_64 3.10.0-123.20.1.el7.x86_64 3.10.0-123.4.2.el7.x86_64 3.10.0-123.4.4.el7.x86_64 3.10.0-123.6.3.el7.x86_64 3.10.0-123.8.1.el7.x86_64 3.10.0-123.9.2.el7.x86_64 3.10.0-123.9.3.el7.x86_64 3.10.0-123.el7.x86_64 3.10.0-229.11.1.el7.x86_64 3.10.0-229.1.2.el7.x86_64 3.10.0-229.14.1.el7.x86_64 3.10.0-229.20.1.el7.x86_64 3.10.0-229.4.2.el7.x86_64 3.10.0-229.7.2.el7.x86_64 3.10.0-229.el7.x86_64 3.10.0-327.10.1.el7.x86_64 3.10.0-327.13.1.el7.x86_64 3.10.0-327.18.2.el7.x86_64 3.10.0-327.22.2.el7.x86_64 3.10.0-327.28.2.el7.x86_64 3.10.0-327.28.3.el7.x86_64 3.10.0-327.3.1.el7.x86_64 3.10.0-327.36.1.el7.x86_64 3.10.0-327.36.2.el7.x86_64 3.10.0-327.36.3.el7.x86_64 3.10.0-327.4.4.el7.x86_64 3.10.0-327.4.5.el7.x86_64 3.10.0-327.el7.x86_64 3.10.0-514.10.2.el7.x86_64 3.10.0-514.16.1.el7.x86_64 3.10.0-514.21.1.el7.x86_64 3.10.0-514.21.2.el7.x86_64 3.10.0-514.2.2.el7.x86_64 3.10.0-514.26.1.el7.x86_64 3.10.0-514.26.2.el7.x86_64 3.10.0-514.6.1.el7.x86_64 3.10.0-514.6.2.el7.x86_64 3.10.0-514.el7.x86_64 3.10.0-693.11.1.el7.x86_64 3.10.0-693.11.6.el7.x86_64 3.10.0-693.1.1.el7.x86_64 3.10.0-693.17.1.el7.x86_64 3.10.0-693.21.1.el7.x86_64 3.10.0-693.2.1.el7.x86_64 3.10.0-693.2.2.el7.x86_64 3.10.0-693.5.2.el7.x86_64 3.10.0-693.el7.x86_64 3.10.0-862.11.6.el7.x86_64 3.10.0-862.14.4.el7.x86_64 3.10.0-862.2.3.el7.x86_64 3.10.0-862.3.2.el7.x86_64 3.10.0-862.3.3.el7.x86_64 3.10.0-862.6.3.el7.x86_64 3.10.0-862.9.1.el7.x86_64 3.10.0-862.el7.x86_64 Ubuntu 4.4.0-21-generic 4.4.0-22-generic 4.4.0-24-generic 4.4.0-28-generic 4.4.0-31-generic 4.4.0-34-generic 4.4.0-36-generic 4.4.0-38-generic 4.4.0-42-generic 4.4.0-43-generic 4.4.0-45-generic 4.4.0-47-generic 4.4.0-51-generic 4.4.0-53-generic 4.4.0-57-generic 4.4.0-59-generic 4.4.0-62-generic 4.4.0-63-generic 4.4.0-64-generic 4.4.0-66-generic 4.4.0-67-generic 4.4.0-70-generic 4.4.0-71-generic 4.4.0-72-generic 4.4.0-75-generic 4.4.0-77-generic 4.4.0-78-generic 4.4.0-79-generic 4.4.0-81-generic 4.4.0-83-generic 4.4.0-87-generic 4.4.0-89-generic 4.4.0-91-generic 4.4.0-92-generic 4.4.0-93-generic 4.4.0-96-generic 4.4.0-97-generic 4.4.0-98-generic 4.4.0-101-generic 4.4.0-103-generic 4.4.0-104-generic 4.4.0-116-generic 4.4.0-119-generic 4.4.0-121-generic 4.4.0-122-generic 4.4.0-124-generic 4.4.0-127-generic 4.4.0-128-generic 4.4.0-130-generic 4.4.0-131-generic 4.4.0-133-generic 4.4.0-134-generic 4.4.0-135-generic 4.4.0-137-generic 4.4.0-138-generic 4.4.0-139-generic 4.4.0-140-generic 4.4.0-141-generic 4.4.0-142-generic 4.4.0-143-generic 4.4.0-145-generic 4.4.0-146-generic 4.4.0-148-generic 4.4.0-150-generic 4.4.0-151-generic 4.4.0-154-generic 4.4.0-157-generic 4.4.0-159-generic 4.4.0-161-generic 4.4.0-164-generic 4.4.0-165-generic 4.4.0-166-generic 4.4.0-168-generic 4.4.0-169-generic 4.4.0-170-generic 4.4.0-171-generic 4.4.0-173-generic 4.4.0-174-generic 4.4.0-176-generic 4.4.0-177-generic 4.4.0-178-generic 4.4.0-179-generic 4.4.0-184-generic 4.4.0-185-generic 4.4.0-186-generic 4.4.0-187-generic 4.4.0-189-generic 4.4.0-190-generic 4.4.0-193-generic 4.4.0-194-generic 4.4.0-197-generic 4.4.0-198-generic 4.4.0-200-generic 4.4.0-201-generic 4.4.0-203-generic 4.4.0-204-generic 4.15.0-20-generic 4.15.0-22-generic 4.15.0-23-generic 4.15.0-24-generic 4.15.0-29-generic 4.15.0-30-generic 4.15.0-32-generic 4.15.0-33-generic 4.15.0-34-generic 4.15.0-36-generic 4.15.0-38-generic 4.15.0-39-generic 4.15.0-42-generic 4.15.0-43-generic 4.15.0-44-generic 4.15.0-45-generic 4.15.0-46-generic 4.15.0-47-generic 4.15.0-48-generic 4.15.0-50-generic 4.15.0-51-generic 4.15.0-52-generic 4.15.0-54-generic 4.15.0-55-generic 4.15.0-58-generic 4.15.0-60-generic 4.15.0-62-generic 4.15.0-64-generic 4.15.0-65-generic 4.15.0-66-generic 4.15.0-69-generic 4.15.0-70-generic 4.15.0-72-generic 4.15.0-74-generic 4.15.0-76-generic 4.15.0-101-generic 4.15.0-106-generic 4.15.0-108-generic 4.15.0-109-generic 4.15.0-111-generic 4.15.0-112-generic 4.15.0-115-generic 4.15.0-117-generic 4.15.0-118-generic 4.15.0-121-generic 4.15.0-122-generic 4.15.0-123-generic 4.15.0-124-generic 4.15.0-128-generic 4.15.0-129-generic 4.15.0-130-generic 4.15.0-132-generic 4.15.0-134-generic 4.15.0-135-generic 4.15.0-136-generic 4.15.0-137-generic SUSE 4.4.21-69-default 4.12.14-94.41-default 4.12.14-95.29-default 4.12.14-122.46-default 4.12.14-197.64-default 父主题: 兼容性列表
  • 处理步骤 打开源端Agent config目录。 Python3版本为:C:\SMS-Agent-Py3\config,Python2版本为:C:\SMS-Agent-Py2\config。 打开g-property.cfg文件,将enablesnapshot参数改成False,如图1所示。 然后重启迁移任务,这样迁移任务将跳过制作快照。 图1 修改配置参数 跳过制作快照可能会导致迁移时目的端与源端数据不在同一时间点,目的端业务可能无法正常启动。可以在源端没有业务时停止源端软件运行,然后执行同步操作,这样就能保证目的端和源端数据在同一时间点。
  • 启用数据一致性校验 参考同步增量数据,打开“同步”窗口。 开启“是否校验数据一致性”功能,并输入需要进行数据一致性校验的目录路径。请务必输入正确路径,路径错误或路径下不存在文件时,校验结果中会显示校验文件数量为0。 需要校验的数据量越大,则一致性校验的用时越长,建议仅对关键目录进行校验。 为避免校验数据量过大,以下路径将被屏蔽: Linux系统的 "/","/etc","/dev","/sys", "/usr","/boot", "/run"目录。 Windows系统的分区根目录,如:C:\,D:\; 选择校验模式。 快速校验:只比对文件的大小和最后修改时间。 CRC校验:使用CRC64校验码对文件内容进行强校验。CRC校验需要以二进制形式扫描文件内容,占用磁盘IO性能较多且用时较长。 (可选)选择是否启用复检。只有进行过至少一次一致性校验后,才可以打开复检选项,启用复检将只对上一次校验结果中不一致的文件进行校验。 配置完成后,单击“是”,开始增量数据同步并进行数据一致性校验。当同步及校验完成后,可以查看校验结果。
  • 注意事项 使用该功能前,建议停止源端业务(涉及数据库时需要关闭数据库程序,而不是暂停),否则源端数据一直发生变化,导致源端和目的端数据存在差异。 源端存在数据一直变化的目录,如:SMS-Agent的安装目录,/var/log系统日志目录等,属于正常现象,不代表主机迁移过程中产生了数据差异。 数据一致性校验时长与需要校验的文件个数、大小成正比,部分场景可能耗时较长,业务割接耗时会增加,需要您自行评估对业务的影响。 该功能可能占用较多的磁盘IO,请评估对源端业务的影响。
  • 检查目的端安全组是否开放8899端口 登录SMS管理控制台。 在目的端弹性云服务器列表页面,单击要查看的弹性云服务器名称,进入弹性云服务器详情页。 在弹性云服务器详情页,单击“安全组”,查看安全组是否开放8899端口以及是否有指定源地址IP。 如果入方向规则中没有开放8899端口,请添加一条8899端口的规则;如果有8899端口的规则但是源地址IP不是0.0.0.0/0或源端服务器IP,请修改为0.0.0.0/0。 具体修改方式请参考如何配置目的端服务器安全组规则?。
  • 修订记录 发布日期 修订记录 2024-04-15 第五十五次正式发布。 新增配置网络故障自动恢复程序 2024-03-12 第五十四次正式发布。 新增迁移可以使用临时AK/SK吗? 新增迁移可以设置限速吗? 新增目的端支持的ECS规格有哪些? 新增错误码排查与解决方法 2023-11-15 第五十二次正式发布。 新增如何校验源端与目的端的数据一致性? 2023-09-07 第五十一次正式发布。 新增关于Linux主机增量同步时,默认不同步的目录说明 2023-07-25 第五十次正式发布。 新增SMS-Agent配置文件中的证书验证开关参数说明 2023-05-24 第四十九次正式发布。 新增如何设置Linux文件级迁移,多进程个数? 2023-02-28 第四十七次正式发布。 新增Linux迁移,设置迁移Agent资源限制 新增Linux系统迁移,如何合并磁盘? 新增Linux系统迁移,如何拆分磁盘? 更新Linux文件级迁移,如何指定不迁移、不同步的文件目录 更新Linux块迁移,配置数据是否压缩? 更新迁移完成后,目的端主机已启动并有新数据写入,再次进行源端增量数据同步,目的端新增数据会不会被源端数据覆盖? 2023-01-29 第四十六次正式发布。 新增如何解决Linux主机迁移后时间异常问题? 2023-01-06 第四十五次正式发布。 新增迁移网络质量评估 更新迁移完成后,目的端主机已启动并有新数据写入,再次进行源端增量数据同步,目的端新增数据会不会被源端数据覆盖? 2022-12-26 第四十四次正式发布。 新增Linux块迁移,默认资源占用情况说明 新增Linux块迁移,配置数据是否压缩? 新增Linux块迁移,为什么实际迁移速率显示很低? 新增关于迁移完成后,Windows系统、软件的激活说明 2022-12-02 第四十三次正式发布。 新增如何获取SMS域名? 新增影响迁移速度的因素有哪些? 更新迁移完成后,如何配置yum源? 2022-11-14 第四十二次正式发布。 新增源端服务器SSH端口非默认,是否影响迁移? 2022-10-09 第四十一次正式发布。 新增Linux文件级迁移完成后,进行同步操作时,如何设置只同步指定目录下的文件? 新增SMS.0609 检测到旧版本残留,请退出当前agent程序,完全卸载agent后,重新安装最新版 新增SMS.1353: Bind mount or repeated mount detected on /xxx of the source server. 新增SMS.1352: Unknown physical volumes detected on the source server. 新增SMS.1351: Mount point /xxx detected on the source server, which has no free space. Ensure that there is at least 1 MB of space. 2022-09-27 第四十次正式发布。 新增Windows迁移过程中,源端SMS-Agent突然退出,导致与主机迁移控制台断开连接。 更新迁移源端服务器的约束和限制。 2022-08-29 第三十九正式发布。 新增迁移完成后,为什么已迁移数据量小于总数据量? 更新迁移后目的端与源端相比有哪些变化? 2022-08-08 第三十八次正式发布。 更新为什么Windows系统迁移完成后,目的端只能看到系统盘? 更新如何获取IAM用户的AK/SK? 更新兼容性列表与使用限制有哪些? 2022-07-20 第三十七次正式发布。 新增是否支持使用企业联邦用户(虚拟IAM用户)的AK,SK进行SMS-Agent的启动鉴权? 新增首次全量迁移完成后,修改源端服务器密码,执行同步操作会同步修改后的源端密码吗? 2022-06-22 第三十六次正式发布。 新增如何卸载目的端临时系统盘并挂载自身系统盘? 更新如何查找SMS的运行日志? 2022-06-08 第三十五次正式发布。 新增SMS.0410 获取虚拟机的网卡信息失败 更新迁移后目的端服务器的密码会发生哪些变化?。 2022-05-07 第三十四次正式发布。 新增SMS.6562:component i386-pc not found on source server. For solution, see SMS API Reference. 新增SMS.6563:File initrd or initramfs of the xxxx version not found under /boot directory. For solution, see SMS API Reference. 新增迁移谷歌云平台服务器,选择是否禁用部分服务? 2022-04-22 第三十三次正式发布。 新增SMS.0303 “域名联通失败”该如何处理?。 2022-03-17 第三十二次正式发布。 新增Linux系统调整磁盘分区时,为什么物理卷是否迁移无法选择?。 新增Linux系统调整磁盘分区时,为什么逻辑卷是否迁移无法选择?。 新增卷组和磁盘分区大小调整范围。 新增源端系统盘大小超过1 TB时,如何迁移? 2022-02-17 第三十一次正式发布。 新增Linux操作系统,启动Agent时,磁盘信息采集失败,该如何处理?。 更新Linux文件级迁移,如何指定不迁移、不同步的文件目录。 2021-12-20 第三十次正式发布。 更新如何使迁移后镜像名称与操作系统保持一致?。 更新如何获取IAM用户的AK/SK?。 2021-11-17 第二十九次正式发布。 新增Windows系统迁移完成,启动/登录系统后出现蓝屏并重启章节。 新增Windows迁移后无法启动,KVM驱动或注册表缺失章节。 更新SMS.0203 源端连接API网关超时章节。 2021-10-29 第二十八次正式发布。 新增为什么阿里云Windows系统的GPT磁盘,迁移到华为云时对应磁盘容量需要大1G?章节。 新增迁移过程中是否可以释放/修改弹性公网IP(EIP)?章节。 更新SMS.3802 与目的服务器建立SSH连接失败章节。 2021-09-11 第二十七次正式发布。 新增迁移完成后,目的端主机已启动并有新数据写入,再次进行源端增量数据同步,目的端新增数据会不会被源端数据覆盖?章节。 新增迁移配置完成,保存配置时,提示“保存配置失败”怎么处理?章节。 新增Linux文件级迁移,如何指定不迁移、不同步的文件目录章节。 新增目的端服务器的要求以及创建方法章节。 新增主机迁移服务是否支持迁移自建的数据库、大数据以及网站等服务章节。 新增SMS.1901 Agent无法读取磁盘信息章节。 更新如何选择目的端服务器?章节。 更新迁移需要多长时间?章节。 更新Linux系统提示“/tmp卷空间不足导致agent无法启动"该如何处理?章节。 2021-09-03 第二十六次正式发布。 新增配置目的端时,提示“您选择目的端的某些磁盘比源端对应要迁移磁盘小,不能满足要求,请重新选择”怎么处理?章节。 新增主机迁移服务是否支持目的端使用本地磁盘章节。 2021-08-11 第二十五次正式发布。 新增迁移完成后,“删除目的端配置”和“删除”此服务器是否会影响源端和目的端服务器?章节。 新增SMS.1106 删除磁盘***失败”章节。 2021-07-27 第二十四次正式发布。 新增当源端无法通过公网访问华为云时,如何通过配置代理服务器访问华为云?章节。 2021-07-09 第二十三次正式发布。 新增迁移完成后,目的端服务器存在源端云服务商相关服务的Agent插件章节。 新增Windows 64位操作系统迁移后,系统识别的可用安装内存(RAM)小于实际内存章节。 2021-06-08 第二十二次正式发布。 新增主机迁移服务涉及的快照有哪些?章节。 新增SELinux配置错误,无法进入系统章节。 新增Linux启动Agent时提示“启动SMS Agent失败!磁盘”章节。 更新迁移Agent与主机迁移服务自动断开连接时,如何重新建立连接?章节。 更新Windows迁移后无法上网章节。 更新SMS.0202 AK,SK鉴权失败,请检查AK,SK是否正确章节。 更新SMS.1105 创建磁盘失败问题章节。 更新迁移后目的端服务器的密码会发生哪些变化?章节。 更新如何对迁移Agent进行软件完整性校验?章节。 更新如何解决/boot分区挂载了xfs文件系统卷引起的grub问题?章节。 2021-05-19 第二十一次正式发布。 更新SMS.0203 源端连接API网关超时章节。 新增如何判断迁移任务是不是卡住?章节。 新增MySQL数据库迁移后无法启动章节。 2021-04-27 第二十次正式发布。 更新SMS.1105 创建磁盘失败问题章节。 更新如何查找SMS的运行日志?章节。 2021-04-14 第十九次正式发布。 更新如何解决/boot分区挂载了xfs文件系统卷引起的grub问题?章节。 更新SMS.0805 迁移分区到目的端失败章节。 更新SMS.0204 权限不够,请添加相应的细粒度权限章节。 更新SMS.3802 与目的服务器建立SSH连接失败章节。 更新SMS.1807 无法连接目的虚拟机,请检查目的虚拟机IP是否可达,或者8900端口是否开放章节。 新增主机迁移服务与IMS镜像服务的区别章节。 新增如何判断服务器的固件类型?章节。 新增源端连通专线/VPN或内网VPC对等连接,还需要连通公网吗?章节。 新增迁移速度由源端带宽决定还是目的端带宽决定?章节。 新增迁移对磁盘数量、大小是否有限制?章节。 新增源端磁盘过大,是否可以迁移到磁盘较小的服务器?章节。 新增无法执行“开始”或“启动目的端”操作章节。 2021-03-09 第十八次正式发布。 优化主机迁移的网络安全配置与条件有哪些?章节。 优化新建迁移任务需要对目的端服务器做哪些准备?章节。 优化如何配置目的端服务器安全组规则?章节。 新增如何使迁移后镜像名称与操作系统保持一致?章节。 2021-03-01 第十七次正式发布。 优化主机迁移服务会收集源端的哪些信息?章节。 优化SMS.3802 与目的服务器建立SSH连接失败章节。 优化主机迁移服务与镜像迁移有什么区别?章节。 2021-02-09 第十六次正式发布。 新增迁移Windows服务器时如何调整分区、磁盘?章节。 新增如何解决创建虚拟机失败?章节。 新增如何判断迁移任务是否完成?章节。 新增是否支持源端服务器中的部分业务上云?章节。 新增目的端操作系统类型和源端操作系统类型是否可以不一致?章节。 新增迁移后目的端服务器的规格会不会发生改变?章节。 新增Windows服务器安装Agent时如何选择“下载”,还是“下载sha256”?章节。 新增华为云没有或者下架了源端操作系统的镜像,能否进行迁移?章节。 2021-02-01 第十五次正式发布。 新增4.9.4 -如何解决提示目的虚拟机重新配置分区信息失败问题?章节。 新增SMS.1204 在源端创建文件失败章节。 新增如何查找SMS的运行日志?章节。 新增Windows Agent双击无法运行章节。 新增如何解决Windows服务器迁移完成后目的端启动进入恢复页面?章节。 新增迁移中升级带宽后,迁移使用的是升级前的带宽还是升级后的带宽?章节。 新增4.7.14 -如何解决创建磁盘失败问题?章节。 新增如何重启Agent?章节。 新增为什么ECS控制台规格/镜像列显示的名称与源端的操作系统名称不一致?章节。 新增SMS.0204 权限不够,请添加相应的细粒度权限章节。 下线“源端是windows 2003系统,迁移后存在网络异常风险”该如何处理?章节。 2021-01-08 第十四次正式发布。 优化Windows迁移后无法上网章节。 优化Windows系统如何排除指定磁盘分区进行迁移章节。 新增如何解决/boot分区挂载了xfs文件系统卷引起的grub问题?章节。 2020-11-05 第十三次正式发布。 新增SMS.6511 源端缺少必要的驱动文件章节。 新增SMS.6533 源端的镜像服务VSS不存在章节。 新增SMS.5102 Linux /tmp卷缺少noexec权限导致无法启动章节。 新增为什么迁移过程中目的端ECS会被锁定?章节。 新增如何解除目的端服务器锁定状态?章节。 2020-10-31 第十二次正式发布。 新增SMS.0515 “源端磁盘信息发生变化,任务执行失败,请删除任务重新启动源端agent”章节。 2020-09-10 第十一次正式发布。 常见问题章节内容结构优化。 2020-07-13 第十次正式发布。 新增首次启动Agent时无法启动该如何处理?章节。 新增Agent启动时提示“utf-8 codec can't decode byte 0xce in position0: invalid continuation byte”该如何处理?章节。 新增如何使用Linux非root用户迁移主机?章节。 2020-02-01 第九次正式发布。 新增创建迁移任务时提示“您选择的目的端与源端固件类型不一样,源端UEFI,目的端BIOS”该如何处理章节。 2020-2-11 第八次正式发布。 新增如何迁移一个账号下的弹性云服务器到另一个账号下?章节。 新增如何从一个区域迁移ECS到另一个区域下?章节。 2019-12-10 第七次正式发布。 新增目的端系统盘无法挂载该如何处理?章节。 2019-09-12 第六次正式发布。 新增“源端是windows 2003系统,迁移后存在网络异常风险”该如何处理?章节。 2019-08-30 第五次正式发布。 新增为什么迁移完成后,源端与目的端文件大小不一致?章节。 新增为什么Windows系统迁移完成后,目的端只能看到系统盘?章节。 2019-06-30 第三次正式发布。 增加如何对迁移Agent进行软件完整性校验?一节。 2019-01-15 第二次正式发布。 修改 如何创建弹性云服务器?和如何选择目的端服务器?,支持将源端服务器迁移到“包年/包月”方式购买的弹性云服务器。 2018-09-30 第一次正式发布。
  • 解决方案 登录源端服务器。 执行mount -l | grep /tmp,返回如下类似结果,说明被指定了noexec权限。 /dev/vdb1 on /tmp type ext4 (rw, noexec, relatime, data=ordered) 重新挂载该块设备到/tmp目录下,挂载时不能指定noexec,或者可以执行mount -o remount exec /tmp以明确指定exec权限。 再次执行mount -l | grep /tmp,返回类似结果即可重启启动Agent进行迁移。 /dev/vdb1 on /tmp type ext4 (rw, relatime, data=ordered)
  • 操作步骤 使用注册的用户名、密码登录Edge控制台,在左侧导航树选择“连接迁移中心”,进入连接迁移中心页面。 在第一步:输入云凭证区域,输入华为云账号的AK/SK,单击“查询项目”按钮。系统会对输入的AK/SK进行验证,验证通过后,即可进行下一步。如果提示AK/SK错误,请参考AK/SK验证失败,如何处理?进行排查处理。 您可以选择是否将输入的AK/SK保存为目的端凭证(推荐您选择“是”)。 选择“否”,与迁移中心连接成功后,输入的AK/SK会被删除。 选择“是”,与迁移中心连接成功后,输入的AK/SK会加密保存在本地,在后续进行迁移时,可以做为目的端凭证发送给源端迁移Agent。 在第二步:关联迁移中心项目区域的项目下拉列表中,选择MgC控制台所创建的迁移项目,Edge会将采集数据上报到该项目。 在第三步:预设当前Edge名称区域,自定义Edge在MgC控制台显示的名称,单击“下一步”按钮,确认要与迁移中心进行连接,单击“确认”按钮。 与迁移中心连接成功后,设置的Edge名称不支持修改。 连接成功后,会进入Edge凭证管理界面,您可以进行如下操作: 打开迁移中心,进入MgC控制台,查看Edge设备连接状态以及管理Edge设备。 添加/修改迁移目的端凭证。 添加源端云平台/主机凭证。
  • 操作步骤 在Edge凭证管理界面的桶配置区域,单击“配置”按钮,弹出“桶配置”窗口。 根据表1,配置日志桶。 表1 日志桶参数配置说明 参数 配置说明 对象存储终端节点 填写日志桶所在区域的终端节点(Endpiont),获取方法请参见地区和终端节点。单击“校验”,获取桶列表。 桶名称 在下拉列表中,选择需要做为日志桶的桶名。 自定义文件夹(可选) 指定日志文件在日志桶内的存放文件夹,填写以“/”开头的文件夹路径。例如:桶名为“mgc01”,填写的文件夹为“/test”,则日志文件存放路径为:obs://mgc01/test/bigdata/task/日期/任务实例ID/日志文件。 如果不指定文件夹(不填写),系统将在日志桶内自动创建一个名为“bigdata”的默认文件夹,日志文件存放路径为:obs://桶名/bigdata/task/日期/任务实例ID/日志文件。 如果指定的文件夹不存在,上传日志文件时系统将自动创建该文件夹。 日志桶参数配置完成后,单击“确认”按钮,设置日志桶完成。 删除桶配置,不会删除桶以及桶内已有文件,但无法继续使用日志上传功能。
  • 解决方法 将占用27080端口的应用进程停用。 在将应用进程停用前,请自行评估风险并承担相应后果。 Linux主机: 输入如下命令,查询占用端口的应用ID。 netstat -tlnp | grep 27080 例如,查询到的应用ID为11083。 输入如下命令,根据获得的应用ID查询应用进程。此处的应用ID仅为举例,请根据实际查询结果进行替换。 ps -ef | grep 11083 确认占用端口的应用可以停用后,执行如下命令,将该应用进程停止。然后重新安装Edge。 kill -9 11083 Windows主机: 打开Windows命令行窗口,输入如下命令,查询占用端口的应用ID。 netstat -ano | findstr 27080 例如,查询到的应用ID为5816。以下应用ID仅为举例,请以实际查询结果为准。 打开任务管理器,在“详细信息”页签,根据获得的应用ID查找应用进程。 确认占用端口的应用可以停用后,选择应用进程,单击鼠标右键,选择“结束任务”,将该应用进程停止。然后重新安装Edge。
  • 过滤策略说明 过滤策略参数填写通配符规则说明和约束说明参见表7。 表7 过滤策略参数说明 参数 说明 填写规则 约束说明 黑名单 命中黑名单规则,则文件不进行迁移/一致性对比。支持精确匹配和模糊匹配。 精确匹配,填写文件绝对路径 全路径精确匹配,特殊字符用反斜杠(\)转义 模糊匹配 *匹配任何字符0个或者多个,但不匹配斜杠(/) 使用**匹配任何字符0个或者多个,包括斜杠(/) ?匹配除斜杠(/)之外的任何字符,只能匹配一个 {和}定义元素之间的选择:包含一个以逗号分隔的模式列表, 其中任何一种模式都可能匹配,可以包含通配符。 特殊字符可以在它们之前使用 \进行转义,\后面为通配符时,表示转义,否则表示\本身 除{ 和 } 以外,不能出现连续的规则符号,例如:***、*?、**?、?*、?**、*{*、*}*、*}?、?{*、{*}、{,}、{*,、 ,*}、,*,。 { 和 } 之间的模式,只能使用*做通配符。 { 和 } 之间的模式,不能有{}嵌套。 文件绝对路径在黑名单和白名单同时命中,则黑名单生效,即不做迁移。 需要配置多个匹配规则时,用英文分号隔开。 白名单 白名单为空时,迁移所有文件。 白名单不为空时,仅对绝对路径命中白名单规则的文件进行迁移/一致性对比。 时间段 配置时间段,根据配置,迁移最后修改时间在配置时间段内的文件或者文件夹。 开始时间和结束时间可以配置为空,为空时表示不限制,时间可以精确到分钟。
  • 更改目的端规格 在资源配置明细区域,单击主机资源操作列的“更改目的端规格”,右侧弹出资源详情窗口。 单击主机规格后的“更改规格”,可以修改目的端主机规格和镜像。 单击磁盘对应的目的端规格处的“更改规格”,可以修改目的端磁盘的存储类型和资源总用量(磁盘容量)。Linux主机的磁盘容量可以根据源端主机磁盘的实际使用量,进行缩容,即小于源端磁盘容量。更改磁盘规格后,系统会自动判断是否进行了磁盘缩容,在主机资源配置明细列表中的“磁盘缩容”列,“是”代表已缩容;“否”代表未缩容。 系统盘容量取值范围为:40 G~1024 G 数据盘容量取值范围为:10 G~32768 G 当前仅支持Linux主机磁盘缩容,需确保缩容后容量大于源端实际使用量。 跨可用区迁移场景仅支持扩容,即使配置缩容,系统也会自动创建一个与源端磁盘容量相同的目的端磁盘。
共100000条