DeepStream-OBS-产品介绍

2024-01-16 10:41:20

适用于:Linux 商品简介:deepstream是一款开源服务器,其灵感来自金融交易技术背后的概念。它允许客户端和后端服务同步数据、发送消息并以非常高的速度和规模规划rpc,本商品额外支持OBS作为存储。 商品亮点:相对于社区版,额外支持OBS 商品说明 版本: V1.0 交付方式: 镜像 适用于: Linux 上架日期: 2023-06-08 13:17:15.0 deepstream是一款开源服务器,其灵感来自金融交易技术背后的概念。它允许客户端和后端服务同步数据、发送消息并以非常高的速度和规模规划rpc,相较于社区版,本商品额外支持OBS作为存储。 查看详情

Twitter Heron-产品介绍

2024-01-16 10:41:18

适用于:Linux 商品简介:Heron 是一个实时分布式计算引擎,专门设计用于处理大规模的实时数据流。Heron 的目标是提供更好的性能、可伸缩性和可维护性,以替代 Apache Storm。 商品亮点:新增OBS Uploader 商品说明 版本: V1.0 交付方式: 镜像 适用于: Linux 上架日期: 2024-01-03 03:00:24.0 Heron 是一个实时分布式计算引擎,专门设计用于处理大规模的实时数据流。它最初由 Twitter 开发,并于2016年开源。Heron 的目标是提供更好的性能、可伸缩性和可维护性,以替代 Twitter 之前使用的 Apache Storm。 Heron 具有以下特点: 高性能: Heron 在设计上注重性能,并通过多方面的优化提供了更高的吞吐量和低延迟。 可伸缩性: Heron 被设计为可水平扩展的系统,可以轻松地适应不断增长的数据流处理需求。 可维护性: 提供了丰富的监控和故障排除工具,以便更容易地在生产环境中维护和管理。 多语言支持: Heron 支持多种编程语言,包括 Java、Python 和 C++,这使得开发者能够使用他们熟悉的语言进行应用程序开发。 与其他数据流处理框架兼容: Heron 可以与不同的数据流处理框架集成,包括 Apache Storm。这种兼容性使得迁移现有的 Storm 应用程序到 Heron 更为容易。 动态调整: Heron 具有动态调整的能力,可以根据工作负载的变化自动调整资源,以确保系统的稳定性和高效性。 容错性: 提供了容错机制,能够在节点故障时进行故障转移,确保处理的数据流不会丢失。 开源: Heron 是开源的,这意味着任何人都可以访问其源代码,并根据自己的需求进行修改和定制。 总体而言,Heron 旨在为实时数据处理提供高性能、可伸缩和可维护的解决方案,适用于需要处理大规模实时数据流的应用场景。 查看详情

Alluxio分布式存储系统-产品介绍

2024-01-16 10:41:16

适用于:Linux 商品简介:Alluxio是一个开源的分布式文件系统,它提供简单、高效、可靠的存储和管理大数据的能力。Alluxio的设计目标是实现对大规模数据的一致性访问,并通过分布式文件系统来提高数据的可用性和可靠性。 商品亮点:内置OBS存储 商品说明 版本: V1.0 交付方式: 镜像 适用于: Linux 上架日期: 2023-11-07 02:01:15.0 Alluxio由Apache软件基金会托管,并在GitHub上开源。它支持多种存储格式,包括HDFS、S3、GCS、OBS等,并且可以与Hadoop、Spark等大数据处理框架无缝集成。Alluxio还提供了多种 数据管理 和处理功能,如数据备份、数据恢复、数据压缩等,以满足不同场景下的数据需求。 Alluxio的主要特点包括: ①分布式文件系统:Alluxio将数据分散存储在多个节点上,通过网络进行数据传输和访问,从而提高了数据的可用性和可靠性。 ②高效数据访问:Alluxio通过使用索引和缓存技术,实现了对大数据的高效访问。这使得用户可以快速地获取和处理数据,而不需要等待长时间的磁盘I/O操作。 ③数据一致性:Alluxio通过分布式文件系统实现了数据的一致性访问。这意味着即使在多个节点之间发生故障或数据丢失的情况下,用户仍然可以访问到完整的数据。 ④灵活的数据管理:Alluxio提供了多种数据管理和处理功能,如数据备份、数据恢复、数据压缩等,以满足不同场景下的数据需求。 查看详情

JuiceFS-服务支持

2024-01-16 10:41:16

服务内容:如果一键部署出现异常,可寻求帮助 服务时间:周一至周六 9:00~11:50 14:00~18:00 服务电话:1737504510 服务邮箱:1441256632@qq.com 服务微信:xnx3com 使用指南: JuiceFS使用指南 下载 查看商品详情 立即下载

JuiceFS-产品介绍

2024-01-16 10:41:14

适用于:Linux 商品简介:JuiceFS 是一款面向 云原生 设计的高性能分布式文件系统。提供完备的 POSIX 兼容性,可将 对象存储 接入本地作为海量本地磁盘使用,亦可同时在跨平台、跨地区的不同主机上挂挂载读写 商品亮点:内置华为云OBS对象存储 ,分布式缓存服务Redis 商品说明 版本: V1.0 交付方式: 镜像 适用于: Linux 上架日期: 2023-06-08 13:57:15.0 JuiceFS 是一款面向 云原生 设计的高性能分布式文件系统,在 Apache 2.0 开源协议下发布。提供完备的 POSIX 兼容性,可将几乎所有 对象存储 接入本地作为海量本地磁盘使用,亦可同时在跨平台、跨地区的不同主机上挂载读写。 JuiceFS 采用「数据」与「元数据」分离存储的架构,从而实现文件系统的分布式设计。文件数据本身会被切分保存在对象存储,而元数据则可以保存在 Redis、MySQL、TiKV、SQLite 等多种 数据库 中,你可以根据场景与性能要求进行选择。 JuiceFS 提供了丰富的 API,适用于各种形式数据的管理、分析、归档、备份,可以在不修改代码的前提下无缝对接大数据、机器学习、人工智能等应用平台,为其提供海量、弹性、低价的高性能存储。运维人员不用再为可用性、灾难恢复、监控、扩容等工作烦恼,专注于业务开发,提升研发效率。同时运维细节的简化,对 DevOps 极其友好。 本商品基于华为云 对象存储OBS 提供服务。 查看详情

hadoop生态组件-服务支持

2024-01-16 10:41:13

服务内容:如果一键部署出现异常,可寻求帮助 服务时间:周一至周六 9:00~11:50 14:00~18:00 服务电话:15871724935 服务邮箱:dingxiang26@h-partners.com 使用指南: hadoop-obs分布式系统 下载 查看商品详情 立即下载

hadoop生态组件-产品介绍

2024-01-16 10:41:12

适用于:Linux 商品简介:本商品提供了hadoop生态下,hadoop,spark,hive,flume组件集成OBS 商品亮点:提供开箱即用的hadoop生态服务。可以免去用户下载二进制文件,设置环境变量的过程。 商品说明 版本: V1.0 交付方式: 镜像 适用于: Linux 上架日期: 2023-04-21 07:45:03.0 Hadoop系统提供了分布式存储、计算和资源调度引擎,用于大规模数据处理和分析。OBS服务实现了Hadoop的HDFS协议,在大数据场景中可以替代Hadoop系统中的HDFS服务,实现Spark、MapReduce、Hive等大数据生态与OBS服务的对接,为大数据计算提供“ 数据湖 ”存储。 本 镜像 已经集成了以下组件,并且实现了OBS服务的对接: hive(基于hadoop的 数据仓库 ) 由Facebook开源,最初用于解决海量结构化的日志数据统计问题。 hive定于了一种类似sql的查询语言(hql)将sql转化为mapreduce任务在hadoop上执行。 flume(日志收集工具) cloudera开源的日志收集系统,具有分布式,高可靠,高容错,易于定制和扩展的特点。他将数据从产生,传输,处理并写入目标的路径的过程抽象为数据流,在具体的数据流中,数据源支持在flume中定制数据发送方,从而支持收集各种不同协议数据。 spark: spark是个开源的数据 分析集群计算框架,最初由加州大学伯克利分校AMPLab,建立于HDFS之上。spark与hadoop一样,用于构建大规模,延迟低的数据分析应用。spark采用Scala语言实现,使用Scala作为应用框架。 spark采用基于内存的分布式 数据集 ,优化了迭代式的工作负载以及交互式查询。 与hadoop不同的是,spark与Scala紧密集成,Scala象管理本地collective对象那样管理分布式数据集。spark支持分布式数据集上的迭代式任务,实际上可以在hadoop文件系统上与hadoop一起运行(通过YARN,MESOS等实现) 查看详情

Pentaho数据集成工具-服务支持

2024-01-16 10:41:11

服务内容:一键部署出现异常时,可寻求帮助 服务时间:周一至周五 9:00~11:50 14:00~18:00 服务电话:17375104510 服务邮箱:1441256632@qq.com 服务微信:Acewuye 使用指南: Pentaho使用指南 下载 查看商品详情 立即下载

Pentaho数据集成工具-产品介绍

2024-01-16 10:41:10

适用于:Linux 商品简介:Pentaho Data Integration简称PDI,又称Kettle,是纯 java 开发,开源的 ETL工具,用于数据库间的 数据迁移 。 商品亮点:一键部署,内置OBS对象存储的输入输出控件,VFS新增OBS连接类型,基于Linux部署,已安装图形化界面 商品说明 版本: V1.0 交付方式: 镜像 适用于: Linux 上架日期: 2023-03-09 07:57:02.0 Pentaho Data Integration以Java开发,支持跨平台运行,其特性包括:支持100%无编码、拖拽方式开发ETL数据管道;可对接包括传统 数据库 、文件、大数据平台、接口、流数据等数据源;支持ETL数据管道加入机器学习算法。 本商品增加了华为云 对象存储服务 (OBS)的输入输出控件,并让虚拟文件系统连接(VFS Connections)支持OBS,同时提供Linux客户端可视化操作界面,并且已经安装部署好所需环境,用户购买ECS后直接登陆使用。 查看详情

Enhanced NiFi-服务支持

2024-01-16 10:41:09

服务内容:如果一键部署出现异常,可寻求帮助 服务时间:周一至周六 9:00~11:50 14:00~18:00 服务电话:1737504510 服务邮箱:1441256632@qq.com 服务微信:xnx3com 使用指南: Enhanced version of NiFi 下载 查看商品详情 立即下载

Enhanced NiFi-产品介绍

2024-01-16 10:41:08

适用于:Linux 商品简介:NiFi 是一个易于使用、功能强大而且可靠的流式数据处理和分发系统。NiFi 是为数据流设计,支持从多种数据源动态的拉取数据,并基于WEB图形界面,集成华为云扩展,一键部署 商品亮点:支持通过模板一键部署,购买之后只需等待几分钟,即可使用,集成华为云OBS服务,更多华为云服务待添加 商品说明 版本: V1.0 交付方式: 镜像 适用于: Linux 上架日期: 2023-03-08 07:35:05.0 Enhanced NiFi 简介 NiFi 是一个易于使用、功能强大而且可靠的流式数据处理和分发系统。NiFi 是为数据流设计,支持从多种数据源动态的拉取数据,并基于WEB图形界面,通过拖拽、连接、配置完成基于流程的编程,实现数据采集、处理等功能。 本 镜像 基于NiFi的扩展机制,提供针对华为云服务的扩展,目前支持华为云服务如下: OBS ListOBSProcessor 从obs桶中检索对象列表。对于列出的每个对象,创建一个表示该对象的FlowFile,以便与FetchOBSObject一起获取。此处理器设计为仅在集群中的主节点上运行。如果主节点发生了变化,新的主节点将从前一个节点停止的位置开始,而不会复制所有数据 FetchOBSProcessor 检索OBS对象的内容并将其写入到FlowFile的内容中 PutOBSProcessor 从输入的FlowFile中获取文件流,上传到OBS的指定桶,输入可以是FetchOBSProcessor也可以是其他任意包含文件Content的输入;支持大文件切分上传,当异常时可以以最小的损失恢复大型上传 DeleteOBSProcessor 根据输入的FlowFiles删除华为云OBS桶上的文件。如果试图删除一个不存在的文件,FlowFile将被路由到成功。 [备注] 更加详细的使用以及参数明细,请阅读对应Processor的Usage文档 DWS/DLI/ CDM / SMN /DataArts 下一个版本集成... 查看详情

Vitess-OBS-产品介绍

2024-01-16 10:41:05

适用于:Linux 商品简介:Vitess是一个用于部署、扩展和管理大型MySQ L实例 集群的数据库解决方案。 商品亮点:内置OBS 商品说明 版本: V1.0 交付方式: 镜像 适用于: Linux 上架日期: 2023-12-21 02:10:23.0 Vitess是一个用于部署、扩展和管理大型MySQL实例集群的 数据库 解决方案。Vitess集MySQL数据库的很多重要特性和NoSQL数据库的可扩展性于一体。它的架构设计使得您可以像在物理机上一样在公共云或 私有云 架构中有效运行。它结合并扩展了许多重要的MySQL功能,同时兼具NoSQL数据库的可扩展性。 Vitess能解决以下问题: 1. 支持您对MySQL数据库进行分片来扩展MySQL数据库,应用程序无需做太多更改。 2. 从物理机迁移到私有云或公共云。 3. 部署和管理大量的MySQL实例。 Vitess包含兼容的JDBC和Go数据库驱动程序,使用本地查询协议。此外,它实现了与几乎任何其他语言兼容的MySQL服务器协议。Vitess在过去五年中为YouTube的所有数据库流量提供服务。现在许多企业已经采用Vitess来满足其生产需求。 备份和恢复是由 Vitess 管理的分片提供的集成功能。除了用于数据完整性的备份之外,Vitess 还会为在现有分片中配置新的分片表创建和恢复备份。 本商品已对Vitess的备份功能进行华为云OBS 对象存储 的拓展。 查看详情

Pulsar分布式消息流平台-产品介绍

2024-01-16 10:41:02

适用于:Linux 商品简介:Pulsar是Apache软件基金会的顶级项目,也是下一代云原生分布式消息流平台。它集消息、存储、轻量化函数式计算为一体,采用计算与存储分离架构设计。 商品亮点:内置OBS类型的 云存储 连接器 商品说明 版本: V1.0 交付方式: 镜像 适用于: Linux 上架日期: 2023-11-07 02:06:10.0 Pulsar的主要特性包括: ①支持多种消息模型:Pulsar提供了灵活的消息模型和直观的客户端API,支持发布-订阅模式和点对点模式。 ②持久化存储:Pulsar使用Apache BookKeeper作为其持久化存储,BookKeeper是一个分布式的预写日志(WAL)系统,可以支持创建多个独立的存储库。 ③多租户支持:Pulsar支持多租户,可以为每个租户提供独立的命名空间,以保证数据的安全性和隔离性。 ④高吞吐和强一致性:Pulsar具有高吞吐和强一致性的特性,能够保证大量数据的高效处理和传输。 ⑤Failover模式:在failover模式下,多个consumer允许使用同一个subscription去订阅topic。但是对于给定的topic,broker将选择一个consumer作为该topic的主。 总的来说,Pulsar是一个功能丰富且具有高度扩展性的分布式消息系统,适用于处理大量的数据流和消息传递场景。 查看详情

RocketMQ集群-产品介绍

2024-01-16 10:41:00

适用于:Linux 商品简介:RocketMQ是Apache的一款低延迟、高并发、高可用、高可靠的分布式消息中间件。RocketMQ既可为分布式应用系统提供异步解耦和削峰填谷的能力,同时也具备互联网应用所需的海量消息堆积、高吞吐、可靠重试等特性。 商品亮点:支持通过模板一键部署,购买之后只需等待几分钟,即可使用,一键部署RocketMQ-v4.8集群 商品说明 版本: V1.0 交付方式: 镜像 适用于: Linux 上架日期: 2023-05-10 14:47:33.0 RocketMQ是Apache的一款低延迟、高并发、高可用、高可靠的分布式消息中间件。RocketMQ既可为分布式应用系统提供异步解耦和削峰填谷的能力,同时也具备互联网应用所需的海量消息堆积、高吞吐、可靠重试等特性。 本商品通过Terraform编排华为云资源。在多台ECS服务器上一键部署RocketMQ,并通过ELB统一RocketMQ的nameserver入口,实现RocketMQ集群。 查看详情

DataX-OBS数据同步工具-服务支持

2024-01-16 10:40:59

服务内容:如果一键部署出现异常,可寻求帮助 服务时间:周一至周六 9:00~11:50 14:00~18:00 服务电话:17076012262 服务邮箱:921153866@qq.com 服务微信:xnx3com 使用指南: DataX-OBS数据同步工具使用指南 下载 查看商品详情 立即下载

共14537条