立华科技 beijing l&s lancom platform tech. co., ltd. 嵌入式工业计算机、影像通讯产品、数位电子看板、影像监控、工业自动化、网络应用平台-威廉希尔app

精确、效能、创新 产品新闻
如何为hadoop集群配置合适的硬件
发布时间:2014-03-04 09:42:39 点击率:5082

        hadoop的概念随着大数据时代浪潮的到来,已经变得不那么陌生,在实际应用中,如何为hadoop集群选择合适的硬件成为很多人开始使用hadoop的一个关键问题。
        在过去,大数据处理主要是采用标准化的刀片式服务器和存储区域网络(san)来满足网格和处理密集型工作负载。然而随着数据量和用户数的大幅增长,基础设施的需求已经发生变化,硬件厂商必须建立创新体系,来满足大数据对包括存储刀片,sas(串行连接scsi)开关,外部sata阵列和更大容量的机架单元的需求。即寻求一种新的方法来存储和处理复杂的数据,hadoop正是基于这样的目的应运而生的。hadoop的数据在集群上均衡分布,并通过复制副本来确保数据的可靠性和容错性。因为数据和对数据处理的操作都是分布在服务器上,处理指令就可以直接地发送到存储数据的机器。这样一个集群的每个服务器器上都需要存储和处理数据,因此必须对hadoop集群的每个节点进行配置,以满足数据存储和处理要求。
        hadoop框架中最核心的设计是为海量数据提供存储的hdfs和对数据进行计算的mapreduce。mapreduce的作业主要包括从磁盘或从网络读取数据,即io密集工作,或者是计算数据,即cpu密集工作。hadoop集群的整体性能取决于cpu、内存、网络以及存储之间的性能平衡。因此运营团队在选择机器配置时要针对不同的工作节点选择合适硬件类型。一个基本的hadoop集群中的节点主要有:namenode负责协调集群中的数据存储,datanode存储被拆分的数据块,jobtracker协调数据计算任务,最后的节点类型是secondarynamenode,帮助namenode收集文件系统运行的状态信息。

        在集群中,大部分的机器设备是作为datanode和tasktracker工作的。datanode/tasktracker的硬件规格可以采用以下方案:

  • 4个磁盘驱动器(单盘1-2t),支持jbod
  • 2个4核cpu,至少2-2.5ghz
  • 16-24gb内存
  • 千兆以太网

        namenode提供整个hdfs文件系统的namespace管理,块管理等所有服务,因此需要更多的ram,与集群中的数据块数量相对应,并且需要优化ram的内存通道带宽,采用双通道或三通道以上内存。硬件规格可以采用以下方案:

  • 8-12个磁盘驱动器(单盘1-2t)
  • 2个4核/8核cpu
  • 16-72gb内存
  • 千兆/万兆以太网

        secondarynamenode在小型集群中可以和namenode共用一台机器,较大的群集可以采用与namenode相同的硬件。考虑到关键节点的容错性,建议客户购买加固的服务器来运行的namenodes和jobtrackers,配有冗余电源和企业级raid磁盘。最好是有一个备用机,当 namenode或jobtracker 其中之一突然发生故障时可以替代使用。

        目前市场上的硬件平台满足datanode/tasktracker节点配置需求的很多,,据了解深耕网络安全硬件平台多年的立华科技瞄准了hadoop的发展前景,适时推出了专门针对namenode的设备----双路至强处理器搭载12块硬盘的fx-3411,将计算与存储完美融合,四通道内存的最大容量可达到256gb,完全满足namenode对于一个大的内存模型和沉重的参考数据缓存组合的需求。
同时在网络方面,fx-3411支持的2个pci-e*8的网络扩展,网络吞吐达到80gbps,更是远远满足节点对千兆以太网或万兆以太网的需求。此外针对datanode/tasktracker等节点的配置需求,立华科技不仅推出了可支持单路至强e3 8核处理器和4块硬盘的标准品fx-3210,还有可以全面客制化的威廉希尔网站的解决方案,以满足客户的不同需求。
        hadoop集群往往需要运行几十,几百或上千个节点,构建匹配其工作负载的硬件,可以为一个运营团队节省可观的成本,因此,需要精心的策划和慎重的选择。

        文:杜名欣 

欢迎访问立华科技网站

需要协助?

若您需要立即的支援服务,请直拨专线或以e-mail与我们联系。

86-10-82795600

销售网络
产品信息
网络运算
电信运算
网卡模块
智慧边缘
应用案例
网络安全
电信应用
智慧交通
电力能源
边缘运算
工业自主化
网络虚拟化
技术&支持
资料下载
客制化服务
威廉希尔网站的售后服务
新闻中心
公司新闻
产品新闻
关于立华
威廉希尔官方网站的简介
威廉希尔官方网站的文化
资质证书
里程碑
环保政策
联系立华
联系威廉希尔app
威廉希尔app的招贤纳士