hadoop集群搭建3个节点

生活 2019-03-18 20:19:23 470

本文收集整理关于hadoop集群搭建3个节点的相关议题,使用内容导航快速到达。

内容导航:

  • Q1:如何确定hadoop集群节点的个数
  • Q2:如何基于Docker快速搭建多节点Hadoop集群
  • Q3:部署30个节点的hadoop集群,用什么工具
  • Q4:我搭建Hadoop集群时,两个namenode节点都是Standby;而且datanode启动不成功,VERSION也没有namespaceID
  • Q1:如何确定hadoop集群节点的个数

    1.运行环境 三台装有centOS 6.3 的电脑 OpenJDK 1.6 2下载hadoop,加压到你要放置的目录,最好是解压到/opt或者/usr/local目录下 3 创建hadoop群组和hadoop用户 groupadd hadoop useradd hadoop -g hadoop 更改hadoop 用户的密码 在命令行输入:

    Q2:如何基于Docker快速搭建多节点Hadoop集群

    Docker最核心的特性之一,就是能够将任何应用包括Hadoop打包到Docker镜像中。这篇教程介绍了利用Docker在单机上快速搭 建多节点 Hadoop集群的详细步骤。作者在发现目前的Hadoop on Docker项目所存在的问题之后,开发了接近最小化的Hadoop镜像,并且支持快速搭建任意节点数的Hadoop集群。 GitHub: kiwanlau/hadoop-cluster-docker 直接用机器搭建Hadoop集群是一个相当痛苦的过程,尤其对初学者来说。他们还没开始跑wordcount,可能就被这个问题折腾的体无完肤了。而且也不是每个人都有好几台机器对吧。你可以尝试用多个虚拟机搭建,前提是你有个性能杠杠的机器。 我的目标是将Hadoop集群运行在Docker容器中,使Hadoop开发者能够快速便捷地在本机搭建多节点的Hadoop集群。其实这个想法已经有 了不少实现,但是都不是很理想,他们或者镜像太大,或者使用太慢,或者使用了第三方工具使得使用起来过于复杂。下表为一些已知的Hadoop on Docker项目以及其存在的问题。 更快更方便地改变Hadoop集群节点数目 另外,alvinhenrick/hadoop-mutinode项目增加节点时需要手动修改Hadoop配置文件然后重新构建hadoop- nn-dn 镜像,然后修改容器启动脚本,才能实现增加节点的功能。而我通过shell脚本实现自动话,不到1分钟可以重新构建hadoop-master镜像,然后 立即运行!本项目默认启动3个节点的Hadoop集群,支持任意节点数的Hadoop集群。 另外,启动Hadoop,运行wordcount以及重新构建镜像都采用了shell脚本实现自动化。这样使得整个项目的使用以及开发都变得非常方便快捷。 开发测试环境 操作系统:ubuntu 14.04 和 ubuntu 12.04 内核版本: 3.13.0-32-generic Docker版本:1.5.0 和1.6.2 小伙伴们,硬盘不够,内存不够,尤其是内核版本过低会导致运行失败。

    Q3:部署30个节点的hadoop集群,用什么工具

    一个HDFS集群是由一个NameNode和若干个DataNode组成的。

    其中NameNode作为主服务器,管理文件系统的命名空间和客户端对文件系统的访问操作;集群中的DataNode管理存储的数据。

    MapReduce框架是由一个单独运行在主节点上的JobTracker和运行在每个集群从节点的TaskTracker共同组成的。

    主节点负责调度构成一个作业的所有任务,这些任务分布在不同的从节点上。

    Q4:我搭建Hadoop集群时,两个namenode节点都是Standby;而且datanode启动不成功,VERSION也没有namespaceID

    1、首先你要确定不用ha的时候你的hadoop集群是正常的,不然找错误的方向就偏离了
    2、如果都正常,配置ha 需要zookeeper,先要看看是不是zookeeper没有配置好的问题
    3、如果都正常,在hadoop安装目录执行sbin/hadoop-daemon.sh start zkfc,这句是启动zookeeper选举制度,然后执行bin/hdfs haadmin -transitionToActive nn2其中nn2是你的namenode中的一个
    4、你在hadoop-env.sh中是需要配置JAVA_HOME的,但是不需要配置其他,HADOOP_HOME和PATH是需要配置在/etc/profile中的

    相关文章
    怎样搭建一个好的网站2019-01-14
    如何在局域网搭建网站2019-01-29
    在服务器上搭建网站2019-02-17
    怎么搭建服务器上外网2019-02-21
    搭建一个简单的服务器2019-02-25
    为什么java环境搭建不成功2019-02-27
    如何搭建android开发环境2019-03-01
    路由器局域网怎么搭建2019-03-01
    如何用虚拟主机搭建网站2019-03-17
    wordpress搭建个人网站2019-03-28