GuoJ

博客1.0

今天不学习,明天变辣鸡~


windows下hadoop环境搭建

目录

〇、资源

hadoop官网3.2.3版本下载
winutils-master 3.2.x gihub下载

一、官网安装

  1. 下载hadoop-3.2.3.tar.gz,url可改成想要的版本
  2. 下载winutils-master, 选择对应的版本(最后一位数字可以不一样)
  3. 解压hadoop-3.2.3.tar.gz
  4. winutils-master内的文件拷贝并替换到./hadoop-3.2.3/bin
  5. winutils-master内的hadoop.dll文件拷贝到C:\Windows\System32
  6. 设置环境变量
    • 新建HADOOP_HOME,值为解压后根目录,如D:\Program_Files\hadoop\hadoop-3.2.3
    • 添加到path路径,%HADOOP_HOME%\bin
  7. 运行cmd,如下表示成功:
    C:\Users\xxxxx>hadoop -version
    java version "11.0.15.1" 2022-04-22 LTS
    Java(TM) SE Runtime Environment 18.9 (build 11.0.15.1+2-LTS-10)
    Java HotSpot(TM) 64-Bit Server VM 18.9 (build 11.0.15.1+2-LTS-10, mixed mode)
    

二、常见问题

  1. 出现问题1:
    'hadoop' 不是内部或外部命令,也不是可运行的程序或批处理文件。
    

    解决:这是由winutils-masterhadoop-3.2.3.tar.gz版本不一致引起的

  2. 出现问题2:
    Error : JAVA_HOME is incorrectly set.
    P1ease _update D:\xxxxxx\etc\hadoop\hadoop-env.cmd
    ’-Xmx512m’不是内部或外部命令,也不是可运行的程序或批处理文件。
    

    解决:问题出在hadoop要求JAVA_HOME路径不能包含空格。处理步骤如下:

    • 拷贝jdk到一个不包含空格的路径
    • 根据提示编辑hadoop-env.cmd文件, 修改JAVA_HOME的值为刚刚的新路径
  3. 出现问题3:
    本地安装成功,IDEA依旧报错:HADOOP_HOME and hadoop.home.dir are unset
    

    解决:重启IDEA