实验网址:
https://www.educoder.net/tasks/pgfbs2kefco4
任务描述
相关知识
下载Hadoop
配置Hadoop环境
设置SSH免密登录
hadoop-env.sh 配置
yarn-env.sh 配置
core-site.xml配置
hdfs-site.xml文件配置
mapred-site.xml文件配置
yarn-site.xml配置
创建文件夹
将Hadoop添加到环境变量中
验证
格式化
启动Hadoop
编程要求
由于解压包有大概300M,所以我们已经预先帮你下载好了,切换到/opt目录下即可看到。
接下来解压Hadoop的压缩包,然后将解压好的文件移动到/app目录下。

设置SSH免密登录
在之后操作集群的时候我们需要经常登录主机和从机,所以设置SSH免密登录时有必要的。
输入如下代码:
ssh-keygen -t rsa

生成无密码密钥对,询问保存路径直接输入回车,生成密钥对:id_rsa和id_rsa.pub,默认存储在~/.ssh目录下。
接下来:把id_rsa.pub追加到授权的key里面去。
cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keys
然后修改权限:
chmod 600 ~/.ssh/authorized_keys
接着需要启用RSA认证,启动公钥私钥配对认证方式:
vim /etc/ssh/sshd_config 如果提示权限不足在命令前加上sudo;
修改ssh配置:
RSAAuthentication yes # 启用 RSA 认证
PubkeyAuthentication yes # 启用公钥私钥配对认证方式
AuthorizedKeysFile %h/.ssh/authorized_keys # 公钥文件路径
好了准备工作已经做完了,我们要开始修改Hadoop的配置文件了,总共需要修改6个文件。分别是:
hadoop-env.sh;
yarn-env.sh ;
core-site.xml;
hdfs-site.xml;
mapred-site.xml;
yarn-site.xml。

