IT Log

Hadoop 완전분산모드(5) 본문

Open Source/Apache

Hadoop 완전분산모드(5)

newly0513 2019. 5. 31. 02:52
728x90
반응형

core-site.xml

<configuration>
   <property>
      <name>fs.defaultFS</name>
      <value>hdfs://master:9000</value>
   </property>
</configuration>

모든노드에서 core-site.xml을 들어가서 configuration부분을 다음과 같이 수정합니다.

 

 

 

hdfs-site.xml

# master node

<configuration>   
   <property>
      <name>dfs.namenode.name.dir</name>
      <value>file:/usr/local/hadoop-2.9.2/namenode</value>
   </property>   
</configuration>

# slave1, slave2, slave3 node

<configuration>   
   <property>
      <name>dfs.datanode.data.dir</name>
      <value>file:/usr/local/hadoop-2.9.2/datanode</value>
   </property>   
</configuration>

master노드 slave노드들에 알맞게 hdfs-site.xml을 들어가서 configuration부분을 다음과 같이 수정합니다. 

 

 

 

yarn-site.xml

<configuration>
   <property>
      <name>yarn.nodemanager.aux-services</name>
      <value>mapreduce_shuffle</value>
   </property>
   <property>
      <name>yarn.nodemanager.aux-services.mapreduce_shuffle.class</name>
      <value>org.apache.hadoop.mapred.ShuffleHandler</value>
   </property>   
</configuration>

모든 노드에서 yarn-site.xml을 들어가서 configuration부분을 다음과 같이 수정합니다. 

 

 

 

mapred-site.xml

<configuration>
   <property>
      <name>mapreduce.framework.name</name>
      <value>yarn</value>
   </property>
</configuration>

mapred-site.xml파일이 없으므로 mapred-site.xml.template파일을 이용하여 작성합니다. mv mapred-site.xml.template mapred-site.xml를 입력하여 mapred-site.xml파일을 생성합니다. 그리고 모든 노드에서 mapred-site.xml을 들어가서 configuration부분을 다음과 같이 수정합니다.

 

 

 

Slaves

slave1
slave2
slave3

master노드에서 slaves파일을 들어가 위와 같이 작성합니다.

 

 

 

HDFS 폴더 생성

master노드

mkdir namenode
chmod 777 namenode

cd $HADOOP_HOME으로 이동하여 위의 코드를 실행하면 화면과 같이 보입니다. master노드에서만 진행합니다.

 

 

 

Slave노드

mkdir datanode
chmod 777 datanode

cd $HADOOP_HOME으로 이동하여 위의 코드를 실행하면 화면과 같이 보입니다. slav1, slave2, slave3에서 진행합니다.

 

728x90
반응형

'Open Source > Apache' 카테고리의 다른 글

Maven 설치  (0) 2019.06.04
Hadoop 완전분산모드(6)  (0) 2019.06.02
Hadoop 완전분산모드(4)  (0) 2019.05.31
Hadoop 완전분산모드(3)  (0) 2019.05.31
Hadoop 완전분산모드(2)  (0) 2019.05.31
Comments