flink yarn 部署指南

主要分成两部分，yarn的安装与flink的安装， 共3台机器

10.10.10.125
10.10.10.126
10.10.10.127

----------------------------------------------------yarn 安装

wget 'http://mirror.bit.edu.cn/apache/hadoop/common/hadoop-2.8.5/hadoop-2.8.5.tar.gz'tar -zxvf hadoop-2.8.5.tar.gz -C /home/zr/hadoop/vim /etc/profileexport HADOOP_HOME=/home/zr/hadoop/hadoop-2.8.5export PATH=$HADOOP_HOME/bin:$PATHsource /etc/profilevim /etc/sysconfig/network host名千万不要搞成下划线 否则就等着完蛋吧HOSTNAME=flink125（不同的机器配置不同）vim /etc/hosts10.10.10.125 flink12510.10.10.126 flink12610.10.10.127 flink127vim yarn-site.xml 增加以下内容yarn.nodemanager.aux-servicesmapreduce_shuffleyarn.nodemanager.aux-services.mapreduce.shuffle.classorg.apache.hadoop.mapred.ShuffleHandleryarn.resourcemanager.hostnameflink125yarn.resourcemanager.am.max-attempts4The maximum number of application master execution attemptsyarn.nodemanager.vmem-check-enabledfalsevi etc/hadoop/core-site.xml  增加以下内容fs.default.namehdfs://flink125:9000vi etc/hadoop/hdfs-site.xml  增加以下内容dfs.namenode.name.dirfile:///data/hadoop/storage/hdfs/namedfs.datanode.data.dirfile:///data/hadoop/storage/hdfs/data$ vi etc/hadoop/mapred-site.xml 增加以下内容mapreduce.framework.nameyarndfs.replication2vi  slaves  增加以下内容flink126flink127vim hadoop/etc/hadoop/hdoop-env.sh将语句 export JAVA_HOME=$JAVA_HOME修改为 export JAVA_HOME=/usr/java/jdk1.8.0_101

以上操作都是在三台机器上执行

下面是免登操作

1 在125机器上执行

   rm -r ~/.ssh    ssh-keygen　　scp ~/.ssh/id_rsa.pub 126，127 机器上

2　在126 127上分别执行

cat id_rsa.pub>>.ssh/authorized_keys

最后在125上执行以下操作

启动hadoopstart-dfs.sh启动yarnstart-yarn.sh

----------------------------------------------------yarn 配置完毕

------------------------------------------------------flink 安装

wget 'http://mirrors.tuna.tsinghua.edu.cn/apache/flink/flink-1.7.2/flink-1.7.2-bin-hadoop28-scala_2.12.tgz'tar zxvf flink-1.7.2-bin-hadoop28-scala_2.12.tgz -C /home/zr/module/修改flink/conf/masters，slaves，flink-conf.yamlvi mastersflink125:8081flink126:8081vi slavesflink126flink127vi flink-conf.yamltaskmanager.numberOfTaskSlots：2jobmanager.rpc.address: flink125sudo vi /etc/profileexport FLINK_HOME=/opt/module/flink-1.6.1export PATH=$PATH:$FLINK_HOME/binsource /etc/profileconf/flink-conf.yamlhigh-availability: zookeeperhigh-availability.zookeeper.quorum: flink125:2181,flink126:2181,flink127:2181high-availability.storageDir: hdfs:///home/zr/flink/recoveryhigh-availability.zookeeper.path.root: /home/zr/flinkyarn.application-attempts: 4zoo.cfgserver.1=flink125:2888:3888server.2=flink126:2888:3888server.3=flink127:2888:3888以上操作都在三台机器上执行

--------------------------------------------flink 配置完毕

在125机器上执行：

启动ZooKeeper仲裁./start-zookeeper-quorum.sh启动flink./flink run -m yarn-cluster -yn 2 -ytm 2048 /home/zr/module/flink-1.7.2/examples/zr/flink-data-sync-0.1.jar

参考文章

https://www.cnblogs.com/frankdeng/p/9400627.html