網(wǎng)上做調(diào)查問卷的網(wǎng)站最近熱點新聞事件2023
一、目的
在實際項目部署時,要實現(xiàn)易部署易維護,需要把安裝步驟變成安裝腳本實現(xiàn)快速部署
二、部署腳本在Linux中文件位置
文件夾中只有腳本文件flume-install.sh和tar包apache-flume-1.9.0-bin.tar.gz
三、Flume安裝腳本
#!/bin/bash
#獲取服務器名稱和用戶名
hostname=`hostname`
echo "current host name is $hostname"
whoami=`whoami`
echo "current user is $whoami"
#flume下載路徑
installdir=/usr/local/hurys/dc_env/flume
if [ ! -d "$installdir" ];then
?mkdir $installdir
fi
#日志文件
nowpath=$(cd "$(dirname "$0")";pwd)
logDir=$nowpath/log/
cd $nowpath
if [ ! -d $logDir ];then
?? ?mkdir -p $logDir
fi
nowtime=`date --date='0 days ago' "+%Y%m%d%H%M%S"`
daytime=`date --date='0 days ago' "+%Y%m%d"`
log_file="$logDir/flume_$daytime.log"
echo '------------ 卸載原有的flume ?------------' | tee -a $log_file
#卸載原有的flume
rm -rf /usr/local/hurys/dc_env/flume/flume190/
??
echo '------------ 安裝flume ?------------' | tee -a $log_file
#解壓flume安裝包
tar ?-zxf /usr/local/hurys/dc_env/flume/tar/apache-flume-1.9.0-bin.tar.gz ? -C /usr/local/hurys/dc_env/flume/
mv ?/usr/local/hurys/dc_env/flume/apache-flume-1.9.0-bin/ ? /usr/local/hurys/dc_env/flume/flume190
??
echo '------------ 將 lib 文件夾下的 guava-11.0.2.jar 刪除以兼容 Hadoop 3.1.3 ------------' ?| tee -a $log_file
#將 lib 文件夾下的 guava-11.0.2.jar 刪除以兼容 Hadoop 3.1.3
rm ?-rf ?/usr/local/hurys/dc_env/flume/flume190/lib/guava-11.0.2.jar
?
echo '------------ 修改配置文件flume-env.sh ------------' | tee -a $log_file
#修改配置文件flume-env.sh ?
cp ?/usr/local/hurys/dc_env/flume/flume190/conf/flume-env.sh.template ?/usr/local/hurys/dc_env/flume/flume190/conf/flume-env.sh
? ??
cat>>/usr/local/hurys/dc_env/flume/flume190/conf/flume-env.sh<<EOF
export JAVA_HOME=$JAVA_HOME
export JAVA_OPTS="-Xms8000m -Xmx8000m -Dcom.sun.management.jmxremote"
EOF
echo '------------ 安裝nc和telnet ?------------' | tee -a $log_file
#安裝nc和telnet
cd /usr/local/hurys/dc_env/flume/flume190/conf/
yum install -y nc
yum install telnet-server
yum install telnet.*
echo '------------ Complete ------------' | tee -a $log_file
四、Flume腳本安裝步驟
(一)到Flume目錄下,sh執(zhí)行安裝腳本
# cd /usr/local/hurys/dc_env/flume/
# sh flume-install.sh
更新telnet-server時,選擇y
更新telnet時,選擇y
(二)驗證Flume,測試一下端口
首先,登錄監(jiān)視窗口
# nc -lk ?44444
然后,開啟聊天窗口
# telnet??localhost??44444
接著,在聊天窗口輸入 hello world
繼而,監(jiān)視窗口會自動出現(xiàn) hello world
最后,在監(jiān)視窗口ctrl+c退出
總的來說,Flume的安裝還是非常簡單的,我認為Flume玩法的關(guān)鍵之處就在于任務文件中各種參數(shù)的配置,如何配置參數(shù)才能及時的、完整的消費數(shù)據(jù),這才是Flume的靈魂!