超详细hadoop集群服务器安装配置教程

  • 时间:
  • 浏览:1
  • 来源:彩神幸运飞艇_神彩幸运飞艇官方

cd /root/DKHPlantform/autossh

命令:

步骤:

通过按键盘上的insert或是I键进入编辑模式,编辑完成后按一下Esc键就是 按一下按Shift+:键,输入wq,后回车就后能 保存。输入q!后回车则是放弃保存并退出.

mySQL  -uroot  -p123456

show databases;

二、服务器操作系统配置教程

1、修改权限

命令:

cd /root/mysqlInst/

source /etc/profile

2执行集群之间免密前的准备工作   

   192.168.1.41    dk41

若是我每其他人 电脑Windows系统或Linux系统,虚拟机上虚拟的三台服务器,则将安装包拷贝到服务器上,进行安装操作即可。

命令:

1)从主节点收集mySQL安装目录到第二节点

修改文件sshslaves,写入除主机名之外的所有机器名(如下图)

命令:



3、上传模式

chmod -R 755 DKHPlantform

2执行之前 查看一下两台mysql的数据表与否居于,从主节点中查看执行:

正确处理访问服务器时并与否服务被拦截,需关闭防火墙。

步骤:

目的:服务器配置操作完成之前 ,启动DKH。

 一、安装包准备

例: ./autossh dk41 123456

命令:

*/15 * * * * root ntpdate 192.168.27.35;hwclock -w 

hadoop安装包用的是大快DKHadoop发行版,我每其他人 确实DKHadoop的安装过程是比较简单,关于dkhadoop的安放到 下一次的分享中再详细介绍吧。下面进入到本篇的主题——服务器操作系统配置教程

编辑之前 ,保存退出。把对应关系拷到并与否两台或多台机器上。

3)执行成功之前 执行热备份(两台机器上都有执行,另一一二个ip互换,41上写42,42上写41,密码是MySQL的密码为:123456。平台内就是 设定好,请勿修改):

vi /root/DKHPlantform/autossh/sshhosts

3执行集群免密工作



修改/etc/ntp.conf

从节点执行:

1修改本机hosts文件,写入对应关系

2、 搭建Hadoop集群设置SSH免密登录

命令:

进入编辑模式后,按照规则写入主机与ip的对应关系(主机名称dk41是我每其他人 命名的,如下图)例:

步骤:在准备工作中拷贝安装包 install、DKHInstall到主节点目录后,修改文件权限。首先进入root目录,安装目录 install、DKHInstall的权限改为:文件所有者可读可写可执行,与文件所有者属于另一一二个用户组的并与否用户可读可执行,并与否用户组可读可执行。

修改下列三行:



server  127.127.1.0   

chkconfig ntpd on

scp  -r  /etc/hosts  192.168.1.43:/etc

1)搭建内网的ntp服务器

2)启动ntp服务

2、 本地文件模式

命令:

命令:

1、虚拟机分布式安装(三台及以上虚拟机)

cd /root/DKHPlantform/autossh

命令:

步骤:执行以下命令。

6、本地时间服务器搭建步骤

./startup.sh

当服务器在机房,且无显示和输入设备的请况下,应用该模式。

./mysql.sh 2

show tables;

./sync.sh 192.168.1.xxx(另一台mysql地址)

3)开机自动启动

目的:Hadoop运行过程中须要管理远端Hadoop守护多多tcp连接 ,在Hadoop启动之前 ,NameNode是通过SSH(Secure Shell)来启动和停止各个DataNode上的各种守护多多tcp连接 的。这就须要在节点之间执行指令的之前 是不须要输入密码的形式,就是 亲戚亲戚朋友须要配置SSH运用无密码公钥认证的形式,原本NameNode使用SSH无密码登录并启动DataName多多tcp连接 ,同样原理,DataNode上不用 使用SSH无密码登录到NameNode。

命令:

cd /root/

Vim /etc/ntp.conf



 在文件最后加带下列两行:

#server 2.centos.pool.ntp.org  

service ntpd start

4、 创建数据库

目的:存放Hive的元数据

#server 0.centos.pool.ntp.org  

将安装包文件直接拷贝到实体服务器root目录下,进行安装操作即可。

目的:使install、DKHInstall另一一二个安装包有可执行的权限。权限欠缺无法执行并与否操作。install里面是脚本和所有组件,DKHInstall里面是安装界面。

cd /root/DKHPlantform/mysqlInst/

如:mysql -uroot -p123456 </root/DKHPlantform/dkh.sql

unzip DKHPlantform.zip

vi /root/DKHPlantform/autossh/sshslaves

1、 外网下载模式

4关闭防火墙

修改文件sshhosts,输入详细机器的主机名,每行另一一二个主机名(如下图)

use dkh;

命令:                                                                                                                                 

命令:

在文件最后加带一行:



步骤:

2、物理集群(三台及以上实体服务器)

为了区分局域网内的每台主机,都有给主机配另一一二个主机名,每台主机之间又是通过IP进行通信,但IP地址不方便记忆,就是 配置主机名和IP映射不用 实现主机之间的快速方便的访问。

mysql -uroot -p123456 < { 此处为sql文件,主目录下文件: dkh.sql}

命令:

192.168.1.43    dk43

Vim /etc/ntp.conf

1导入MySQL数据表,只在主节点执行:



./autossh 主节点主机名 集群密码

#server 1.centos.pool.ntp.org  

准备工作完成之前 ,就要进行服务器配置操作,首先须要三台服务器之间要互相ping通。所谓ping通,就是 两台设备之间网络是通的。从一端发送另一一二个数据包,另一端就不用 收到,就代表两台设备是不用 ping通了。

通过按键盘上的insert或是I键进入编辑模式,编辑完成后按一下Esc键就是 按一下按Shift+: 键,输入wq,后回车就后能 保存。输入q!后回车则是放弃保存并退出.

命令:

scp -r /root/DKHPlantform/mysqlInst/ 192.168.1.42:/root/

2)主节点执行:

5、启动安装

通过按键盘上的insert或是I键进入编辑模式,编辑完成后按一下Esc键就是 按一下按Shift+:键,输入wq,后回车就后能 保存。输入q!后回车则是放弃保存并退出.

没联网就是 装系统时时间未同步,须要搭建本地时间服务器。

4)客户端同步时间

./offIptables.sh

3、 安装双机热备份的MySQL

现将文件,安放到 本地计算机上(默认为笔记本电脑,在机房现场),并将计算机与服务器连接,将安装包install、DKHInstall上传到服务器root目录下。

./mysql.sh 1

通过按键盘上的insert或是I键进入编辑模式,编辑完成后按一下Esc键就是 按一下按Shift+:键,输入wq,后回车就后能 保存。输入q!后回车则是放弃保存并退出.

cd /root/DKHPlantform/dkh-tomcat*/bin/

虚拟机以及Linux系统安放到 之前 的两篇分享中就是 详细的介绍了土妙招,就是 每一步的都配图了。就是 有亲戚亲戚朋友还是看不懂,原本也爱莫助于了。本篇主要就hadoop服务器操作系统配置进行详细说明,hadoop安装会在下一篇文章中详细的介绍。

vi /etc/hosts

目的:MySQL是并与否关联数据库管理系统,关联数据库将数据保居于不同的表中,增加了强度并提高了灵活性。

命令:

192.168.1.42    dk42

命令:

通过按键盘上的insert或是I键进入编辑模式,编辑完成后按一下Esc键就是 按一下按Shift+:键,输入wq后回车就后能 保存。输入q!后回车则是放弃保存并退出.

fudge   127.127.1.0 stratum 10

scp  -r  /etc/hosts  192.168.1.42:/etc

执行sshpass.sh的脚本的之前 会去读sshhosts和sshslaves这另一一二个文件,替换sshpass.sh中的master和slave文件。