分布式计算开源框架Hadoop入门实践Word下载.docx
- 文档编号:8018136
- 上传时间:2023-05-09
- 格式:DOCX
- 页数:18
- 大小:64.02KB
分布式计算开源框架Hadoop入门实践Word下载.docx
《分布式计算开源框架Hadoop入门实践Word下载.docx》由会员分享,可在线阅读,更多相关《分布式计算开源框架Hadoop入门实践Word下载.docx(18页珍藏版)》请在冰点文库上搜索。
一种是不相关的任务,可以并行执行;
另一种是任务之间有相互的依赖,先后顺序不能够颠倒,这类任务是无法并行处理的。
回到大学时期,教授上课时让大家去分析关键路径,无非就是找最省时的任务分解执行方式。
在分布式系统中,机器集群就可以看作硬件资源池,将并行的任务拆分,然后交由每一个空闲机器资源去处理,能够极大地提高计算效率,同时这种资源无关性,对于计算集群的扩展无疑提供了最好的设计保证。
(其实我一直认为Hadoop的卡通图标不应该是一个小象,应该是蚂蚁,分布式计算就好比蚂蚁吃大象,廉价的机器群可以匹敌任何高性能的计算机,纵向扩展的曲线始终敌不过横向扩展的斜线)。
任务分解处理以后,那就需要将处理以后的结果再汇总起来,这就是Reduce要做的工作。
图1:
MapReduce结构示意图
上图就是MapReduce大致的结构图,在Map前还可能会对输入的数据有Split(分割)的过程,保证任务并行效率,在Map之后还会有Shuffle(混合)的过程,对于提高Reduce的效率以及减小数据传输的压力有很大的帮助。
后面会具体提及这些部分的细节。
HDFS是分布式计算的存储基石,Hadoop的分布式文件系统和其他分布式文件系统有很多类似的特质。
分布式文件系统基本的几个特点:
1对于整个集群有单一的命名空间。
2数据一致性。
适合一次写入多次读取的模型,客户端在文件没有被成功创建之前无法看到文件存在。
3文件会被分割成多个文件块,每个文件块被分配存储到数据节点上,而且根据配置会由复制文件块来保证数据的安全性。
图2:
HDFS结构示意图
即HadoopDistributedFileSystem(Hadoop分布式文件系统)
上图中展现了整个HDFS三个重要角色:
NameNode、DataNode和Client。
NameNode可以看作是分布式文件系统中的管理者,主要负责管理文件系统的命名空间、集群配置信息和存储块的复制等。
NameNode会将文件系统的Meta-data存储在内存中,这些信息主要包括了文件信息、每一个文件对应的文件块的信息和每一个文件块在DataNode的信息等。
DataNode是文件存储的基本单元,它将Block存储在本地文件系统中,保存了Block的Meta-data,同时周期性地将所有存在的Block信息发送给NameNode。
Client就是需要获取分布式文件系统文件的应用程序。
这里通过三个操作来说明他们之间的交互关系。
文件写入:
4Client向NameNode发起文件写入的请求。
5NameNode根据文件大小和文件块配置情况,返回给Client它所管理部分DataNode的信息。
6Client将文件划分为多个Block,根据DataNode的地址信息,按顺序写入到每一个DataNode块中。
文件读取:
7Client向NameNode发起文件读取的请求。
8NameNode返回文件存储的DataNode的信息。
9Client读取文件信息。
文件Block复制:
10NameNode发现部分文件的Block不符合最小复制数或者部分DataNode失效。
11通知DataNode相互复制Block。
12DataNode开始直接相互复制。
最后再说一下HDFS的几个设计特点(对于框架设计值得借鉴):
13Block的放置:
默认不配置。
一个Block会有三份备份,一份放在NameNode指定的DataNode,另一份放在与指定DataNode非同一Rack上的DataNode,最后一份放在与指定DataNode同一Rack上的DataNode上。
备份无非就是为了数据安全,考虑同一Rack的失败情况以及不同Rack之间数据拷贝性能问题就采用这种配置方式。
14心跳检测DataNode的健康状况,如果发现问题就采取数据备份的方式来保证数据的安全性。
15数据复制(场景为DataNode失败、需要平衡DataNode的存储利用率和需要平衡DataNode数据交互压力等情况):
这里先说一下,使用HDFS的balancer命令,可以配置一个Threshold来平衡每一个DataNode磁盘利用率。
例如设置了Threshold为10%,那么执行balancer命令的时候,首先统计所有DataNode的磁盘利用率的均值,然后判断如果某一个DataNode的磁盘利用率超过这个均值Threshold以上,那么将会把这个DataNode的block转移到磁盘利用率低的DataNode,这对于新节点的加入来说十分有用。
16数据交验:
采用CRC32作数据交验。
在文件Block写入的时候除了写入数据还会写入交验信息,在读取的时候需要交验后再读入。
17NameNode是单点:
如果失败的话,任务处理信息将会纪录在本地文件系统和远端的文件系统中。
18数据管道性的写入:
当客户端要写入文件到DataNode上,首先客户端读取一个Block然后写到第一个DataNode上,然后由第一个DataNode传递到备份的DataNode上,一直到所有需要写入这个Block的NataNode都成功写入,客户端才会继续开始写下一个Block。
19安全模式:
在分布式文件系统启动的时候,开始的时候会有安全模式,当分布式文件系统处于安全模式的情况下,文件系统中的内容不允许修改也不允许删除,直到安全模式结束。
安全模式主要是为了系统启动的时候检查各个DataNode上数据块的有效性,同时根据策略必要的复制或者删除部分数据块。
运行期通过命令也可以进入安全模式。
在实践过程中,系统启动的时候去修改和删除文件也会有安全模式不允许修改的出错提示,只需要等待一会儿即可。
下面综合MapReduce和HDFS来看Hadoop的结构:
图3:
Hadoop结构示意图
在Hadoop的系统中,会有一台Master,主要负责NameNode的工作以及JobTracker的工作。
JobTracker的主要职责就是启动、跟踪和调度各个Slave的任务执行。
还会有多台Slave,每一台Slave通常具有DataNode的功能并负责TaskTracker的工作。
TaskTracker根据应用要求来结合本地数据执行Map任务以及Reduce任务。
说到这里,就要提到分布式计算最重要的一个设计点:
MovingComputationisCheaperthanMovingData。
就是在分布式处理中,移动数据的代价总是高于转移计算的代价。
简单来说就是分而治之的工作,需要将数据也分而存储,本地任务处理本地数据然后归总,这样才会保证分布式计算的高效性。
为什么要选择Hadoop?
说完了What,简单地说一下Why。
官方网站已经给了很多的说明,这里就大致说一下其优点及使用的场景(没有不好的工具,只用不适用的工具,因此选择好场景才能够真正发挥分布式计算的作用):
20可扩展:
不论是存储的可扩展还是计算的可扩展都是Hadoop的设计根本。
21经济:
框架可以运行在任何普通的PC上。
22可靠:
分布式文件系统的备份恢复机制以及MapReduce的任务监控保证了分布式处理的可靠性。
23高效:
分布式文件系统的高效数据交互实现以及MapReduce结合LocalData处理的模式,为高效处理海量的信息作了基础准备。
使用场景:
个人觉得最适合的就是海量数据的分析,其实Google最早提出MapReduce也就是为了海量数据分析。
同时HDFS最早是为了搜索引擎实现而开发的,后来才被用于分布式计算框架中。
海量数据被分割于多个节点,然后由每一个节点并行计算,将得出的结果归并到输出。
同时第一阶段的输出又可以作为下一阶段计算的输入,因此可以想象到一个树状结构的分布式计算图,在不同阶段都有不同产出,同时并行和串行结合的计算也可以很好地在分布式集群的资源下得以高效的处理。
Hadoop中的集群配置和使用技巧
──分布式计算开源框架Hadoop入门实践
(二)
其实参看Hadoop官方文档已经能够很容易配置分布式框架运行环境了,不过这里既然写了就再多写一点,同时有一些细节需要注意的也说明一下,其实也就是这些细节会让人摸索半天。
Hadoop可以单机跑,也可以配置集群跑,单机跑就不需要多说了,只需要按照Demo的运行说明直接执行命令即可。
这里主要重点说一下集群配置运行的过程。
环境
7台普通的机器,操作系统都是Linux。
内存和CPU就不说了,反正Hadoop一大特点就是机器在多不在精。
JDK必须是1.5以上的,这个切记。
7台机器的机器名务必不同,后续会谈到机器名对于MapReduce有很大的影响。
部署考虑
正如上面我描述的,对于Hadoop的集群来说,可以分成两大类角色:
Master和Slave,前者主要配置NameNode和JobTracker的角色,负责总管分布式数据和分解任务的执行,后者配置DataNode和TaskTracker的角色,负责分布式数据存储以及任务的执行。
本来我打算看看一台机器是否可以配置成Master,同时也作为Slave使用,不过发现在NameNode初始化的过程中以及TaskTracker执行过程中机器名配置好像有冲突(NameNode和TaskTracker对于Hosts的配置有些冲突,究竟是把机器名对应IP放在配置前面还是把Localhost对应IP放在前面有点问题,不过可能也是我自己的问题吧,这个大家可以根据实施情况给我反馈)。
最后反正决定一台Master,六台Slave,后续复杂的应用开发和测试结果的比对会增加机器配置。
实施步骤
1在所有的机器上都建立相同的目录,也可以就建立相同的用户,以该用户的home路径来做hadoop的安装路径。
例如我在所有的机器上都建立了/home/wenchu。
2下载Hadoop,先解压到Master上。
这里我是下载的0.17.1的版本。
此时Hadoop的安装路径就是/home/wenchu/hadoop-0.17.1。
3解压后进入conf目录,主要需要修改以下文件:
hadoop-env.sh,hadoop-site.xml、masters、slaves。
Hadoop的基础配置文件是hadoop-default.xml,看Hadoop的代码可以知道,默认建立一个Job的时候会建立Job的Config,Config首先读入hadoop-default.xml的配置,然后再读入hadoop-site.xml的配置(这个文件初始的时候配置为空),hadoop-site.xml中主要配置你需要覆盖的hadoop-default.xml的系统级配置,以及你需要在你的MapReduce过程中使用的自定义配置(具体的一些使用例如final等参考文档)。
以下是一个简单的hadoop-site.xml的配置:
<
?
xmlversion="
1.0"
>
xml-stylesheettype="
text/xsl"
href="
configuration.xsl"
!
--Putsite-specificpropertyoverridesinthisfile.-->
configuration>
property>
<
name>
fs.default.name<
/name>
//你的namenode的配置,机器名加端口
value>
hdfs:
//10.2.224.46:
54310/<
/value>
/property>
mapred.job.tracker<
//你的JobTracker的配置,机器名加端口
54311/<
dfs.replication<
//数据需要备份的数量,默认是三
1<
hadoop.tmp.dir<
//Hadoop的默认临时路径,这个最好配置,如果在新增节点或者其他情况下莫名其妙的DataNode启动不了,就删除此文件中的tmp目录即可。
不过如果删除了NameNode机器的此目录,那么就需要重新执行NameNode格式化的命令。
/home/wenchu/hadoop/tmp/<
mapred.child.java.opts<
//java虚拟机的一些参数可以参照配置
-Xmx512m<
dfs.block.size<
//block的大小,单位字节,后面会提到用处,必须是512的倍数,因为采用crc作文件完整性校验,默认配置512是checksum的最小单元。
5120000<
description>
Thedefaultblocksizefornewfiles.<
/description>
/configuration>
hadoop-env.sh文件只需要修改一个参数:
#Thejavaimplementationtouse.Required.
exportJAVA_HOME=/usr/ali/jdk1.5.0_10
配置你的Java路径,记住一定要1.5版本以上,免得莫名其妙出现问题。
Masters中配置Masters的IP或者机器名,如果是机器名那么需要在/etc/hosts中有所设置。
Slaves中配置的是Slaves的IP或者机器名,同样如果是机器名需要在/etc/hosts中有所设置。
范例如下,我这里配置的都是IP:
Masters:
10.2.224.46
Slaves:
10.2.226.40
10.2.226.39
10.2.226.38
10.2.226.37
10.2.226.41
10.2.224.36
4建立Master到每一台Slave的SSH受信证书。
由于Master将会通过SSH启动所有Slave的Hadoop,所以需要建立单向或者双向证书保证命令执行时不需要再输入密码。
在Master和所有的Slave机器上执行:
ssh-keygen-trsa。
执行此命令的时候,看到提示只需要回车。
然后就会在/root/.ssh/下面产生id_rsa.pub的证书文件,通过scp将Master机器上的这个文件拷贝到Slave上(记得修改名称),例如:
scproot@masterIP:
/root/.ssh/id_rsa.pub/root/.ssh/46_rsa.pub,然后执行cat/root/.ssh/46_rsa.pub>
/root/.ssh/authorized_keys,建立authorized_keys文件即可,可以打开这个文件看看,也就是rsa的公钥作为key,user@IP作为value。
此时可以试验一下,从masterssh到slave已经不需要密码了。
由slave反向建立也是同样。
为什么要反向呢?
其实如果一直都是Master启动和关闭的话那么没有必要建立反向,只是如果想在Slave也可以关闭Hadoop就需要建立反向。
5将Master上的Hadoop通过scp拷贝到每一个Slave相同的目录下,根据每一个Slave的Java_HOME的不同修改其hadoop-env.sh。
修改Master上/etc/profile:
新增以下内容:
(具体的内容根据你的安装路径修改,这步只是为了方便使用)
exportHADOOP_HOME=/home/wenchu/hadoop-0.17.1
exportPATH=$PATH:
$HADOOP_HOME/bin
6修改完毕后,执行source/etc/profile来使其生效。
7在Master上执行Hadoopnamenode–format,这是第一需要做的初始化,可以看作格式化吧,以后除了在上面我提到过删除了Master上的hadoop.tmp.dir目录,否则是不需要再次执行的。
8然后执行Master上的start-all.sh,这个命令可以直接执行,因为在6中已经添加到了path路径,这个命令是启动hdfs和mapreduce两部分,当然你也可以分开单独启动hdfs和mapreduce,分别是bin目录下的start-dfs.sh和start-mapred.sh。
9检查Master的logs目录,看看Namenode日志以及JobTracker日志是否正常启动。
10检查Slave的logs目录看看Datanode日志以及TaskTracker日志是否正常。
11如果需要关闭,那么就直接执行stop-all.sh即可。
以上步骤就可以启动Hadoop的分布式环境,然后在Master的机器进入Master的安装目录,执行hadoopjarhadoop-0.17.1-examples.jarwordcount输入路径和输出路径,就可以看到字数统计的效果了。
此处的输入路径和输出路径都指的是HDFS中的路径,因此你可以首先通过拷贝本地文件系统中的目录到HDFS中的方式来建立HDFS中的输入路径:
hadoopdfs-copyFromLocal/home/wenchu/test-intest-in。
其中/home/wenchu/test-in是本地路径,test-in是将会建立在HDFS中的路径,执行完毕以后可以通过hadoopdfs–ls看到test-in目录已经存在,同时可以通过hadoopdfs–lstest-in查看里面的内容。
输出路径要求是在HDFS中不存在的,当执行完那个demo以后,就可以通过hadoopdfs–ls输出路径看到其中的内容,具体文件的内容可以通过hadoopdfs–cat文件名称来查看。
经验总结和注意事项(这部分是我在使用过程中花了一些时间走的弯路):
12Master和Slave上的几个conf配置文件不需要全部同步,如果确定都是通过Master去启动和关闭,那么Slave机器上的配置不需要去维护。
但如果希望在任意一台机器都可以启动和关闭Hadoop,那么就需要全部保持一致了。
13Master和Slave机器上的/etc/hosts中必须把集群中机器都配置上去,就算在各个配置文件中使用的是IP。
这个吃过不少苦头,原来以为如果配成IP就不需要去配置Host,结果发现在执行Reduce的时候总是卡住,在拷贝的时候就无法继续下去,不断重试。
另外如果集群中如果有两台机器的机器名如果重复也会出现问题。
14如果在新增了节点或者删除节点的时候出现了问题,首先就去删除Slave的hadoop.tmp.dir,然后重新启动试试看,如果还是不行那就干脆把Master的hadoop.tmp.dir删除(意味着dfs上的数据也会丢失),如果删除了Master的hadoop.tmp.dir,那么就需要重新namenode–format。
15Map任务个数以及Reduce任务个数配置。
前面分布式文件系统设计提到一个文件被放入到分布式文件系统中,会被分割成多个block放置到每一个的DataNode上,默认dfs.block.size应该是64M,也就是说如果你放置到HDFS上的数据小于64,那么将只有一个Block,此时会被放置到某一个DataNode中,这个可以通过使用命令:
hadoopdfsadmin–report就可以看到各个节点存储的情况。
也可以直接去某一个DataNode查看目录:
hadoop.tmp.dir/dfs/data/current就可以看到那些block了。
Block的数量将会直接影响到Map的个数。
当然可以通过配置来设定Map和Reduce的任务个数。
Map的个数通常默认和HDFS需要处理的blocks相同。
也可以通过配置Map的数量或者配置minimumsplitsize来设定,实际的个数为:
max(min(block_size,data/#maps),min_split_size)。
Reduce可以通过这个公式计算:
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 分布式 计算 框架 Hadoop 入门 实践