科多大数据培训
全国24小时免费热线
15328019568
联系QQ
3048661160
开班时间
当前位置:首页 > 学习资讯 > 大数据内容 >

大数据Hadoop架构的MapReduce的介绍

我们先看百度百科对MapReduce的解释吧 MapReduce是一种编程模型,用于大规模数据集(大于1TB)的并行运算。概念Map(映射)和Reduce(归约),是它们的主要思想,都是从函数式编程语言里

我们先看百度百科对MapReduce的解释吧

MapReduce是一种编程模型,用于大规模数据集(大于1TB)的并行运算。概念"Map(映射)"和"Reduce(归约)",是它们的主要思想,都是从函数式编程语言里借来的,还有从矢量编程语言里借来的特性。它极大地方便了编程人员在不会分布式并行编程的情况下,将自己的程序运行在分布式系统上。 当前的软件实现是指定一个Map(映射)函数,用来把一组键值对映射成一组新的键值对,指定并发的Reduce(归约)函数,用来保证所有映射的键值对中的每一个共享相同的键组。

我们主要对MapReduce进行简单的说明

1、mapreduce适合做什么?

    适合做离线批处理计算(静态数据技术)-慢(大),相反的有一个实时计算(动态数据,快)

搭建mapreduce的环境

伪分布式的环境搭建【在hdfs搭建好的前提条件下】

在etc/hadoop目录下,修改文件名

mv mapred-site.xml.template mapred-site.xml

<property>         <name>mapreduce.framework.name</name>         <value>yarn</value>     </property>

修改了一个yarn-site.xml文件

<property>         <name>yarn.nodemanager.aux-services</name>         <value>mapreduce_shuffle</value>     </property>

启动

先启动hdfs

再启动yarn  start-yarn.sh

启动成功之后,可以通过JPS查看



还可以通过8088

http://192.168.200.10:8088
最新资讯更多+
内容推荐更多+
在线课堂
猜你喜欢