yarn开启jobhistoryserver教程 yarn怎么启动项目
qiyuwang 2024-12-22 20:26 16 浏览 0 评论
要开启YARN的JobHistory Server,请按照以下详细步骤操作:
1. 打开终端或命令行界面
首先,确保你已经安装并配置好了Hadoop和YARN环境。打开你的终端(macOS/Linux)或命令行界面(Windows)以开始后续操作。
2. 导航到Hadoop的安装目录
使用 cd命令进入Hadoop的安装目录。例如,如果Hadoop安装在 /usr/local/hadoop,则运行:
cd /usr/local/hadoop
- 解释:cd命令用于更改当前工作目录。进入Hadoop的安装目录是为了访问和修改相关配置文件。
? 3. 进入配置文件目录
在Hadoop安装目录下,进入 etc/hadoop目录,该目录包含所有Hadoop的配置文件。
cd etc/hadoop
- 解释:etc/hadoop目录存放了Hadoop和YARN的配置文件,修改这些文件可以配置Hadoop集群的各种参数。
4. 配置mapred-site.xml文件
使用文本编辑器(如 vi、nano或你喜欢的编辑器)打开 mapred-site.xml文件,并添加以下配置:
<property>
<name>mapreduce.jobhistory.address</name>
<value>localhost:10020</value>
</property>
<property>
<name>mapreduce.jobhistory.webapp.address</name>
<value>localhost:19888</value>
</property>
- 解释:<name>mapreduce.jobhistory.address</name>:指定JobHistory Server的通信地址和端口。<name>mapreduce.jobhistory.webapp.address</name>:指定JobHistory Server的Web界面地址和端口。
5. 配置yarn-site.xml文件
同样,打开 yarn-site.xml文件,并添加以下配置:
<property>
<name>yarn.log.server.url</name>
<value>http://localhost:19888/jobhistory/logs</value>
</property>
- 解释:<name>yarn.log.server.url</name>:指定JobHistory Server的日志URL,用于存储和访问作业日志。
6. 保存并关闭配置文件
完成上述配置后,保存并关闭 mapred-site.xml和 yarn-site.xml文件。确保配置文件格式正确,避免因格式错误导致服务无法启动。
7. 启动YARN服务
返回Hadoop的安装目录,运行以下命令启动YARN资源管理器和节点管理器:
./sbin/start-yarn.sh
- 解释:start-yarn.sh脚本用于启动YARN的核心组件,包括资源管理器(ResourceManager)和节点管理器(NodeManager)。
8. 启动JobHistory Server
接下来,启动JobHistory Server,运行以下命令:
./sbin/mr-jobhistory-daemon.sh start historyserver
- 解释:mr-jobhistory-daemon.sh脚本用于管理JobHistory Server的启动和停止。start historyserver参数指定启动JobHistory Server。
9. 验证JobHistory Server是否启动成功
打开浏览器,访问以下URL以查看JobHistory Server的Web界面:
http://localhost:19888
- 解释:在浏览器中访问该地址,可以查看JobHistory Server的运行状态、作业历史信息和日志。
10. 工作流程总结
以下是开启YARN的JobHistory Server的完整工作流程:
- 打开终端 ?
- 导航到Hadoop安装目录
- 进入配置文件目录 ?
- 配置 mapred-site.xml文件
- 配置 yarn-site.xml文件
- 保存并关闭配置文件
- 启动YARN服务
- 启动JobHistory Server
- 验证服务器运行状态
重要提示
- 网络连接稳定 :确保服务器和客户端之间的网络连接稳定,以避免配置和启动过程中出现问题。
- 端口冲突 ??:确保配置中使用的端口(如10020和19888)未被其他应用占用,避免端口冲突。
- 权限设置 :确保你有足够的权限修改配置文件和启动服务,必要时使用 sudo权限。
- 日志检查 :如果启动过程中出现问题,检查日志文件以获取详细错误信息,便于排查和解决问题。
通过以上步骤,你已经成功开启了YARN的JobHistory Server,可以开始记录和查看作业的历史信息和日志。这对于监控和调试YARN作业具有重要意义。
相关推荐
- 基于Docker方式安装与部署Camunda流程引擎
-
1Camunda简介官网:https://docs.camunda.org/manual/7.19/installation/docker/Camunda是一个轻量级、开源且高度灵活的工作流和决策自...
- 宝塔Linux面板如何部署Java项目?(宝塔面板 linux)
-
通过宝塔面板部署Java还是很方便的,至少不需要自己输入tomcat之类的安装命令了。在部署java项目前,我还是先说下目前的系统环境,如果和我的系统环境不一样,导致部署不成功,那你可能需要去找其他资...
- 浪潮服务器如何用IPMI安装Linux系统
-
【注意事项】此处以浪潮服务器为例进行演示所需使用的软件:Chrome浏览器个人PC中需要预先安装java,推荐使用jdk-8u181-windows-x64.exe【操作步骤】1、在服务器的BIOS中...
- Centos7环境Hadoop3集群搭建(hadoop集群环境搭建实验报告)
-
由于项目需要存储历史业务数据,经过评估数据量会达到100亿以上,在原有mongodb集群和ES集群基础上,需要搭建Hbase集群进行调研,所以首先总结一下Hadoop集群的搭建过程。一、三个节点的集群...
- Hadoop高可用集群搭建及API调用(hadoop高可用原理)
-
NameNodeHA背景在Hadoop1中NameNode存在一个单点故障问题,如果NameNode所在的机器发生故障,整个集群就将不可用(Hadoop1中虽然有个SecorndaryNameNo...
- 使用Wordpress搭建一个属于自己的网站
-
现在开源的博客很多,但是考虑到wordpress对网站的seo做的很好,插件也多。并且全世界流量排名前1000万的网站有33.4%是用Wordpress搭建的!所以尝试用Wordpress搭建一个网站...
- Centos 安装 Jenkins(centos 安装ssh)
-
1、Java安装查看系统是否已安装Javayumlistinstalled|grepjava...
- Java教程:gitlab-使用入门(java中的git)
-
1导读本教程主要讲解了GitLab在项目的环境搭建和基本的使用,可以帮助大家在企业中能够自主搭建GitLab服务,并且可以GitLab中的组、权限、项目自主操作...
- Dockerfile部署Java项目(docker部署java应用)
-
1、概述本文主要会简单介绍什么是Docker,什么是Dockerfile,如何安装Docker,Dockerfile如何编写,如何通过Dockerfile安装jar包并外置yaml文件以及如何通过do...
- 如何在Eclipse中搭建Zabbix源码的调试和开发环境
-
Zabbix是一款非常优秀的企业级软件,被设计用于对数万台服务器、虚拟机和网络设备的数百万个监控项进行实时监控。Zabbix是开放源码和免费的,这就意味着当出现bug时,我们可以很方便地通过调试源码来...
- Java路径-02-Java环境配置(java环境搭建及配置教程)
-
1Window环境配置1.1下载...
- 35.Centos中安装python和web.py框架
-
文章目录前言1.Centos7python:2.Centos8python:3.进行下载web.py框架然后应用:4.安装好之后进行验证:5.总结:前言...
- 《我的世界》服务器搭建(我的世界服务器如何搭建)
-
1.CentOS7环境1.1更改YUM源#下载YUM源文件curl-o/etc/yum.repos.d/CentOS-Base.repohttps://mirrors.aliyun.com...
- CentOS 7 升级 GCC 版本(centos7.4升级7.5)
-
1.GCC工具介绍GCC编译器:...
- Linux安装Nginx详细教程(linux安装配置nginx)
-
环境准备1.因为Nginx依赖于gcc的编译环境,所以,需要安装编译环境来使Nginx能够编译起来。命令:yuminstallgcc-c++显示完毕,表示安装完成:2.Nginx的http模块需要...
你 发表评论:
欢迎- 一周热门
- 最近发表
-
- 基于Docker方式安装与部署Camunda流程引擎
- 宝塔Linux面板如何部署Java项目?(宝塔面板 linux)
- 浪潮服务器如何用IPMI安装Linux系统
- Centos7环境Hadoop3集群搭建(hadoop集群环境搭建实验报告)
- Hadoop高可用集群搭建及API调用(hadoop高可用原理)
- 使用Wordpress搭建一个属于自己的网站
- Centos 安装 Jenkins(centos 安装ssh)
- Java教程:gitlab-使用入门(java中的git)
- Dockerfile部署Java项目(docker部署java应用)
- 如何在Eclipse中搭建Zabbix源码的调试和开发环境
- 标签列表
-
- navicat无法连接mysql服务器 (65)
- 下横线怎么打 (71)
- flash插件怎么安装 (60)
- lol体验服怎么进 (66)
- ae插件怎么安装 (62)
- yum卸载 (75)
- .key文件 (63)
- cad一打开就致命错误是怎么回事 (61)
- rpm文件怎么安装 (66)
- linux取消挂载 (81)
- ie代理配置错误 (61)
- ajax error (67)
- centos7 重启网络 (67)
- centos6下载 (58)
- mysql 外网访问权限 (69)
- centos查看内核版本 (61)
- ps错误16 (66)
- nodejs读取json文件 (64)
- centos7 1810 (59)
- 加载com加载项时运行错误 (67)
- php打乱数组顺序 (68)
- cad安装失败怎么解决 (58)
- 因文件头错误而不能打开怎么解决 (68)
- js判断字符串为空 (62)
- centos查看端口 (64)