实战教程!Zabbix 监控 Spark 中间件配置教程

news/2024/9/28 1:12:22

本文将介绍以JMX方式监控Spark中间件。JMX具有跨平台、灵活性强、监控能力强、易于集成与扩展、图形化界面支持以及安全性与可配置性等多方面的优势,是监控Spark等复杂Java应用程序的重要工具之一。

Apache Spark 是一个开源的大数据处理框架,它提供了快速、通用和可扩展的数据处理能力,适用于执行大规模的数据处理和分析任务,特别是在批处理、实时流处理、机器学习和图计算等领域。

JMX(Java Management Extensions)作为Java平台标准的一部分,提供了一种标准化的机制,用于监控和管理应用程序、系统对象、设备和服务。JMX技术可以跨越不同的操作系统、体系结构和网络传输协议,灵活地开发无缝集成的系统、网络和服务管理应用。

JMX可以被用于多种管理任务,包括:

  • 系统监控:监控系统的CPU使用率、内存消耗、线程数等指标。
  • 性能调优:获取应用程序的性能数据,如方法执行时间、请求响应时间等,帮助开发者找出性能瓶颈并进行优化。
  • 故障排查:当系统出现故障时,通过JMX快速定位问题所在,如查看日志、监控线程状态等。
  • 安全管理:实现系统的安全控制,如用户认证、访问控制等。
  • 服务管理:对于分布式系统,监控服务状态、管理服务实例,提高系统的可用性和可维护性。

二、Spark配置开启JMX服务

1、编写Spark配置文件:

在安装的spark服务里找到名称为“spark-env.sh”的配置文件,进行编辑修改。

2、在Spark配置文件里启用JMX:

输入命令:vi spark-env.sh 打开配置文件,并在文件中添加以下参数来开启JMX并设置JMX的监听端口。

export SPARK_DAEMON_JAVA_OPTS="$SPARK_DAEMON_JAVA_OPTS -Dcom.sun.management.jmxremote -Dcom.sun.management.jmxremote.port=7099 -Dcom.sun.management.jmxremote.authenticate=false -Dcom.sun.management.jmxremote.ssl=false"

解析:开启JMX服务并设置端口为7099。

3、重启Spark服务:

根据自身所搭建的Spark模式来重启Spark,以便Spark服务应用添加这些参数的更改

三、下载测试工具cmdline-jmxclient-0.10.3.jar包进行连通性测试

1、下载测试工具cmdline-jmxclient-0.10.3.jar包

cmdline-jmxclient-0.10.3.jar为一个测试工具,可用来测试JMX是否配置正确,下载cmdline-jmxclient-0.10.3.jar(下载到任意目录)。

wget http://crawler.archive.org/cmdline-jmxclient/cmdline-jmxclient-0.10.3.jar

2、测试JAR包,注意IP地址与JMX端口需与配置文件一致

java -jar cmdline-jmxclient-0.10.3.jar - 192.168.3.34:7099

3、测试成功效果图

 

测试成功则证明可以成功连接并且返回数据。

四、如何进行监控项添加监控

1、需要使用windows的jconsole控制台制作监控项,安装方式可以自行去搜索对应教程进行安装。

2、运用方式:

1)win+r】---【输入jconsole】

 

2)选择远程进程,输入IP:JMX端口来进行登录

 

3)添加监控项

下图是关于Spark JMX形式的监控项例子

 

以上就是本次对Spark中间监控的配置教程,更多zabbix技术问题可以持续关注乐维社区

 

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.ryyt.cn/news/64931.html

如若内容造成侵权/违法违规/事实不符,请联系我们进行投诉反馈,一经查实,立即删除!

相关文章

Linux单机最大并发到底是多少?

Linux单机最大并发到底是多少? - 知乎 (zhihu.com) 所谓C10K就是单机1w并发问题,其中IO复用epoll/kqueue/iocp等技术对于C10k问题的解决起到了非常重要的作用。 所谓C10W就是单机1000w并发问题,未来待解决 ========================================== 五元组数 一个五元组可…

PyG的安装

PyG的安装 很早就想了解一下图神经网络,终于有时间学习一下了,下面记录一下安装 PyG 的过程。 PyG GitHub官网地址:GitHub - pyg-team/pytorch_geometric: Graph Neural Network Library for PyTorch 这个官网我觉得很好的一点是他一直在更新,而且基本上所有的图神经网络模…

中通面经

中通面经 1、Springboot的启动流程是怎么样的?new SpringApplication(): 在SpringApplication的构造函数中,调用了一个initialize方法,所以他的初始化逻辑直接看这个initialize方法就行了。1、添加源:将提供的源(通常是配置类)添加到应用的源列表中 2、设置web环境:判断…

.NET 工具库高效生成 PDF 文档

前言 QuestPDF 是一个开源 .NET 库,用于生成 PDF 文档。使用了C# Fluent API方式可简化开发、减少错误并提高工作效率。利用它可以轻松生成 PDF 报告、发票、导出文件等。 项目介绍 QuestPDF 是一个革命性的开源 .NET 库,它彻底改变了我们生成 PDF 文档的方式。 QuestPDF 的核…

【数据库】生产问题(数据迁移)

MySQL 亿级数据平滑迁移实战(来自vivo) https://www.cnblogs.com/vivotech/p/183736231、方案选型 常见的迁移方案大致可以分为以下几类:而预约业务有以下特点:读写场景多,频率高,在用户预约/取消预约/福利发放等场景均涉及到大量的读写。 不可接受停机,停机不可避免的会…

Git 分支管理全攻略:一篇博客带你玩转代码分支!

什么是分支?在 Git 里,分支其实就有点像一个树的枝杈,每个分支上可以有不同的文件的版本,并且不会互相干扰。什么是分支?在 Git 里,分支其实就有点像一个树的枝杈,每个分支上可以有不同的文件的版本,并且不会互相干扰。 ​ 分支功能有什么用?在工作中,我们经常是需要…

关于python自动化测试

最近在家搭建了一套可以复用的自动化测试框架,本项目实现接口自动化的技术选型:Python+Requests+Pytest+YAML+Allure 通过 Python+Requests 来发送和处理HTTP协议的请求接口,使用 Pytest 作为测试执行器,使用 YAML 来管理测试数据,使用 Allure 来生成测试报告!

加油站智能视频分析盒

加油站智能视频分析盒通过深度学习视频分析技术,加油站智能视频分析盒代替人眼,7*24小时不间断实时对加油站现场人员行为及设备进行识别站。加油站智能视频分析盒不同于传统安防监管方式,加油站智能视频分析盒可以全年24小时不停歇的对现场人员不合规行为并进行一直持续不断…