spark sql语句性能优化及执行计划

news/2024/10/19 12:35:08

一、优化点:
1、not in 替换为 not exist;
2、in 替换为 right join;
3、distinct 替换为 group by;
4、count(distinct) 替换为 count;
5、where条件中,等号左右两边的数据类型需要一致;
6、where条件中,等号左边不要有函数;
7、where条件上移;
8、优化点需要对照执行计划,并且有实际效果。

二、对应的执行计划:

1、not in 替换为 not exist:

 

 

2、exists替换为in:

 3、distinct替换为group by:

 4、count(distinct)替换为group by:

 5、where条件上移:

 6、数据类型需要一致:

 

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.ryyt.cn/news/73406.html

如若内容造成侵权/违法违规/事实不符,请联系我们进行投诉反馈,一经查实,立即删除!

相关文章

GDPC-CSA::CTF一轮web题目write up-T2 ez http

首先来看题目先不鸟提示,进去页面逛逛,F12一下,看到如下内容回头来看提示,robots.txt是网页用来告知爬虫允许和禁止访问文件的君子协议,由题我们决定先打开/robots.txt查看一下爬虫被禁止访问哪些文件,其中说不定会有线索 如果对robots.txt还不了解的可以看看这里 在网站…

AIGC时代的语音笔记工具,创意人士的福音

国庆期间,我发现了一款特别好用的语音笔记工具,它应该算是AIGC时代的新一代笔记工具了。这个工具,是那些随时会有创意想法要记录,或者经常需要做会议纪要,读书笔记的人福音。 它有几个功能让我特别喜欢。第一个是语音笔记功能,这个不像科大讯飞的语音输入法,它不仅仅是简…

初探AI之got-ocr2.0大模型本地部署与遇到的各种坑处理

一、环境搭建 1.安装cuda,本人使用的是12.1版本,下载地址:https://developer.nvidia.com/cuda-12-1-1-download-archive2.安装conda3,https://blog.csdn.net/m0_73634846/article/details/136378350 3.准备代码环境 原文: https://mp.weixin.qq.com/s/PQVrlr5FoVb89Mivzi7p…

体脂率测试

代码展示 #include<stdio.h>int main() { float h,w,t; t=h/(w*w); if(t<18.5)cout<<"偏瘦”; else if(18.5<t<23.9)cout<<"正常"; else if(23.9<t<27.9)cout<<"偏胖"; else if(27.9<t<39.9)cout<…

使用Web组件加载页面

★★★★★★★★★★★★★★★★★★★★★★★★★★★★★★★★★★★★★★★★➤微信公众号:山青咏芝(MaoistLearning)➤博客园地址:为敢技术(https://www.cnblogs.com/strengthen/ )➤GitHub地址:https://github.com/strengthen➤原文地址:https://www.cnblogs…

如何创建Electron + Vue3项目, 并调用C# dll

依赖环境 当前系统环境为win11,真正上手才知道环境问题才是最大的问题,希望本文能帮你节约时间。 本文参考以下资料 https://www.electronforge.io/guides/framework-integration/vue-3 perplexity.ai和kimi.ai提供其他相关资料 nodejs 在开发前需要确定你要调用的dll是32位还…

20222311 2024-2025-1 《网络与系统攻防技术》实验二实验报告

一、实验内容 1.实验目标 (1)使用netcat获取主机操作Shell,cron启动某项任务(任务自定) PS:cron是linux下用来周期性的执行某种任务或等待处理某些事件的一个守护进程 (2)使用socat获取主机操作Shell, 任务计划启动 (3)使用MSF meterpreter(或其他软件)生成可执行文件(后…