decimal,float和double的区别是什么?

news/2024/9/28 1:18:58

原文链接:https://blog.csdn.net/hellojoy/article/details/118105569

 

表示小数的一共有三种类型:float是单精度,double是双精度,decimal是数字型,它们所占的内存空间不一样,表示的位数也不一样。

1、精度:

  • float单精度小数部分能精确到小数点后面6位,用 32 位二进制进行描述
  • double双精度小数部分能精确到小数点后的15位,,用64位二进制进行描述,比float型更精确

2、占内存及处理速度:

  • float单精度内存占4个字节
  • double双精度内存占8个字节,是float型的两倍,且运算速度也比float慢得多

结论:虽然double型比float型精度高,但由于占内存更大,运算速度慢,且即使是double依然会存在精度损失的问题,且不会报告任何的错误,也不会有任何的异常产生。所以如果涉及到小数计算的话,我们会用到下边的decimal型:

1、精度:

decimal用l128位高精度浮点数,常用于金融运算,不会出现浮点数计算的误差

2、占内存及处理速度:

decimal类型的数据存储形式是,将每9位十进制数存储为4个字节

 

举个例子:
1)字段decimal(5,2),5-2=3,其中小数部分为2,对应上表1个字节,整数部分为3,对应上表2个字节
2)字段decimal(20,6),20-6=14,其中小数部分为6,就对应上表中的3个字节,而整数部分为14,14-9=5,就是4个字节再加上表中的3个字节

结论:decimal型比浮点型计算精度要高,通常使用更少的空间。所以通常我们在设置小数的时候,都是用的decimal类型。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.ryyt.cn/news/64981.html

如若内容造成侵权/违法违规/事实不符,请联系我们进行投诉反馈,一经查实,立即删除!

相关文章

布客沉思录(二)合伙人的不作为和背叛

合伙人需要做但是没有做的规划翻译并校对了 FreeLearning VKDoc iBooker 三个系列技术教程 √ 制作大量源码解析 √ 制作了视频合成工具 √ 制作了大量玄学视频,普及玄学知识 √ 制作了大量量化教程 √ 探索并实现了开放式两性关系 √ 制作大量视频普及开放式关系和红丸 量化策…

MT5016A-ASEMI三相整流桥MT5016A

MT5016A-ASEMI三相整流桥MT5016A编辑:ll MT5016A-ASEMI三相整流桥MT5016A 型号:MT5016A 品牌:ASEMI 封装:D-63 批号:2024+ 类型:三相整流桥 电流(ID):50A 电压(VF):1600V 安装方式:直插式封装 特性:大功率、整流方桥 产品引线数量:4 产品内部芯片个数:4 产品内部…

Apache DolphinScheduler-1.3.9源码分析(一)

引言 随着大数据的发展,任务调度系统成为了数据处理和管理中至关重要的部分。Apache DolphinScheduler 是一款优秀的开源分布式工作流调度平台,在大数据场景中得到广泛应用。在本文中,我们将对 Apache DolphinScheduler 1.3.9 版本的源码进行深入分析,介绍 Master 启动以及…

html图像

<img src="images/quokka.jpg" alt="A family of quokka" title="The some"> alt图像无法显示时的描述 title鼠标停留在图像上时的显示。 width:图像的宽度(过时) height图像的高度(过时) 2.图像分类jpg gif png 图中包括很多颜色时使用…

【泛微E9】修改表单字段类型,将[附件上传-上传文件]修改为[附件上传-上传图片]

根据字段名查到该字段所在的所有表 -- MYSQL SELECT TABLE_SCHEMA, TABLE_NAME FROM INFORMATION_SCHEMA.COLUMNS WHERE COLUMN_NAME = bhgxtpsc;对比可知,附件上传 type = 1,图片上传 type = 2SELECT * FROM workflow_billfield WHERE ID = 12749UPDATE workflow_billfield…

Mimikatz的使用及免杀方向(过360,火狐和WindowsDefinder)

一. Mimikatz加修改注册表绕过LSA保护(暂不考虑EDR和WD)Mimikatz原理:Mimikatz通过逆向获取存储在lsass.exe进程中的明文登录密码。(lsass.exe用于本地安全和登陆策略)。首先使用Mimikatz抓取时必须是管理员权限,在win10,win11,win2012等版本中,系统会开启LSA保护,明文密…

轻松创作原创文章,AI智能写作工具为你一键生成!

在这个信息泛滥的时代,原创内容成为了稀缺资源。对于创作者而言,如何在快节奏的生活中保持高质量的输出,成为了一个巨大的挑战。AI智能写作工具的崛起,为我们提供了一种全新的解决方案。以下是一篇探讨AI智能写作工具深度价值的文章。在这个信息泛滥的时代,原创内容成为了…

使用re的正则表达式提取腾讯体育新闻摘要

首先确认要爬取的信息所在网页是静态还是动态,打开浏览器开发者工具抓包,下拉页面更新体育新闻的摘要(summary),同时查看网络面板,筛选fetch/xhr发起的请求的响应,随着下拉动作,能发现对https://matchweb.sports.qq.com/feeds/list的请求的增加。爬取的目标网页是动态的…