BigDecimal精度理解

news/2024/10/6 20:38:20

BigDecimal的类声明以及几个属性:

接下来我们可以debug来看下其运行原理

        BigDecimal bigDecimal1 = BigDecimal.valueOf(2.88);BigDecimal bigDecimal2 = BigDecimal.valueOf(3.5);BigDecimal resDecimal = bigDecimal1.add(bigDecimal2);System.out.println(resDecimal);

 可以看出是把数值扩大了10的n次倍,并记录了n值,然后再使用add方法计算。

 总结:

所以可以得出结论:BigDecimal在计算时,实际会把数值扩大10的n次倍,变成一个long型整数进行计算,整数计算时自然可以实现精度不丢失。同时结合精度scale,实现最终结果的计算。

 

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.ryyt.cn/news/28415.html

如若内容造成侵权/违法违规/事实不符,请联系我们进行投诉反馈,一经查实,立即删除!

相关文章

linux使用blkid未显示所有设备的UUID

如题: 使用lsblk命令可以看到,服务器存在设备vdb但使用blkid命令,系统未返回所有硬盘的UUID同时,使用lsblk -f命令,可以看到系统返回的设备挂载情况,也没有返回vdb的信息解决方案: 查询资料,看到有一个解决方法 使用sudo blkid进行查询,发现可以查询到/dev/vdb设备的U…

标准的JavaBean类书写

ptg插件 只需输入方法名和变量右键即可生成完整javabean方法

@Async异步失效的9种场景

前言 最近星球中有位小伙伴问了我一个问题:他在项目某个方法使用@Async注解,但是还是该方法还是同步执行了,异步不起作用,到底是什么原因呢? 伪代码如下: @Slf4j @Service public class UserService {@Asyncpublic void async(String value) {log.info("async:{}&qu…

如何安全可控地进行内外网跨网络传输文件?

跨网络传输文件通常指的是在不同的网络环境之间移动数据,这在现代企业运营中非常常见。随着网络技术的高速发展,为了有效地保护内部的核心数据资产,企业一般会采用内外网隔离的策略。在进行内外网跨网络传输文件时,需要考虑多种因素,包括但不限于安全性、效率、合规性、技…

文本自动生成PPT的AI工具——轻竹AIPPT

文本自动生成PPT的AI工具——轻竹AIPPTPPT(PowerPoint Presentation)是商务、教育和各种演讲中不可或缺的工具。但是,设计一份既吸引人又能有效传达信息的PPT确实不容易。在这个过程中,选择一个好的工具能够事半功倍。而现在,AI技术的介入,让这个过程变得更加简单和有趣,…

DC2靶场

DC2 下载地址: https://download.vulnhub.com/dc/DC-2.zip 题目要求: Much like DC-1, DC-2 is another purposely built vulnerable lab for the purpose of gaining experience in the world of penetration testing. As with the original DC-1, its designed with beginn…

Unity热更学习toLua使用--[1]toLua的导入和默认加载执行lua脚本

[0]toLua的导入 下载toLua资源包,访问GitHub项目地址,点击下载即可。将文件导入工程目录中:导入成功之后会出现Lua菜单栏,如未成功生成文件,可以点击Generate All 重新生成(注意很可能是路径问题导致的生成失败!)之后就可以开始编写脚本执行第一个lua程序了! [1]C#调用…

DC1靶场练习

DC1 下载地址: https://download.vulnhub.com/dc/DC-1.zip 题目要求: DC-1 is a purposely built vulnerable lab for the purpose of gaining experience in the world of penetration testing. It was designed to be a challenge for beginners, but just how easy it is …