探索虚拟线程:原理与实现

news/2024/9/21 22:44:07

虚拟线程的引入与优势

在Loom项目之前,Java虚拟机(JVM)中的线程是通过java.lang.Thread类型来实现的,这些线程被称为平台线程。

然而,平台线程的创建和维护在资源使用上存在显著的开销。首先,创建成本不菲,因为每当操作系统需要创建一个新的平台线程时,它必须分配大量的内存(通常以兆字节计)来存储线程的上下文信息、本机栈和Java调用栈。这一过程受到固定大小堆栈的限制,导致创建和调度平台线程时的开销在空间和时间上都相当巨大。此外,当调度器需要从当前执行的线程中抢占时,必须处理大量内存的移动,这进一步增加了操作的复杂性和成本。这种开销不仅限制了可以同时创建的线程数量,而且也容易导致内存资源的耗尽。以下是一个示例,展示了在Java中如何通过不断实例化新的平台线程,迅速达到内存耗尽的情况:

private static void stackOverflowErrorDemo() {try {int threadCount = 0;// 尝试创建高达百万级的线程数量while (threadCount++ < 100000000) {// 创建并启动一个新线程Thread thread = new Thread(() -> {try {// 线程休眠1秒,模拟长时间运行的任务Thread.sleep(Duration.ofSeconds(1));} catch (InterruptedException e) {// 如果线程被中断,将其转换为运行时异常throw new RuntimeException(e);}});// 启动线程thread.start();}} catch (RuntimeException e) {// 捕获并处理由线程启动过程中可能抛出的运行时异常e.printStackTrace();}
}

在实际操作中,达到OutOfMemoryError的时间会根据操作系统和硬件的不同而有所差异。然而,通常情况下,这个过程可以在极短的时间内完成。

为了解决这些问题,虚拟线程应运而生。

虚拟线程的优势

资源效率:虚拟线程在内存使用上更为高效,初始内存占用通常只有几百字节,远小于平台线程所需的几兆字节。

简化线程管理:虚拟线程的创建和管理过程更为简便,通过工厂方法可以轻松创建,无需手动管理线程资源。

避免线程爆炸:由于资源消耗低,虚拟线程可以处理大量并发任务,而不必担心资源耗尽。

协作调度:虚拟线程采用协作调度模型,减少了锁竞争和上下文切换的开销,提升了多线程程序的性能。

避免阻塞:虚拟线程在遇到阻塞操作时可以释放执行权,允许其他线程执行,提高了程序的响应性。

虚拟线程如何创建

创建虚拟线程是Java中的一项新特性,它旨在解决传统平台线程所面临的资源限制问题。虚拟线程作为java.lang.Thread的一个替代实现,其独特之处在于将线程的调用堆栈存储在Java堆内存中,而不是传统的本地线程堆栈中。这种方式显著减少了每个线程所需的初始内存占用,通常仅为几百字节,而不是几兆字节。更进一步,虚拟线程的堆栈大小是动态可变的,这使得我们无需为各种用例预分配大量内存。以下是创建虚拟线程的两种方法:

使用工厂方法创建虚拟线程

通过java.lang.ThreadofVirtual静态工厂方法,我们可以轻松创建虚拟线程。首先,定义一个辅助函数来创建并启动一个带有指定名称的虚拟线程:

private static Thread createVirtualThread(String name, Runnable runnable) {return Thread.ofVirtual().name(name).start(runnable);
}

使用ThreadPerTaskExecutor创建虚拟线程

另一种方法是使用专为虚拟线程设计的java.util.concurrent.ExecutorService实现,即ThreadPerTaskExecutor。这个执行器为提交的每个任务创建一个新的虚拟线程:

@SneakyThrows
static void createVirtualThreadUsingExecutorsWithName() {final ThreadFactory factory = Thread.ofVirtual().name("worker-", 0).factory();try (var executor = Executors.newThreadPerTaskExecutor(factory)) {var cleanTime =executor.submit(() -> {log.info("我要打扫卫生");sleep(Duration.ofMillis(500L));log.info("卫生打扫完了");});var boilingWater =executor.submit(() -> {log.info("我要去烧一些水");sleep(Duration.ofSeconds(1L));log.info("水烧好了");});cleanTime.get();boilingWater.get();}
}

在这个示例中,我们使用了submit方法来启动虚拟线程,它需要一个RunnableCallable任务。submit方法返回一个Future对象,该对象可以用来跟踪和控制虚拟线程的执行。

虚拟线程的启动和同步

与平台线程相比,虚拟线程的启动和同步方式略有不同,因为它们是通过ExecutorService来管理的。每个submit调用都返回一个Future对象,这允许我们跟踪任务的状态,甚至在必要时阻塞当前线程直到虚拟线程完成其任务。

虚拟线程的原理

 

 

如上图所示展示虚拟线程与平台线程之间的关系:

JVM维护了一个由专用ForkJoinPool创建和维护的平台线程池。最初,平台线程的数量等于CPU核心的数量,最多不能超过256个。

对于每个创建的虚拟线程,JVM都会将其执行调度到一个平台线程上,临时将虚拟线程的堆栈块从堆复制到平台线程的堆栈中。我们说平台线程变成了虚拟线程的载体线程。

我们可以通过运行使用ThreadPerTaskExecutor创建虚拟线程的用例,观察其中的一条日志来说明执行过程:

10:30:35.390 [worker-1] INFO in.rcard.virtual.threads.App - VirtualThread[#23,worker-1]/runnable@ForkJoinPool-1-worker-2 | 我要去烧一些水

从日志中进行观察

1. 线程标识与命名:每个虚拟线程都有一个唯一的标识符和名称,例如 `VirtualThread[#23,worker-1]`。这里的 `#23` 表示线程的编号,而 `worker-1` 是线程的名称,它们共同帮助开发者识别和调试线程。

2. 载体线程的分配:虚拟线程执行时,会绑定到一个特定的载体线程(即平台线程)。例如,`ForkJoinPool-1-worker-2` 表示该虚拟线程正在由默认的ForkJoinPool中的第二个工作线程执行。

3. 阻塞与释放:当虚拟线程遇到阻塞操作时,其载体线程会被释放,以便能够执行其他就绪的虚拟线程。同时,虚拟线程的堆栈块会从载体线程的堆栈复制回Java堆中,以等待阻塞操作的完成。

4. 再次调度:一旦虚拟线程完成其阻塞操作,调度器会将其重新排入执行队列。虚拟线程可能会继续在先前的载体线程上执行,或者根据调度器的决策,在不同的载体线程上继续执行。

刚才我们提到,默认情况下,JVM会创建与cpu核心数量相等的载体线程(平台线程),以确保每个物理核心都能被有效利用。那么假如计算机上配备了2个物理核心和通过超线程技术支持的4个逻辑核心,基于此硬件配置,我们可以设计一个程序,该程序旨在生成与逻辑核心数相匹配的虚拟线程数量,即4个虚拟线程。然而,为了探索线程调度的灵活性,我们可以增加一个额外的虚拟线程,使得总数达到5个,即期望5个虚拟线程在4个载体线程上执行,那么至少会有一个载体线程会被重复使用。执行以下程序

static void viewCarrierThreadPoolSize() {final ThreadFactory factory = Thread.ofVirtual().name("worker-", 0).factory();try (var executor = Executors.newThreadPerTaskExecutor(factory)) {IntStream.range(0, numberOfCores() + 1).forEach(i -> executor.submit(() -> {log.info("virtual thread number " + i);sleep(Duration.ofSeconds(1L));}));}
}
[worker-0] INFO in.rcard.virtual.threads.App - VirtualThread[#21,worker-0]/runnable@ForkJoinPool-1-worker-1 | virtual thread number 0
[worker-1] INFO in.rcard.virtual.threads.App - VirtualThread[#23,worker-1]/runnable@ForkJoinPool-1-worker-2 | virtual thread number 1
[worker-2] INFO in.rcard.virtual.threads.App - VirtualThread[#24,worker-2]/runnable@ForkJoinPool-1-worker-3 | virtual thread number 2
[worker-4] INFO in.rcard.virtual.threads.App - VirtualThread[#26,worker-4]/runnable@ForkJoinPool-1-worker-4 | virtual thread number 4
[worker-3] INFO in.rcard.virtual.threads.App - VirtualThread[#25,worker-3]/runnable@ForkJoinPool-1-worker-4 | virtual thread number 3

观察日志,有四个载体线程,分别是ForkJoinPool-1-worker-1、ForkJoinPool-1-worker-2、ForkJoinPool-1-worker-3和ForkJoinPool-1-worker-4,ForkJoinPool-1-worker-4被重复使用了两次,以上假设正确。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.ryyt.cn/news/47211.html

如若内容造成侵权/违法违规/事实不符,请联系我们进行投诉反馈,一经查实,立即删除!

相关文章

玩转Spring状态机

说起Spring状态机,大家很容易联想到这个状态机和设计模式中状态模式的区别是啥呢?没错,Spring状态机就是状态模式的一种实现,在介绍Spring状态机之前,让我们来看看设计模式中的状态模式。 1. 状态模式 状态模式的定义如下: 状态模式(State Pattern)是一种行为型设计模式…

使用Framebuffer改造SPI_OLED驱动

使用Framebuffer改造SPI_OLED驱动本文是IMX6ULL开发板spi OLED驱动学习笔记,方便后面查看时快速的回顾,而不需要一点点的看视频 视频地址:https://www.bilibili.com/video/BV1Yb4y1t7Uj?p=144&spm_id_from=pageDriver&vd_source=1d93d6a5e22d4b223c6c3ac4f5727eb8 …

java 并发编程面试(1)

一、单例模式的DCL为啥要加volatile? 避免指令重排,获取到未初始化完成的对象。 单例模式的懒汉模式确保线程安全的机制DCL public class MyTest {private static MyTest myTest;public static MyTest getInstance(){if(myTest == null) { // checksynchronized (MyTest.clas…

特征工程与数据预处理全解析:基础技术和代码示例

在机器学习和数据科学的世界里,数据的质量是建模成功与否的关键所在。这就是特征工程和数据预处理发挥作用的地方。本文总结的这些关键步骤可以显著提高模型的性能,获得更准确的预测,我们将深入研究处理异常值、缺失值、编码、特征缩放和特征提取的各种技术。 https://avoi…

python 画风云4a二级数据云顶温度(CTT)

用中国区的数据,画风云4a的云顶温度图#!usr/bin/env python # -*- coding:utf-8 -*- """ @author: Suyue @file: CTT.py @time: 2024/06/12 @desc: """ import netCDF4 from netCDF4 import Datasetncfile = Dataset(G:/Z_SATE_C_BAWX_20230703…

MMDetection3D+waymo-open-dataset-tf-2-6-0+pytorc2.3.1+cu121安装

安装pytorc2.3.1+cu121 步骤 1. 创建并激活一个 conda 环境 conda create -n mmd python=3.8 -y conda activate mmd步骤 2. 基于PyTorch 官方说明安装 PyTorch,例如: pip3 install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu121步骤 3.…

IMX6ULL开发板spi OLED驱动

本文是IMX6ULL开发板spi OLED驱动学习笔记,方便后面查看时快速的回顾,而不需要一点点的看视频 视频地址: https://www.bilibili.com/video/BV1Yb4y1t7Uj?p=144&spm_id_from=pageDriver&vd_source=1d93d6a5e22d4b223c6c3ac4f5727eb8 视频选集:P141 - P150 1、将文件…

fdisk时WARNING: Re-reading the partition table failed with error 16: 设备或资源忙 的问题解决方案

WARNING: Re-reading the partition table failed with error 16: 设备或资源 现象:划分磁盘有警告, WARNING: Re-reading the partition table failed with error 16: 设备或资源忙.The kernel still uses the old table. The new table will be used atthe next reboot or…