当前位置:网站首页>异步模式之工作线程
异步模式之工作线程
2022-07-28 23:01:00 【51CTO】
1. 定义
让有限的工作线程(Worker Thread)来轮流异步处理无限多的任务。也可以将其归类为分工模式,它的典型实现就是线程池,也体现了经典设计模式中的享元模式。
例如,海底捞的服务员(线程),轮流处理每位客人的点餐(任务),如果为每位客人都配一名专属的服务员,那么成本就太高了(对比另一种多线程设计模式:Thread-Per-Message)
注意,不同任务类型应该使用不同的线程池,这样能够避免饥饿,并能提升效率
例如,如果一个餐馆的工人既要招呼客人(任务类型A),又要到后厨做菜(任务类型B)显然效率不咋地,分成服务员(线程池A)与厨师(线程池B)更为合理,当然你能想到更细致的分工
2. 饥饿
固定大小线程池会有饥饿现象
● 两个工人是同一个线程池中的两个线程
● 他们要做的事情是:为客人点餐和到后厨做菜,这是两个阶段的工作
○ 客人点餐:必须先点完餐,等菜做好,上菜,在此期间处理点餐的工人必须等待
○ 后厨做菜:没啥说的,做就是了
● 比如工人A 处理了点餐任务,接下来它要等着 工人B 把菜做好,然后上菜,他俩也配合的蛮好
● 但现在同时来了两个客人,这个时候工人A 和工人B 都去处理点餐了,这时没人做饭了,饥饿
输出
17:21:27.883 c.TestDeadLock [pool-1-thread-1] - 处理点餐...
17:21:27.891 c.TestDeadLock [pool-1-thread-2] - 做菜
17:21:27.891 c.TestDeadLock [pool-1-thread-1] - 上菜: 烤鸡翅
当注释取消后,可能的输出
17:08:41.339 c.TestDeadLock [pool-1-thread-2] - 处理点餐...
17:08:41.339 c.TestDeadLock [pool-1-thread-1] - 处理点餐...
解决方法可以增加线程池的大小,不过不是根本解决方案,还是前面提到的,不同的任务类型,采用不同的线程池,例如:
输出
17:25:14.626 c.TestDeadLock [pool-1-thread-1] - 处理点餐...
17:25:14.630 c.TestDeadLock [pool-2-thread-1] - 做菜
17:25:14.631 c.TestDeadLock [pool-1-thread-1] - 上菜: 地三鲜
17:25:14.632 c.TestDeadLock [pool-1-thread-1] - 处理点餐...
17:25:14.632 c.TestDeadLock [pool-2-thread-1] - 做菜
17:25:14.632 c.TestDeadLock [pool-1-thread-1] - 上菜: 辣子鸡丁
因此,注意,不同任务类型应该使用不同的线程池,这样能够避免饥饿,并能提升效率。
3. 创建多少线程池合适
- 过小会导致程序不能充分地利用系统资源、容易导致饥饿
- 过大会导致更多的线程上下文切换,占用更多内存
3.1 CPU 密集型运算
通常采用 cpu 核数 + 1 能够实现最优的 CPU 利用率,+1 是保证当线程由于页缺失故障(操作系统)或其它原因导致暂停时,额外的这个线程就能顶上去,保证 CPU 时钟周期不被浪费。
3.2 I/O 密集型运算
CPU 不总是处于繁忙状态,例如,当你执行业务计算时,这时候会使用 CPU 资源,但当你执行 I/O 操作时、远程RPC 调用时,包括进行数据库操作时,这时候 CPU 就闲下来了,你可以利用多线程提高它的利用率。
经验公式如下
线程数 = 核数 * 期望 CPU 利用率 * 总时间(CPU计算时间+等待时间) / CPU 计算时间
例如 4 核 CPU 计算时间是 50% ,其它等待时间是 50%,期望 cpu 被 100% 利用,套用公式:4 * 100% * 100% / 50% = 8
例如 4 核 CPU 计算时间是 10% ,其它等待时间是 90%,期望 cpu 被 100% 利用,套用公式:4 * 100% * 100% / 10% = 40
4. 自定义线程池
边栏推荐
- Summary: the difference between pod and container
- 15.模型评估和选择问题
- Still writing a lot of if to judge? A rule executor kills all if judgments in the project
- NFTScan 与 NFTPlay 在 NFT 数据领域达成战略合作
- Dynamic programming problem (6)
- Anomaly detection and unsupervised learning (1)
- The download file of native JS implementation can be used anywhere
- SDRAM控制器设计(数字控制器的两种设计方法)
- 2022DASCTF7月赋能赛(复现)
- 乱打日志的男孩运气怎么样我不知道,加班肯定很多!
猜你喜欢
Dynamic programming (V)
数仓搭建——ADS层
16.偏差、方差、正则化、学习曲线对模型的影响
IDEA 连接 数据库
最长上升子序列
PTA (daily question) 7-75 how many people in a school
Meeting notification & meeting feedback & feedback details function of meeting OA project
MySQL transaction (this is enough...)
vulnhub:BTRSys2
What does the expression > > 0 in JS mean
随机推荐
Shell编程规范与变量
Breadth first search (BFS) and its matlab code
requestVideoFrameCallback() 简单实例
SurfaceControl和SurfaceFlinger通信
Common measurement matrix and matlab code of compressed sensing
Dynamic programming problem (VIII)
【开发教程11】疯壳·开源蓝牙心率防水运动手环-整机功能代码讲解
Software designer - intermediate, exam summary
Brief introduction to compressed sensing
execute immediate 简单示例合集(DML)
Some operations of Ubuntu remote server configuration database (unable to locate package MySQL server, steps of installing mysql, unable to enter password when logging in MySQL)
Dynamic programming problem (4)
2022DASCTF7月赋能赛(复现)
How to learn R language
17. Design of machine learning system
C语言括号匹配(栈括号匹配c语言)
IMG tags prohibit dragging pictures
Dynamic programming problem (1)
CUDA related
Anti shake and throttling