当前位置:网站首页>异步模式之工作线程
异步模式之工作线程
2022-07-28 23:01:00 【51CTO】
1. 定义
让有限的工作线程(Worker Thread)来轮流异步处理无限多的任务。也可以将其归类为分工模式,它的典型实现就是线程池,也体现了经典设计模式中的享元模式。
例如,海底捞的服务员(线程),轮流处理每位客人的点餐(任务),如果为每位客人都配一名专属的服务员,那么成本就太高了(对比另一种多线程设计模式:Thread-Per-Message)
注意,不同任务类型应该使用不同的线程池,这样能够避免饥饿,并能提升效率
例如,如果一个餐馆的工人既要招呼客人(任务类型A),又要到后厨做菜(任务类型B)显然效率不咋地,分成服务员(线程池A)与厨师(线程池B)更为合理,当然你能想到更细致的分工
2. 饥饿
固定大小线程池会有饥饿现象
● 两个工人是同一个线程池中的两个线程
● 他们要做的事情是:为客人点餐和到后厨做菜,这是两个阶段的工作
○ 客人点餐:必须先点完餐,等菜做好,上菜,在此期间处理点餐的工人必须等待
○ 后厨做菜:没啥说的,做就是了
● 比如工人A 处理了点餐任务,接下来它要等着 工人B 把菜做好,然后上菜,他俩也配合的蛮好
● 但现在同时来了两个客人,这个时候工人A 和工人B 都去处理点餐了,这时没人做饭了,饥饿
输出
17:21:27.883 c.TestDeadLock [pool-1-thread-1] - 处理点餐...
17:21:27.891 c.TestDeadLock [pool-1-thread-2] - 做菜
17:21:27.891 c.TestDeadLock [pool-1-thread-1] - 上菜: 烤鸡翅
当注释取消后,可能的输出
17:08:41.339 c.TestDeadLock [pool-1-thread-2] - 处理点餐...
17:08:41.339 c.TestDeadLock [pool-1-thread-1] - 处理点餐...
解决方法可以增加线程池的大小,不过不是根本解决方案,还是前面提到的,不同的任务类型,采用不同的线程池,例如:
输出
17:25:14.626 c.TestDeadLock [pool-1-thread-1] - 处理点餐...
17:25:14.630 c.TestDeadLock [pool-2-thread-1] - 做菜
17:25:14.631 c.TestDeadLock [pool-1-thread-1] - 上菜: 地三鲜
17:25:14.632 c.TestDeadLock [pool-1-thread-1] - 处理点餐...
17:25:14.632 c.TestDeadLock [pool-2-thread-1] - 做菜
17:25:14.632 c.TestDeadLock [pool-1-thread-1] - 上菜: 辣子鸡丁
因此,注意,不同任务类型应该使用不同的线程池,这样能够避免饥饿,并能提升效率。
3. 创建多少线程池合适
- 过小会导致程序不能充分地利用系统资源、容易导致饥饿
- 过大会导致更多的线程上下文切换,占用更多内存
3.1 CPU 密集型运算
通常采用 cpu 核数 + 1 能够实现最优的 CPU 利用率,+1 是保证当线程由于页缺失故障(操作系统)或其它原因导致暂停时,额外的这个线程就能顶上去,保证 CPU 时钟周期不被浪费。
3.2 I/O 密集型运算
CPU 不总是处于繁忙状态,例如,当你执行业务计算时,这时候会使用 CPU 资源,但当你执行 I/O 操作时、远程RPC 调用时,包括进行数据库操作时,这时候 CPU 就闲下来了,你可以利用多线程提高它的利用率。
经验公式如下
线程数 = 核数 * 期望 CPU 利用率 * 总时间(CPU计算时间+等待时间) / CPU 计算时间
例如 4 核 CPU 计算时间是 50% ,其它等待时间是 50%,期望 cpu 被 100% 利用,套用公式:4 * 100% * 100% / 50% = 8
例如 4 核 CPU 计算时间是 10% ,其它等待时间是 90%,期望 cpu 被 100% 利用,套用公式:4 * 100% * 100% / 10% = 40
4. 自定义线程池
边栏推荐
- Dynamic programming problem (4)
- Camera Hal OEM module ---- CMR_ preview.c
- PTA (daily question) 7-70 diamond
- Outlier detection and open set identification (2)
- Minimum dominating set (MDS) and its matlab code
- Shell编程规范与变量
- Flyway's quick start tutorial
- "Food alliance ordering system"
- [untitled]
- Dynamic programming problem (1)
猜你喜欢

Download the latest version of visual studio code and connect to the server remotely (very detailed)

Nftscan and nftplay have reached strategic cooperation in the field of NFT data

2022dasctfjuly empowerment competition (reappearance)

What are the skills of API interface optimization?

Software designer afternoon question

vulnhub:BTRSys2

聊聊异步编程的 7 种实现方式

ZABBIX deployment and monitoring

Data warehouse construction - DWT floor

15.模型评估和选择问题
随机推荐
Outlier detection and open set identification (1)
ORACLE not available如何解决
[micro services ~nacos] Nacos service providers and service consumers
ZABBIX deployment and monitoring
[network security] complete the blacklist and whitelist functions of server firewall through iptables and ipset
Xinchi technology released the latest flagship product of G9 series, equipped with six A55 cores with 1.8GHz dominant frequency
I don't know how lucky the boy who randomly typed the log is. There must be a lot of overtime!
@Transactional 注解使用详解
PTA (daily question) 7-77 encryption
MySQL transaction (this is enough...)
Software designer afternoon question
1331. Array sequence number conversion: simple simulation question
Dynamic programming problem (6)
[ESN] learning echo state network
会议OA项目之会议通知&会议反馈&反馈详情功能
C语言括号匹配(栈括号匹配c语言)
Breadth first search (BFS) and its matlab code
Anti shake and throttling
Anomaly detection and unsupervised learning (1)
Dynamic programming problem (VII)