shell脚本多线程实现方式
更新:HHH   时间:2023-1-7


shell脚本多线程实现
在使用shell 脚本时,碰到了顺序执行太慢的情况,因此考虑使用多线程方式,以提高效率。
具体做法是使用 &+wait 达到多线程的效果,下面请看对比。

  1. 顺序执行
    执行3次没次等待4秒,共计耗时12秒
    代码:
    #/bin/bash
    date
    for num in seq 1 3
    do
    {
    echo "sleep 4"
    sleep 4
    }
    done
    date
    结果:
    2019年 11月 20日 星期三 09:40:56 CST
    sleep 4
    sleep 4
    sleep 4
    2019年 11月 20日 星期三 09:41:08 CST

  2. 使用 &+wait
    并行执行,共计耗时4秒
    代码:
    #/bin/bash
    date
    for num in seq 1 3
    do
    {
    echo "sleep 4"
    sleep 4
    }&
    done
    wait
    date
    结果:
    2019年 11月 20日 星期三 09:42:44 CST
    sleep 4
    sleep 4
    sleep 4
    2019年 11月 20日 星期三 09:42:48 CST

根据观察可以发现&+wait形式会让循环体内的命令全部进入后台运行,这样当处理大量事务时会有问题,所以可以根据以下几种方式实现控制每次开启的线程数量

  1. 多层for 循环
    共计9次,发3个线程,等待4秒,共计耗时12秒
    代码:
    #/bin/bash
    date
    for num2 in seq 1 3
    do
    {
    for num in seq 1 3
    do
    {
    echo "sleep 4"
    sleep 4
    }&
    done
    wait
    }
    done
    date
    结果:
    2019年 11月 20日 星期三 09:47:23 CST
    sleep 4
    sleep 4
    sleep 4
    sleep 4
    sleep 4
    sleep 4
    sleep 4
    sleep 4
    sleep 4
    2019年 11月 20日 星期三 09:47:35 CST

  2. 使用xargs -P 并发
    共计9次,发3个线程,等待4秒,共计耗时12秒
    代码:
    #/bin/bash

all_num=9
thread_num=3

date

seq 1 ${all_num} | xargs -n 1 -I {} -P ${thread_num} sh -c "sleep 4;echo {}"

date
结果:
2019年 11月 20日 星期三 09:51:03 CST
1
3
2
4
5
6
8
9
7
2019年 11月 20日 星期三 09:51:15 CST

以上就是我总结的shell 并行方式。还有使用GNU parallel命令实现并发的方式,因为测试环境没有改命令,故没做测试,待测试环境有之后会补全。

返回开发技术教程...