今天我想再来讨论一下高并发的问题,我们看到最近以Rust、Go为代表的云原生、Serverless时代的语言,在设计高并发编程模式时往往都会首推管道机制,传统意义上并发控制的利器如互斥体或者信号量都不是太推荐。

这里我们先来看一下并发和并行的概念,我们知道并发是一个处理器同时处理多个任务,这里同时是逻辑上的,而并行同一时刻多个物理器同时执行不同指令,这里的同时物理上的。并发是要尽量在目前正在执行的任务遇到阻塞或者等待操作时,释放CPU,让其它任务得以调度,而并行则是同时执行不同任务而不相互影响。

而传统的信号量、互斥体的设计都是为了让单核CPU发挥出最大的性能,让程序在阻塞时释放CPU,通过控制共享变量的访问来达到避免冲突的目的,而想控制好这些共享变量的行为,其关键因此在于设计好时序,从本质上讲控制时序就是给系统加上红绿灯并配备路障,而这里你一定要记住,高性能系统需要的是立交桥、地下隧道这些基础设施,而不是交通信号等控制手段,好的并发系统一定要用流的概念来建模,而不是到处增加关卡路障。现在的处理都是多核架构,因此编程也要向并行倾斜,不过笔者在网上看到很多所谓标榜高并发教程中所举的例子,都把信号灯设计的时序很完美,却偏偏把立交桥全给扔了…..

信号灯应该为导流服务,而不应为限流而生

下面我们来看三段分别对应信号灯控制的操作,互斥体统治的“并发”,以及单纯的串行的代码,代码的目标其实就是要完成从0一直加到3000000的操作

信号灯控制

其实这种信号量的代码已经基本退化回了顺序执行的方案了。正如我们在前文《GO看你犯错,但是Rust帮你排坑所说》,Rust的变量生命周期检查机制,并不能支持在不同线程之间共享内存,即便可以曲线救国,也绝非官方推荐,因此这里先用Go带各位读者说明。

package main



import (

        "fmt"



        "sync"

        "time"

)



var count int

var wg1 sync.WaitGroup

var wg2 sync.WaitGroup

var wg3 sync.WaitGroup

var wg4 sync.WaitGroup



func goroutine1() {

        wg1.Wait()

        len := 1000000

        for i := 0; i < len; i++ {

                 count++

        }

        wg2.Done()

}



func goroutine2() {

        wg2.Wait()

        len := 1000000

        for i := 0; i < len; i++ {

                 count++

        }

        wg3.Done()

}



func goroutine3() {

        wg3.Wait()

        len := 1000000

        for i := 0; i < len; i++ {

                 count++

        }

        wg4.Done()

}



func main() {

        now := time.Now().UnixNano()

        wg1.Add(1)

        wg2.Add(1)

        wg3.Add(1)

        wg4.Add(1)

        go goroutine1()



        go goroutine2()

        go goroutine3()

        wg1.Done()

        wg4.Wait()



        fmt.Println(time.Now().UnixNano() - now)

        fmt.Println(count)

}

在这里三个子协程goroutine,在4个信号量的控制下以多米诺骨牌的方式依次对于共享变量count进行操作,这段代码的运行结果如下:

4984300

3000000

成功: 进程退出代码 0.

互斥体控制

与信号量完全退化成顺序执行不同,互斥体本质上同一时刻只能有一个goroutine执行到临界代码,但每个goroutine的执行顺序却无所谓,具体如下:

package main



import (

        "fmt"



        "sync"

        "time"

)



var count int

var wg1 sync.WaitGroup

var mutex sync.Mutex



func goroutine1() {

        mutex.Lock()

        len := 1000000

        for i := 0; i < len; i++ {

               count++

        }

        mutex.Unlock()

        wg1.Done()

}



func main() {

        now := time.Now().UnixNano()

        wg1.Add(3)

        go goroutine1()

        go goroutine1()

        go goroutine1()

        wg1.Wait()



        fmt.Println(time.Now().UnixNano() - now)

        fmt.Println(count)

}

从运行实序上来看,互斥体的方案应该和信号量差不多,不过结果却令人意,在互斥体的控制下,这个程序性能反而还下降了30%,具体结果如下:

5986800

3000000

成功: 进程退出代码 0.

串行方式:

最后用最返璞归真的做法,串行操作代码如下:

package main

import (
        "fmt"

        //"sync"
        "time"
)

var count int

func goroutine1() {

        len := 1000000
        for i := 0; i < len; i++ {
               count++
        }
}

func main() {
        now := time.Now().UnixNano()

        goroutine1()
        goroutine1()
        goroutine1()

        fmt.Println(time.Now().UnixNano() - now)
        fmt.Println(count)
}

可以看到从效率上来讲,直接串行的方式和信号量的方式是差不多的,结果如下:

4986700

3000000

成功: 进程退出代码 0.

也就是说费了半天劲,最终结果可能还不如直接串行执行呢。

Rust Future初探

Rust中的future机制有点类似于 JavaScript 中的promise机制。Future机制让程序员可以使用同步代码的方式设计高并发的异步场景。目前虽然Go当中也有一些defer的机制,但远没有Rust中的future这么强大。Future机制将返回值value与其计算方式executor分离,从而让程序员可以不再关注于具体时序机制的设计,只需要指定Future执行所需要的条件,以及执行器即可。

我们来看以下代码。

注:cargo.toml

[dependencies]

futures = { version = "0.3.5", features = ["thread-pool"] }

代码如下:

use futures::channel::mpsc;

use futures::executor;

use futures::executor::ThreadPool;

use futures::StreamExt;

fn main() {

    let poolExecutor = ThreadPool::new().expect("Failed");

    let (tx, rx) = mpsc::unbounded::<String>();

    let future_values = async {

        let fut_tx_result = async move {

       let hello = String::from("hello world");

         for c in hello .chars() {

        tx.unbounded_send(c.to_string()).expect("Failed to send");

    }

           

        };

        poolExecutor.spawn_ok(fut_tx_result);

        let future_values = rx

            .map(|v| v)

            .collect();

        future_values.await

    };

    let values: Vec<String> = executor::block_on(future_values);

    println!("Values={:?}", values);



}

上述代码中我们通过async指定了future_values ,并将这个Future指定给poolExecutor这个线程池执行,最后通过await方法,就可以让future全部执行完毕,而不必再用信号量控制具体的时序。

这样一来,只要深度掌握future机制,就可以不必再关心互斥体、信号量,具体的高度方式完全放心交给计算机去做优化,不但可以节约程序员的时间,也能充分发挥编译器的威力,尾号是避免出现那种扔掉立交桥,只要信号灯低级的错误方式。

Java虽然也有一定的Future实现,并且有Rust不具备的反射能力,但是冷起动一直是困扰Java的痛。因此在目前云原生的时代,Go和Rust尤其是Rust语言以其近首于C语言的启动速度,和运行效率真是很有可能在未来称王。

Logo

权威|前沿|技术|干货|国内首个API全生命周期开发者社区

更多推荐