可以通过增加资源、停顿等待以及主动转发数据的方式，来解决结构冒险和数据冒险问题。

对于结构冒险，由于要限制来自于统一时钟周期不同的指令，对访问相同的硬件资源，可以通过增加资源来解决对于数据冒险，由于要限制来自于数据之间的依赖，我们可以提前把数据转发到下一个指令。

但是计算综合运用这三种技术，我们仍然会遇到不得不停下整个流水线，等待前面的指令完成的情况，也就是采用流水线停顿的解决方案。比如说下面，因为第二条加法指令依赖于第一条指令从内存中取出来的数据，我们还是要获取一次NOP的操作。

那么，我们能不能先让后面没有数据依赖的指令，在前面指令停顿的时候先执行呢？

当然可以。毕竟，流水线停顿的时候，对应的电路闲着也是闲着，那我们完全可以先完成后面指令的执行阶段。

填上空闲的NOP：上菜的顺序不必是点菜的顺序

无论是流水线停顿，还是操作数前推，归根到底，只要前面指令的特定阶段还没有执行完成，后面的指令就会被“阻塞”住。

但是这个“阻塞”很多时候是没有必要的。因为尽管你的代码生成的指令是顺序的，但是如果后面的指令不需要依赖前面执行的执行结果，完全可以不必等待前面的指令运算完成。

比如说，下面这三行代码。

a = b + c

d = a * e

x = y * z

计算里面的 x ，却要等待 a 和 d 都计算完成，实在没啥必要。所以我们完全可以在 d 的计算等待 a 的计算的过程中，先把 x 的结果给算出来。

在流水线里，后面的指令不依赖前面的指令，那就不用等待前面的指令执行，它完全可以先执行。

可以看到，因为第三条指令并不依赖于前两条指令的计算结果，所以在第二条指令等待第一条指令的访存和写回阶段的

时候，第三条指令就已经执行完成了。

这样的解决方案，在计算机组成里面，被称为乱序执行（Out-of-Order Execution，OoOE）

CPU 里的“线程池”：理解乱序执行

乱序执行，就好像是在指令的执行阶段，引入了一个“线程池”。

使用乱序执行技术后，CPU 里的流水线就和我之前给你看的 5 级流水线不太一样了：

在取指令和指令译码的时候，乱序执行的CPU和其他使用流水线架构的CPU是一样的。它会一级一级顺序的执行取指令和指令译码的工作。在指令译码完成之后，就不一样了。CPU不会直接进行指令执行，而是进行一次指令分发。把指令发到一个叫做“保留站”的地方。这些指令不会立即执行，而是等待它们所依赖的数据，传递给它们之后才会执行。一旦执行依赖的数据来齐了，指令就可以该给后面的功能单元（Function Unit，FU），其实就是ALU，去执行了。我们有很多功能单元可以并行运行，但是不同的功能单元能够支持执行的指令并不相同。指令执行的阶段完成之后，并不会立即把结果写回到寄存器里面去，而是把结果存储在一个叫做重排序缓冲区（Re-Order Buffer，ROB）的地方。在重排序缓冲区里，我们的CPU会按照取指令的顺序，对指令的计算结果重新排序。只有排在前面的指令都已经完成了，才会提交指令，完成整个指令的运算结果。实际的指令的计算结果数据，并不是直接写到内存或者高速缓存里，而是先写入存储缓冲区（Store Buffer），最终才会写入到高速缓存和内存里面。

可以看到，在乱序执行的情况下，只有CPU内部指令的执行层面，可能是“乱序”的。只要我们能在指令的译码阶段正确的分析出指令之间的数据依赖关系，这个“乱序”就只会在互相没有影响的指令之间发生。

即便指令的执行过程不是乱序的，我们在最终指令的计算结果写入到寄存器和内存之前，依然会进行一次排序，以确保所有指令在外部看来依然是有序完成的。

有了乱序执行，我们重新去执行上面的 3 行代码。

a = b + c

d = a * e

x = y * z

里面的 d 依赖于 a 的计算结果，不会在 a 的计算完成之前执行。但是我们的 CPU 并不会闲着，因为 x = y * z 的指令同样会被分发到保留站里。因为 x 所依赖的 y 和 z 的数据是准备好的， 这里的乘法运算不会等待计算 d，而会先去计算 x 的值。如果我们只有一个 FU 能够计算乘法，那么这个 FU 并不会因为 d 要等待 a 的计算结果，而被闲置，而是会先被拿去计算 x。在 x 计算完成之后，d 也等来了 a 的计算结果。这个时候，我们的 FU 就会去计算出 d 的结果。然后在重排序缓冲区里，把对应的计算结果的提交顺序，仍然设置成 a -> d ->x，而计算完成的顺序是 x -> a -> d。

在这整个过程中，整个计算乘法的FU都没有闲置，这也意味着我们的CPU的吞吐率最大化了。

整个乱序执行技术，就好像在指令的执行阶段提供一个“线程池”。指令不再是顺序指令的，而是根据池中所拥有的资源，以及各个任务是否可以进行执行，进行动态调整。在执行完成之后，又重新把结果放在一个队列里面，按照指令的分发顺序重新排序。即使内部示“乱序”的，但是在外部看起来，仍然是井井有条地顺序执行。

乱序执行，极大地提高了CPU的运行效率。核心原因是，现代CPU的运算速度比访问主内存的速度要快很多。如果完全采用顺序执行的方式，很多时间都会浪费在前面指令等待获取内存数据的时间里。CPU不得不加入NOP操作进行空转。

乱序执行以及高速缓存，弥补了CPU和内存之间的性能差异。也充分利用率较深的流式行带来的并发性，使得我们可以充分利用CPU的性能。

总结

乱序执行，是一个解决流水线阻塞的技术方案。

因为数据的依赖关系和指令先后执行的顺序问题，很多时候，流水线不得不“阻塞”在特定的指令上。即使后继别的指令并不依赖正在执行的指令和阻塞的指令，也不能继续执行而乱序执行，则是在执行指令阶段通过一个类似线程池的保留站，让系统自己去动态调度先执行哪些指令。这个动态调度巧妙的解决了流水线阻塞的问题。指令执行的先后顺序，不再和他们在程序中的顺序有关。我们只要保证不破坏数据依赖就好了。CPU只要等到在指令结果的最终提交的阶段，再通过重排序的方式，确保指令“看起来”是顺序指令的

在现代CPU的乱序执行过程中，只有指令的执行阶段是乱序的，后面的内存访问和数据写回阶段都是顺序的。这种保障内存数据访问顺序的模型，叫做强内存模型（Strong Memory Model）。