高性能并行计算单元分类

    ● 高性能并行计算单元分类

    受到工艺、材料导致的功耗和发热等物理限制，处理器的频率不会在短时间内有飞跃式的提高，因此采用各种并行方式来提高运算能力已经成为业界共识。在现代的CPU中我们看到设计者广泛使用了超标量、超流水线、超长指令字，SIMD、超线程、分支预测等手段挖掘程序内的指令集并行，并且主流的CPU也有多个处理核心。而GPU与生俱来就是一种“众核”并行处理器，在处理单元的数量上还要远远超过CPU。

    实际上我们之前所讲到的并行是一个非常笼统的概念，并行根据层次不同可以分为几种方式，我们可以将各个层级的并行在这里简单分析：

    最为微观的是单核指令级并行（ILP），它可以让单个处理器的执行单元同时处理多条指令：向上一个层级是多核并行，它的实现方式是在一个芯片上放置多个物理核心，实现线程级别并行（TLP）；再向上则是多处理器并行（Mutil-Processor），它的实现方法是在一块主板上安装多个处理器，以实现线程和进程级别并行；最后可以借助网络实现大规模集群或分布式并行（Cluster and Distributed Parallel），这种环境中每个节点就是一台计算机，可以实现更大规模的并行计算。

    Flynn(1966年)分类法是根据系统的指令流和数据流对计算机系统进行分类的一种方法。Flynn分类法通过鉴定数据流和指令流来区分不同类型的计算机系统。其中以下几种就是Flyuu分类法得出的计算机结构：

    SISD单指令流单数据流 (Single Instruction stream Single Data stream)
SIMD单指令流多数据流 (Single Instruction stream Multiple Data stream)
MISD 多指令流单数据流(Multiple Instruction stream Single Data stream)
MIMD多指令流多数据流 (Multiple Instruction stream Multiple Data stream)

Flyuu分类法得出的计算机结构

    SISD：传统的单处理机系统。由程序生成的一个单指令流，在任意时刻处理单独的数据项。

SISD结构简析

SISD结构计算机代表

    SIMD：如：阵列处理机系统(Processor Arrays)。由一个控制器负责从存储器中取出指令并将这些指令发送给各个处理器，每个处理器同步执行相同的指令，但操作不同的数据。

SIMD结构简析

SIMD结构计算机代表

    MISD：相当于在指令一级并行，而在被操作的数据级串行的情况，实际上这种模型是不能实现的。

MISD结构简析

    MIMD：当今绝大多数并行计算机都属于这一类。每个处理器拥有一个单独的程序，每个程序为每一个处理器生成一个指令流，每条指令对不同的数据进行操作。

MIMD结构简析

MIMD结构计算机代表

    Flynn分类法实际上并不能对所有计算机进行分类，如流水线向量处理机就难于按Flynn分类法简单地归为上述四类之一。并行计算机系统除少量专用的SIMD系统外，绝大部分为MIMD系统。