高性能并行计算发展历程

    ● 高性能并行计算发展历程

    计算机的起源可以追溯到欧洲文艺复兴时期。16-17 世纪的思想解放和社会大变革，大大促进了自然科学技术的发展，其中制造一台能帮助人进行计算的机器，就是最耀眼的思想火花之一。

    1614年，苏格兰人John Napier 发表了关于可以计算四则运算和方根运算的精巧装置的论文。1642年，法国数学家Pascal 发明能进行八位计算的计算尺。1848 年，英国数学家George Boole创立二进制代数学。1880 年美国普查人工用了7年的时间进行统计，而1890年，Herman Hollerith用穿孔卡片存储数据，并设计了机器，仅仅用了6个周就得出了准确的数据（62,622,250人）。1896 年，Herman Hollerith 创办了IBM公司的前身。这些" 计算机"，都是基于机械运行方式，还没有计算机的灵魂：逻辑运算。而在这之后，随着电子技术的飞速发展，计算机开始了质的转变。

    1949年，科学杂志大胆预测“未来的计算机不会超过1.5 吨。”真空管时代的计算机尽管已经步入了现代计算机的范畴，但其体积之大、能耗之高、故障之多、价格之贵大大制约了它的普及应用。直到1947 年，Bell实验室的William B. Shockley、John Bardeen和Walter H. Brattain. 发明了晶体管，电子计算机才找到了腾飞的起点，开辟了电子时代新纪元。

    40年代开始的现代计算机发展历程可以分为两个明显的发展时代：串行计算时代、并行计算时代。

    并行计算机是由一组处理单元组成的，这组处理单元通过相互之间的通信与协作，以更快的速度共同完成一项大规模的计算任务。因此，并行计算机的两个最主要的组成部分是计算节点和节点间的通信与协作机制。并行计算机体系结构的发展也主要体现在计算节点性能的提高以及节点间通信技术的改进两方面。

IBM360大型主机（Mainframe）

    60年代初期，由于晶体管以及磁芯存储器的出现，处理单元变得越来越小，存储器也更加小巧和廉价。这些技术发展的结果导致了并行计算机的出现，这一时期的并行计算机多是规模不大的共享存储多处理器系统，即所谓大型主机（Mainframe）。IBM360是这一时期的典型代表。

    1976年CRAY-1 问世以后，向量计算机从此牢牢地控制着整个高性能计算机市场15 年。CRAY-1 对所使用的逻辑电路进行了精心的设计，采用了我们如今称为RISC 的精简指令集，还引入了向量寄存器，以完成向量运算。

    80年代末到90年代初，共享存储器方式的大规模并行计算机又获得了新的发展。IBM将大量早期RISC微处理器通过蝶形互连网络连结起来。人们开始考虑如何才能在实现共享存储器缓存一致的同时，使系统具有一定的可扩展性（Scalability）。90年代初期，斯坦福大学提出了DASH 计划，它通过维护一个保存有每一缓存块位置信息的目录结构来实现分布式共享存储器的缓存一致性。后来，IEEE 在此基础上提出了缓存一致性协议的标准。

一个基于NUMA架构的SMP服务器

    90年代以来，主要的几种体系结构开始走向融合。属于数据并行类型的CM-5除大量采用商品化的微处理器以外，也允许用户层的程序传递一些简单的消息；CRAY T3D是一台NUMA结构的共享存储型并行计算机，但是它也提供了全局同步机制、消息队列机制，并采取了一些减少消息传递延迟的技术。

    今天，越来越多的并行计算机系统采用商品化的微处理器加上商品化的互连网络构造，这种分布存储的并行计算机系统称为机群。国内几乎所有的高性能计算机厂商都生产这种具有极高性能价格比的高性能计算机，并行计算机就进入了一个新的时代，并行计算的应用达到了前所未有的广度和深度。