这页说并行计算特别是北大前辈状元1991年出版《并行图论算法》(当然,其时的90年代逐渐成熟的量子计算以及稍后出现的DNA计算等等也是计算领域革命性技术。其中下面要说的并行计算和高性能计算、超级计算在通常意义上是同义词

刚见寒武纪登陆科创板,首日市值超1000亿元(这2016年才创办的寒武纪,它的创始人也是实际控制人、董事长陈天石曾对其持股占70%,他是我国科创版首富,其后是雷军和赵燕,可这陈天石在2010年才获得下面90年代初来信邀我去的中国科技大学陈国良院士的博士,其博士论文做的演化算法正如其摘要说“本文分析了独立边缘分布算法的时间复杂度”,而更一般化的分布算法与陈国良院士主要做的并行计算就有诸多交叉重叠--这是因并行计算的所有处理器或是紧耦合于中心共享内存或是松耦合于分布式内存,更因演化算法也称进化算法由于进化固有的并行性,而非常适合于巨量并行机。陈国良院士等的下面所有并行计算书籍都主要是参考下面国外图论博士们的并行算法书籍,正如陈国良院士90年代邀请我们海南琼州大学的下面来信所说:“我是从事并行算法研究的,所作的研究基本属于工程图论算法方面的。你在这方面有优势,在日后的研究中稍加偏向实际应用,则就会发挥更大的作用”。而至于演化算法等-我们一直做的图论算法就包含这陈天石做的演化算法[旅行商是一类带权哈密顿图美国工程院院士Cook的《迷茫的旅行商》的第4章就讲到遗传算法/模拟退火算法/蚁群算法也简提禁忌搜索算法/粒子群算法等全部优秀演化算法-它们互相促进-而且旅行商是这些算法的最优试金石-可看他们进一步的旅行商问题]。附:中科院就举办院长(正部长级)马上就是副委员长(副国级)的白春礼担任大赛名誉主席名誉主席的并行计算应用大赛。下面简介我身边有的一些较好的并行计算书籍: 

   1、中国科技大学:陈国良院士独撰的《并行算法:排序和选择》等(如这里最后段见一年级时我的副导师把排序和选择为主的765页巨著让我们攻读、并也见和爱因斯坦的相对论等并列为20世纪最佳12部学术专著之排序论-可见是可推而广之的最代表性领域-当然处理算法有轻重之别也有所不同。陈国良教授之成就如首次采用我国完全自主的高性能芯片研发成的万亿次计算机。该研发项目的负责人就是中国科学技术大学国家高性能计算中心主任陈国良院士);任教于这中国科大的北大数学系1953学生1957北大计算数学专门化第一届毕业生唐策善教授和澳大利亚国立大学博士梁维发合撰的《并行图论算法》一书 (澳大利亚国立大学梁维发教授的博士生导师是Brendan McKay--McKay评价海南琼州大学您的成就很辉煌的宝理事长、以及这里评价海南琼大在泛圈图和泛连通图做了很多工作”的中山大学计算机学院娄院长都同是Derek A. Holton大师的博士)梁维发教授也和上面陈国良院士合作发表这领域的论文并行图论算法研究进展和合作论文树网结构上的并行图论算法”等等

   2国防科技大学:《并行算法》等,第一作者是国防科技大学主持银河-I、银河-II巨型计算机应用软件的研制与开发的李晓梅教授以及蒋增荣教授。其后,中国最年轻上将国防科技大学校长杨学军,担任银河-Ⅲ研制工程总设计师,并“杨学军提出采用“异构协同计算技术”设计千万亿次超级计算机系统,引起业界的轰动”,即异构计算技术,已成为并行计算/分布计算领域中的研究热点之一,如杨学军上将就撰写“并行计算六十年”,就是陈国良院士担任荣誉主席的全国高性能计算专业委员会的介绍见这领域也几乎等同“并行计算”;金国华和陈福接合撰的 《大规模并行机程序并行化理论与技术》-陈福接教授博士生有前面杨学军校长;胡守仁教授的《逻辑程序并行处理技术》。

   3清华大学:金兰王鼎兴、沈美明合撰的《并行处理计算机结构》(因第一作者金兰教授和我国图论组合先驱卢开澄教授教授是清华大学计算机系第一个博士的导师-如此虽这书是31216大开本著作但我也尽力看完这书);清华大学王鼎兴和上面陈国良互连网络结构分析, (中国计算机学会第40、45院士吴建平院士、林闯主任等都是王的博士)和中科大陈国良院士在前言说研究生等学习并行处理的参考教材’(2002年也得到刘焕平院长赠送我的他和方滨兴校长的2导师胡铭曾合写的书名相近的互连网络拓扑结构分析-不过刘院长客套说“敬请指正”是重在我做的拓扑性) 北大数学系1954年级的清华大学教授陈景良的并行算法引论》等

除了上面我国3个中心,其它单位的书籍有:中科院软件所孙家昶网络并行计算与分布式编程环境复旦大学张丽/陈增荣/坤敏《并行算法的设计与分析》;王嘉谟和沈毅主编的《并行计算方法》;武大康立山的《非数值并行算法》一、二册;北大数学系1955学生王能超的《同步并行算法设计》,等

国外的(上面我国的并行计算书籍都主要参考这段前3图论博士的四本书,下面也附次要参靠的其它几本)全球最大的CDN服务提供商-阿克迈总裁/美国工程院院士/图论博士F. Thomson Leighton独撰的并行算法和体系结构导论》专著旅行商问题即一类哈密顿图问题博士Selim G. Akl独撰的并行排序算法》和《并行算法的设计与分析专著图论博士Michael J. Quinn独撰的并行计算机高效算法的设计还有《并行计算导论》,作者之一Vipin Kumar是明尼苏达大学计算机科学与工程系的教授,美国军用高性能计算研究中心主任以及图论划分是他的研究领域并是百度研究院9个顾问委员之一并行算法导论》已由我国并行计算领军人物张云泉翻译为中文版,虽查不到这第一作者C. Xavier博士论文-但在美国数学评论见他的论文竟然全是图论,Sundaraja S. Iyengar合写Chris R. Jesshope主编的论文集强调并行处理的重要性特别是我读研究生前已出版的他和Hockney1987年译为中文的《并行计算机:体系结构,或见Garry Rodrigue主编的Parallel ComputationsUdo Schendel的这并行计算机[我有这书的中文版]BT院士1989年的并行和分布计算HennessyPatterson合作分别于19881990年出版的《计算机体系结构》及组成设计的2本书就展示了计算机从串行到并行的革新和威力(Gordon Bell在第一版就预言“该书将成为在计算机体系结构和设计领域中处于中心位置的一本经典著作”),最近05年当院士的CullerGupta90年代末的《并行计算机体系结构》,获得首届中国计算机学会海外杰出贡献奖的黄铠从1980年起就写了系列侧重并行计算机体系结构书籍如1990年译为中文的《计算机体系结构与并行处理》,还如这里最后段哈佛学派的图灵奖得主合写一本。(史料:关于并行计算机的最被熟悉的Flynn分类是由Michael J. Flynn在他1966年的论文“Very high-speed computing systems”中提出的,属于通用并行结构模型;哈佛大学比尔·盖茨讲座教授(H.-T. Kung)祥重提出的Systolic阵列属于专用并行结构模型--其孵化自祥重和他的主要做图论的博士Charles E. Leiserson的合作的这篇数学评论收录的高被引论文,在此就说下Charles E. Leiserson和他的博士们-如他的博士Serge A. Plotkin和博士Andrew V. Goldberg的博士论文都做图论并行算法并都已成为这方面名家,Charles E. Leiserson的博士Bruce M. Maggs在硕士时的学位论文也是做图论并行算法- Maggs教授也是Akamai公司副总裁,Charles E. Leiserson的博士Guy E. Blelloch主编399页的《Specification of Parallel Algorithms并行算法规范》并也主要做图论并行算法--他的成就最大的弟子就这几个,当然象他的第1个博士Ron Y. Pinter的网页说研究领域有图论算法、第2个博士Sandeep N. Bhatt的博士论文也做图论超大规模集成电路布图祥重的博士Clark D. Thompson也提出被数学评论收录的基于VLSI模型的一种专用并行结构,还可参考我也有的Jeffrey D. Ullman撰写的Computational aspects of VLSI即超大规模集成电路的计算专题》一书讲到的一种专用并行结构Ullman的名著《编译原理》第2版作者加入祥重的博士Monica Sin-Ling Lam林倩玲院士。祥重院士在1980也给过并行算法的精确定义“并行算法是一些可同时执行的诸进程的集合,这些进程相互作用和协调动作,从而达到对给定问题的求解”)。

还有,主要基于并行算法《图论算法》,作者Robert Sedgewick是普林斯顿大学计算机系创立者暨首任系主任,并且Robert Sedgewick的博士导师Donatd E. Knuth现代计算机科学的鼻祖-也许是因计算机科学“成也算法,败也算法”,

国内的还有,最近主编《并行算法及其应用》一书的电子科大孙世新教授也是图论专家如在中国知网见他的2000以前的论文竟然全部都是图论--但其实孙世新教授1995年以前独立指导的研究生学位论文就已做并行计算处理机--2012年前他指导的博士生也已有30余人

因和这里云南哈密顿图先驱薛耀昉教授、姜伯驹院士、高庆狮院士、沈绪榜院士、石青云院士、黄琳院士等同是北京大学数学系1953级学生的我国并行算法开拓者唐策善教授1991年出版《并行图论算法》,和陈国良教授1991年的“并行图论算法的论文,使我知道陈国良教授是我国“并行算法”和“并行图论算法”主要开拓者而向他请教(解图论问题的并行算法的一些常用设计技术Ellis Horowitz等的Divide-and-conquer stratety分而治之策略;在北大清华等任职的计算机诺贝尔奖得主John Hopcroft大师的图论博士Richard J. Cole以及M. J. Atallah和其博士M. T. Goodrich合创的Cascading divide-and-conquer瀑布分而治之策略James C. WylliePath doubling technique路径折叠技术;上面图论权威F. Thomson Leighton的博士导师Gary Lee Miller和哈佛大学组合数学博士John Henry Reif合创的Tree contraction technique树压缩技术;上面图论博士Richard J. Cole教授和图论权威Yossi Shiloach的博士Uzi Vishkin合创的Deterministic coin tossing technique确定性硬币投掷技术图论博士Andrew V. Goldberg图论博士Serge A. Plotkin合创的Symmetry-Breaking technique破对称技术2图论大师诺贝尔奖得主Richard M. KarpAvi Wigderson合创的 Iterated improvement technique迭代改进技术--可参考这诺贝尔奖得主Richard M. Karp的博士Danny Soroker独著的并行算法求解哈密顿路和哈密顿圈问题的论文,至于求解和哈密顿路和哈密顿圈最密切相关的欧拉路和回路的并行算法-可参考图论大师诺贝尔奖得主Robert E. Tarjan图论权威Yossi Shiloach的博士Uzi Vishkin合撰的这篇论文等)

从下面陈国良院士来信的讲述可知图论对并行计算的作用。当然图论算法的相关重要作用还有集成电路和芯片的作用,以及处理图论的大多优化问题就足够发展形成比尔·盖茨和谷歌等用的全部组合最优化学科理论-特别关注与哈密顿图的催化作用-如见Karp等多个诺奖得主/院士贡献的这书,等等,这促使如刚见这里最后中国计算机学会唯一名誉理事长表示“未来几十年将进入并行计算黄金时代

001 (2)