这页简介组合最优化(这页也给出它的重要补充;中国排序论学会秘书长的导师也在这里最后评价海南琼州大学做的组合最优化有重要应用居于国内领先水平),其中的一个重要领域是随机组合最优化。
先简说随机组合最优化:这领域除参考下面其中的国际运筹学联合会副主席徐光煇的主要讲随机组合排队论的著作《随机服务系统》外,还如我读研究生一年级时导师拿给我们读的《嘉量原理》(如这书第十章第567-631页是“随机型多阶段决策问题”-这就是随机组合最优化的),有可参考中国运筹学会秘书长刘克教授不久前出版的《摄动马尔可夫决策与哈密尔顿圈》一书也是主要属于随机组合最优化; G. Andreatta, F. Mason, P. Serafini合编的《Stochastics in combinatorial optimization组合优化中的随机性》,Jati K. Sengupta撰写的《Stochastic
optimization and economic models随机优化和经济模型》,Jerzy Zabczyk编写的《Stochastic systems and
optimization随机系统与优化》,George S.Tarasenko,撰写的《Stochastic optimization in the Soviet Union. Random
search algorithms苏联的随机优化。随机搜索算法》等等。(要特别说2本书:一本是从哈佛大学博士毕业后分来我的导师去合作几年的美国威斯康辛大学一直任教至今的Olvi L. Mangasarian教授独撰的《Nonlinear programming》-他的博士Stephen
M. Robinson也留在威斯康辛大学至今并当选美国工程院院士等也做这这领域如他和下面第2的T. C. Hu胡德强教授合编《数学规划》等;另一本是和海南琼州大学同担任某一区SCI杂志副主编的Katta G. Murty教授独撰的《Linear and
combinatorial programming》)
下面再主要说确定性组合最优化(其中部分是随机组合最优化的),它的主要参考书如下:
第1、评价海南琼州大学国际一流(这里也有世界第一和第二大师的评价)的刘振宏教授撰写并在网上有可配合其学习的刘教授的中科院研究生视频课程《离散最优化算法》-还更应必须看刘教授和蔡教授1988年翻译出版的前哈佛大学教授美国三院院士Christos
Papadimitriou和普林斯顿大学Kenneth
Steiglitz院士合撰的630页的《组合最优化》(这书现仍为港科大首选教材-也如它是中国运筹学会理事长胡晓东招博士生的2本参考书之一,这书说多方面受到十分重要的Fulkerson和Ford的书、传奇大师Dantzig的书、Simonnard的书、Te
Chiang Hu胡德强的书、下面5的Lawler的书、诺奖得主Hopcroft等人的书、Garey和Johnson的这7本书的影响,这书也只引用2个华人的文献-即是胡德强的书和论文以及Lin和《C程序设计语言》第一作者Brian
Kernighan合作的论文。这Christos Papadimitriou在哈佛大学时是比尔·盖茨的导师,并且比尔·盖茨和Christos
Papadimitriou还合作论文,发表在《离散数学》杂志上--这是比尔·盖茨成为世界首富之前的唯一科学论文并这里第2段最后一句见这是海南琼州大学曾居世界领先的哈密顿圈的问题--我们也知道盖茨发表论文的这杂志的前后主编和编委们都是组合数学专家--象盖茨在中学时已是数学天才并数学总是满分本科时也选修研究生的数学等--也许就因为太聪明已接触到潮水般而来的大商机-所以世界多了一个首富而失去了一个杰出的组合数学家--Christos
Papadimitriou还被诺贝尔奖得主姚期智邀请参加国际咨询委员会-最后的张翔是香港大学校长和是Ernest
S. Kuh讲席教授--下面见Te Chiang Hu胡德强也和这集成电路设计先驱Ernest S. Kuh合编集成电路设计书籍)--这学科也许还可从日本图论与计算机科学等窥之
第2、和我们海南琼州大学一同担任Springer的影响因子非常高的SCI杂志副主编的Katta
Murty大师独撰出版的《线性规划与组合规划》也是组合最优化学科的一本世界名著;还有,我读研时副导师亲手交到我手里的这里最后部分说的765页的《有限型动态规划》的几乎每一章都引用的Te Chiang Hu胡德强的《组合最优化讲义》一书(组合算法是其主要内容-其实基于图论的所有优化问题的理论算法就几乎可发展出全部组合最优化理论-这是传统最优化理论所不具备的。这《有限型动态规划》一书也引用胡德强的许多组合最优化论文。刘振宏教授的中科院系统所于1980年印刷出版这书,当年国务院副总理方毅在人民大会堂会见美国加利福尼亚州州立大学圣地亚哥分校计算机科学系主任胡德强教授以及项武忠和夫人(应是这个圣地亚哥分校-参考这里,这计算机科学系有各类教师约1百50人那一个华人当系主任也算不太易特别是该系一直有很多世界级泰斗如美国科学院Officers的5人领导成员之一的美国数学会主席Ronald Graham教授自90年代起就一直在圣地亚哥分校计算机科学系并也和Panos
Pardalo大师以及堵丁柱合撰《组合最优化手册》)。Te Chiang Hu胡德强有很多有影响的成果如他在1961年和Ralph Gomory得到的成果已耀灿学界载入史册(这Gomory曾担任总统高温超导顾问委员会主席还是里根及大小布什总统的全国科技委员会主管是三院院士和获美国国家科学奖并自1973年起担任IBM高级副总裁20年[主管科学和技术-要知1999年起微软才超过IBM],这Gomory1951年已出论文,1955年在世界第一杂志《数学年刊》就有文1和文2,他在20世纪只有28篇并独写15篇-合作的和胡德强合6篇-可见合作最多-最后的1975年论文也是和胡德强合作并是图论的-可知若不当总裁将继续合作开创许多重要成果)-他俩的前重大结果被下段Korte和Vygen的当今世界第一组合最优化书籍列为:第8章8.6节Gomory-Hu树[这书只有18节以欧拉、拉格朗日、高斯、图灵和他导师Church、诺奖得主Karp、诺奖得主Cook、诺奖得主Tarjan等大师的名命标题])。
第3、评价海南琼州大学国际一流的林诒勋教授等翻译的爱因斯坦基金委主席、柏林科学院院长、国际数学联盟前秘书长Martin Grötschel的导师Bernhard Korte和其博士Jens Vygen于2000年合撰出版的《Combinatorial
Optimization: Theory and Algorithms组合最优化:理论与算法》(这2个德国波恩大学专家在序言说“我们希望本书写成高年级研究生课本”-就博士生最后阶段-不过其它年级可选读其中部分--这英文版已被翻译为中、德、日、法、意、俄文版--可见已成为世界最有影响的组合最优化书籍--正如中文版译者序说此前“在中国使用较多的教材是Papadimitriou和Steiglitz的《组合最优化》,然而…这书第一版一经发行便引起很大反响…”,且这书中文版由林诒勋教授和仅排在华罗庚之后的越民义理事长等4人翻译-他俩后面的合译者是姚恩瑜[这文章见姚是浙江大学研究生院院长出版社社长]和1996年跟这姚恩瑜做博士后的张国川[张和获重庆市第3项国家奖等的同获运筹研究奖--并担任中国运筹学会副理事长和学术交流委员会主席]-足见中文版的质量是充分合格的。这Bernhard Korte的这博士Jens Vygen和最近2013年担任国际数学最优化学会主席的美国工程院院士William J. Cook及国际数学联盟主席Laszlo Lovasz合编的《Research Trends in
Combinatorial Optimization组合最优化的研究动态》邀请到Te Chiang Hu胡德强等人的文章,林诒勋教授的线性规划和动态规划姐妹篇2本书对海外华人的书也只唯一都引用Te
Chiang Hu胡德强独著的书)(再附: Korte和Vygen的这书共22章如仅第16章就引82篇论文-但全书除引用刘振宏和朱永津2教授1965年合作的和管梅谷校长1962年的已经受历史考验的论文外(恰如这里最后段可知何为大师),我对这书引华人的都查-看到他们是2004年密苏里大学Y. Han,2004年台湾大学赵坤茂和Bang
Ye Wu,第2作者Y. Xu(科罗拉多大学),第3作者X. Liu(卡内基梅隆大学),第4作者姚期智,第3作者X. Zhou
(日本东北大学),2002年美国西北大学Hai Zhou,2007年滑铁卢大学T. M. Chan,美国GTE实验室J. Hao,韦恩州立大学X.Y. Su,德州农工大学 J. Chen,这2作者的波恩大学1990年出版M.
Yue的论文(似是中科院越民义) ,G. Zhang浙江大学张国川,戴维斯分校T. Kou,下面德州堵丁柱4篇(全在第20章),第6作者X. Wang(Twente大学),贝尔实验室S. Lin,下面斯坦福Mahdian-叶荫宇-张家伟/以及张家伟-Bo Chen-叶荫宇[即诺贝尔经济学奖提名人陈礴],2007年中科院软件所Peng Zhang现山东大学软件学院张鹏,还有胡德强教授除上段说的重大论文外还有这篇和书等也被引,这就是被引的全部华人,并仅一共只有5篇国内论文-即管梅谷的、刘振宏和朱永津合写的、越民义的以及刚出版的张国川的和张鹏的这5篇-是少了些---但当然,说不定国内有好论文被忽视,象诺奖得主姚期智大师主要从事的计算理论大部分都属于经典组合最优化-且不用说组合最优化还不断在拓疆土也合化同化相近领域-怎能仅有一篇)(Bernhard
Korte的几个博士都非常厉害-就是做当今最热门的计算机视觉的也说是组合最优化研究者-以此为荣)
第4、国际数学联盟秘书长和主席俩人Martin Grotschel和Laszlo Lovasz以及Alexander Schrijver于1988年合撰的《Geometric
algorithms and combinatorial optimization》(此书前面是讲一些几何算法和优化理论,第7、8、9章的几乎每一节都结合图论讲它们在各方面各具体领域的发展或应用,如在第8章讲到邀请海南琼州大学去澳大利亚合作的管梅谷校长开创的中国邮路问题时说:this optimization problem which is important in practice and
related to matching theory etc.);从事这学科的人也会看看Alexander
Schrijver此外的2本程度不同的组合最优化书籍还有更专的线性与整数规划等方面的)
第5、研制出世界上第一台大型自动数字计算机的Howard Hathaway Aiken和其高徒合作指导的博士Eugene L. Lawler撰写的《Combinatorial
Optimization: Networks and Matroids》,他的第一个博士Lee James White的学位论文是做权图论,最后博士做组合数学算法,美国ACM设有ACM
Eugene L. Lawler Award(不过ACM有包括诺贝尔奖Turing奖的23个奖项),可参考对Eugene L. Lawler的纪念,这个更详细一些
第6、1997年当选院士的张勇传和其夫人瞿继恂合撰的《组合最优化:计算机算法和复杂性》(这书虽很薄但内容提要说“本书供运筹学、应用数学、管理科学、系统工程、经济学、网络技术和计算机科学的教师和研究生参考应用”, 张勇传院士在前言说“每年耗费在求解多种类型线性规划的费用约为10亿美元,而应用的经济效益已达亿万美元”,并只说一本书即上面Papadimitriou和Steiglitz的《组合最优化》“给了作者很大的帮助”(虽然许多组合数学教材象两岸清华大学刘炯朗和卢开澄的都至少各有一章讲线性规划和动态规划,使感兴趣的进一步找寻专深著作); 众所周知-图论算法很大程度上就是组合最优化-可参考并行算法正盛行于世时这领域国际上第一本著作《并行图论算法》-此书作者是北京大学前辈唐策善教授和梁维发(这澳大利亚国立大学梁维发教授的博士导师Brendan McKay就是评价海南琼州大学为“您的成就很辉煌”的理事长的师兄也是这里说海南琼大“在泛圈图和泛连通图做了很多工作”的中山大学计算机学院院长的师兄。首次采用我国完全自主的高性能芯片研发成的万亿次超级计算机的负责人陈国良院士也就是这领域的主要开拓者并陈院士的第一本书是《并行算法:排序和选择》)
正如这里倒数第3段说“最著名的排序问题大概是哈密顿图问题”,上面比尔·盖茨做的就是排序问题--总之-排序论是组合最优化的一个分支,就如2个评价海南琼州大学国际一流的林诒勋教授以及刘振宏教授和上面仅居华罗庚一人之后的越民义从第一届中国排序学会起就并列12个委员且林诒勋教授还是第1至第5届第一副主任-并这5届的第二副主任陈荣秋,是华中科技大学校务委员会副主席、校学术委员会副主任,我也曾攻读陈荣秋主席1987年出版的专著《排序的理论与方法》等排序论书籍--附:排序算法视频和美国工业工程院院士(IISE Fellow)方述诚讲的线性规划等课程视频,最近相关的凸优化很热门,可看2个美国工程院院士Stephen Boyd的《凸优化》和Dimitri Bertsekas的《凸优化理论》{再附:陈荣秋虽有些清瘦但已培养了一百多个博士并如他的博士张昌尔是湖北省政协主席,他的博士刘英姿湖北省卫健委主任,他的博士宋志平是中国建材集团书记董事长,他的博士孙亚是武汉市长省厅长,他的博士何勤是湖北和云南2个最大药厂董事长,他的博士张宗真是中国民间商会副会长(陈荣秋教授至今只写2本书-另一本是较广的本科教材《生产与运作管理》),不过这些人都是2003年前毕业的博士而陈荣秋教授2006年的博士远远不如我也攻读他唯一专著且是哈密顿图的这宁教授2006年的博士}。
主要内容是组合排队等最优化问题的随机服务系统,可参考徐光煇研究员的著作《随机服务系统》,科学出版社1980年(徐光煇研究员1957年北京大学数学力学系毕业,1988-1996年任中国运筹学会第三届理事长、1989-1991年任亚太运筹学联合会主席主席,1992-1996年任国际运筹学联合会副主席);我也有中国运筹学会第三届副理事长吴沧浦教授的《最优控制的理论与方法》,国防工业出版社1989年(中国运筹事学会第三届理会和中国运筹学会第四届理事会除他俩外还有2个副理事长是1995年曾帮助海南琼州大学去他那里的运筹学世界著名大师管梅谷教授以及是安徽省科委主任常本英;而中国运筹学会第五届理事会1996年选出理事长章祥荪--而在中国运筹学会第二、三、四届理事会的外事工作委员会主任都是管梅谷、副主任都是这章祥荪,这是因运筹学世界著名大师管梅谷教授在这第五届之前的1995年已去澳大利亚最大的大学担任高级教授而我也才联系他得到他愿帮助海南琼州大学去他那里并管梅谷教授的著作我也几乎全有)。
组合最优化发挥重要作用的主要学科领域:
(Ⅰ)、集成电路和芯片--80年代一次就得上千万元经费全国最多的大师给海南琼州大学来信说:组合最优化和图论一样在集成电路和芯片设计中都发挥重要作用,如B.科尔特和J.菲根合撰的《芯片设计:组合优化的特殊应用》;又如上面Te Chiang Hu胡德强是独立导师的博士Andrew
Byun Kahng就撰写《超大规模集成电路物理设计:从图论分割到时序收敛》(这Andrew Kahng领导OpenRoad项目等,也是一个15亿美元项目某领头人,并刚见介绍他的导师胡德强的影响),还如Te
Chiang Hu也是独立导师的另一博士Frank
Ruskey也是用图论处理集成电路的-如他的论文1、论文2、论文3、论文4、论文5等都是哈密顿图论文。世界计算机鼻祖Knuth的获得诺贝尔奖的20世纪最佳12部学术专著之一第一个感谢的人就是I thank Frank Ruskey。(他俩的导师Te Chiang Hu胡德强和上面集成电路设计先驱Ernest S. Kuh合写的书就是F. Luccio大师等人的这论文的第一篇文献《VLSI
circuit layout : theory and design》,这Fabrizio Luccio教授是这里4个国外顾问之一的法布里奇奥×卢乔,另一顾问尤拉西尔曼是海南琼州大学的合作者-并也主编多达一千余页的组合最优化书籍)
(Ⅱ)、人工智能--哈佛一等学士剑桥硕士图论最优化博士 David
R. Karger已是人工智能权威(他的导师Motwani是2个比这图论博士Karger晚些获该系博士的这段最后一句说基于图论才创办世界第一的谷歌公司的Page和Brin的顾问-并Motwani和上面诺奖得主Hopcroft合写的《自动机理论、语言和计算导论》后部分就是组合最优化且前部分也有促进),可参阅:深度学习和强化学习在组合最优化方面有哪些应用?《科学》杂志排名计算机世界第一的加州机器学习之父Michael I. Jordan的《Learning
In Graphical Models图论模型学习》及他的博士Alice Xiaozhou
Zheng等的论文“Heat-ray: Combating
Identity Snowball Attacks Using Machine Learning, Combinatorial Optimization
and Attack Graphs”(这女孩已是微软和世界第一亚马逊高级经理),1992年的Machine learning
for the improvement of combinatorial optimization algorithms: a case study in
batch scheduling, 其后的“Statistical
Machine Learning and Combinatorial Optimization”,2004年出版的副标题是《A
Unified Approach to Combinatorial Optimization, Monte-Carlo Simulation and
Machine Learning》的书-并在这里就见已被多次引用,也可参考这篇综述文章有包括上面第一本Christos
Papadimitriou院士的书等很多早期文献,图灵奖得主Yoshua
Bengio的兄弟Samy
Bengio演讲的“Neural Combinatorial
Optimization with Reinforcement Learning”,并这图灵奖得主Yoshua
Bengio刚合撰第一作者的论文“Machine
Learning for Combinatorial Optimization: a Methodological Tour d'Horizon”,由于卷积神经网络是具有深度结构的前馈神经网络而已是深度学习的代表算法而其与组合最优化的关系如“Exact
Combinatorial Optimization with Graph Convolutional Neural Networks”,组合数学大师获奥斯卡9项奖提名的电影主角原型Daniel
J. Kleitman院士的早已是美国工程院院士的博士生Dimitris Bertsimas最近合写的《Machine
Learning Under a Modern Optimization Lens》一书(Bertsimas也曾和美国工程院院士John Tsitsiklis合写《Introduction
to linear optimization线性优化引论-几乎等同上面的线性规化-是组合最优化的主要内容》--John Tsitsiklis院士最著名的博士是2个华人:美国工程院院士David
Tse谢雅正教授[谢的另一导师Robert Gallager是5G之父]和郭宗杰;Dimitris Bertsimas也曾和上面国际数学联盟前秘书长的博士Robert Weismantel合写《Optimization
over Integers整数最优化》),和前者名字易混的最优化专家美国工程院院士Dimitri Bertsekas最近写了诸多涉及机器学习重点在强化学习的书和多次做这方面的演讲。也可看刚见的《组合优化机器学习方法Machine Learning Methods for Combinatorial
Optimization》和翻译者华中科大软件学院2个本科一等奖毕业生之一王彧弋称为人工智能领域先驱的Roberto Battiti撰写的《机器学习与优化》以及普林斯顿大学Warren B. Powell教授撰写的《Optimal
Learning最优化机器学习》等,也可参看这里最后部分说2个创办人财富都进前十使加起来连续居世界第一的谷歌公司就是依靠一类基于图论的排序学习算法起家的,等等.
(Ⅲ)、最优控制--卢强院士、王仲鸿教授、韩英铎院士合写的《输电系统最优控制》(这书第一篇参考文献是钱学森院士的《工程控制论》);上面张勇传院士撰写的《水电系统最优控制》;钟万勰院士撰写的《计算结构力学与最优控制》;创立湖南大学自动化博士点的童调生撰写的《电气工程最优控制》;生化过程模型化与控制学会理事长邵惠鹤独著的《化工过程最优控制》;James
Longusk、Jose Guzman等合撰的《最优控制在航天器中的应用》;程国采撰写的《弹道导弹制导方法与最优控制》;杨军撰写的《飞行器最优控制》;张景肖撰写的《随机最优控制及其在保险中的应用》,等等(如在期刊网见其论文全部都是图论的俞玉森教授最先作了关于现代控制理论和最优设计的学术报告,其后林少宫教授作关于统计学报告-俞后面的林少宫1952年获美国伊大博士和任教3年后与钱学森同船归国并位居华中科大四大终身教授--但仍正如武汉大学的《数学杂志》第一届正副主编仅李修睦、俞玉森不是武汉大学的--林少宫仅是编委,而这2人李修睦、俞玉森和我的导师锺集教授共3人-正如网上说1983年5月在武汉,湖北、湖南、河南、广东、广西五省区,成立中南运筹学会,他们3人担任第一届顾问--而除我导师外的李修睦、俞玉森都是武汉的)。
还有,这学科对这里查到的一届几个博士生都已成为部长省长级的所做的最优运筹管理的作用(他们的导师宁教授也撰写最优化方面的大学基础教材《线性规划在管理中的应用》《运筹学实用教程》《管理预测与决策方法》[这书引用30多本国内基础书仅6篇论文且都没有宁教授的]《管理运筹学教程》[和前本差不多]和世界上第一本这领域专著《阻塞流理论及其应用》[这书引用31篇论文且除了几篇是宁教授的学生的外全部都是宁教授的哈密顿圈/轨网络最优化论文并只引用4本书其中有离散数学等3本基础的外另一本是较专深些的刘家壮和王建方合撰的 《网络最优化》],象说海南是世界上在邻域并哈密顿圈/轨/图都做得最好的宋增民理事长就独写《图论与网络最优化》),就如上面管梅谷先生从校长位上退下后就发挥专业特长担任复旦大学管理学院院长-这是因管理不仅有我们熟悉的人和经济的管理还有项目、工程、资源、不同行业地区国家间最优化合作管理等等-而这些都需要有机的最优化组合,也如这里说海南是世界上做得最好的宋增民理事长在80年代出版的《管理中的图论方法》一书(关于宋增民教授-他推荐去香港大学读博的他的研究生陈旭瑾教授都已担任全国数学规划学会副理事长并兼实际掌管主持的秘书长[最优化最重要的四年一届的国际数学规划大会将于2021年8月中旬在北京举办]--关于这个学会-上面合译《组合最优化:理论与算法》的林诒勋教授、越民义教授、姚恩瑜教授是第四届资深理事而另一译者张国川是副理事长、副理事长李端2003年已是香港中文大学系主任、副理事长修乃华和孙小玲都是中国运筹学会副理事长、戴彧虹的导师是袁亚湘--可说最优化属规划-是规划的主体所在-可参考和我导师在上段同任顾问的俞玉森主编的《数学规划的原理和方法》-值得参考也如上大的这里最后部分控制理论博士生考试仍列它为参考书-另一本最优化参考书是清华胡冠章书记的继任者陈宝林的《最优化理论和算法》-清华这书5个华人参考文献中第一个是上面管梅谷大师和北大前辈郑汉鼎合写的《线性规划》)--这就如这里见诺贝尔经济奖得主康托罗维奇的最后5本书都是数学最优化的(这诺贝尔经济奖得主也开创数学的泛函分析的一个分支)特别还因鼻祖泰斗“最后的通才”萨缪尔森的线性规划--也正如先他之前的奇特通才诺奖得主西蒙对管理的定义是“管理就是制定决策”-而“决策论是研究为了达到预期目的,从多个可供选择的方案中如何选取最好最满意最优化方案的学科”;再有,最近中国运筹学会理事长胡旭东邀请上面说到堵丁柱来做的“Nonlinear
Combinatorial Optimization非线性组合最优化”报告说到“Cloud
computing, wireless networks, and data management and transmission云计算、无线网络、数据管理和传输…”;华人前有Te Chiang Hu胡德强-现有堵丁柱教授以及叶荫宇教授-运筹管理学领域最高奖项--冯·诺依曼理论奖的唯一华人得主和他的2个已成名家的博士生香港中文大学晨兴书院执行院长Anthony Man-Cho So(首任院长是诺贝尔经济学奖得主-现院长是牛津大学前副校长)和纽约大学终身教授张家伟合作的可控风险规避水平的随机组合最优化,在美国数学评论可见这领域已有许多发展-如同年有极值图论博士论文。等等。
总之,与最优化理论异同的是,组合最优化本就含最优化理论的诸多核心理论及其衍生的富有生命力思想(上面第5已部分地看到这是组合数学一直也共有的根基)再因处理图论组合数学的最优化问题促使计算机科学这些年来发展出计算复杂性理论而继此以深度融合拓展(运筹学可参考Profiles
in Operations Research: Pioneers and Innovators以及INFORMS-整数规划参考50
Years of Integer Programming 1958-2008等),当然仍在发展中需不断共通互鉴。此外,就是在(Ⅲ)基于组合最优化等在最优控制的研究,也要先研究一、二个领域把它们做好.