先进的数据驱动全局优化方法与应用

第1章 绪论 1.1 概述 计算机技术的快速发展与工业产品的高精度需求，使仿真计算成为现代工程设计不可或缺的工具。机械电子领域中存在许多结构复杂的贵重黑箱模型[1-5]。黑箱模型(black-box models)是指只清楚其输入输出而无法了解内部运算规律的模型[6-7]。贵重黑箱模型是指由一组输入得到一组输出需要大量计算的模型，如汽车碰撞仿真[8-9]、飞机外形流体动力计算[10]、水下航行器外形设计以及结构稳定性分析等[11-14]。每次实验仿真少则需要十几分钟，多则若干小时。对于贵重黑箱模型的概念设计，若想在设计空间中寻求一组可行设计参数，通常需要很大的计算代价[15]。为解决这一问题，数据驱动优化(data-driven optimization， DDO)技术应运而生。由于数据驱动优化中通常需要用到代理模型技术，机械设计[16-18]或航空航天[19-21]领域也称数据驱动优化为代理模型优化(surrogate-based optimization， SBO)。图1.1展示了翼身融合水下滑翔机计算耗时的仿真系统。 图1.1 翼身融合水下滑翔机计算耗时的仿真系统 近年来，计算机辅助设计(computer-aided design， CAD)[22-23]蓬勃发展。复杂的计算模型以及计算耗时的仿真常被用来模拟系统行为，以提高设计质量。据报道，福特公司进行一次汽车碰撞仿真需要36～160h[24-29]。考虑一个二维优化问题，假设一次优化需要50步迭代，每一步迭代需要执行一次碰撞仿真，那么总计算时间将达75天到11个月。因此，传统的优化求解器对于复杂黑箱模型的求解变得不可行。降低调用复杂黑箱模型的次数，是减少计算代价的关键。传统的全局优化方法如遗传算法(genetic algorithm， GA)，在设计空间随机进行探索并更新种群，通过成百上千次调用目标及约束函数后，可以找到*优解，但是过于依赖目标函数分析的特性，使GA等无法处理计算贵重的仿真优化问题。 1989年Sacks等[30]提出了计算机实验设计与分析(design and analysis of computer experiments， DACE)的概念。图1.2展示了DACE在工程设计中的应用流程。通常，多组计算机实验仿真需要重复运行计算代码，而每次执行计算代码又需要大量的时间消耗，这种过程耗时的计算仿真被称为“贵重仿真”。一组输入经过贵重仿真计算求得一组输出，输出值作为响应可以构成优化问题中的目标或者约束函数。当执行优化程序时，计算成本会随着迭代大大增加。为了减少计算成本，利用仿真实验得到的输入值与输出值构造一个较为“廉价”的代理模型(也称为近似模型)，该模型替代原有复杂的系统来预测未知输入的输出值。直到现在，许多学者还在沿着代理模型优化这个思路探索。 图1.2 DACE在工程设计中的应用流程 2007年Wang和Shan[31]指出，计算集中的设计问题在工业界逐渐变得常见，计算负载的产生通常是为了接近真实物理测试结果而开展的贵重仿真分析或复杂仿真处理。2008年Simpson等[32]指出，过去二十年，代理模型技术在实验分析设计领域取得了显著的成绩，基于代理模型的表现，未来应重点研究多保真度代理模型及代理模型在商业软件中使用的可行性。2009年Forrester和Keane[33]指出，航空设计计算需要长时间的运行以及贵重计算机仿真，这促进了代理模型在航空设计优化领域的应用。2010年Younis和Dong[34]指出，计算集中的仿真分析支撑起了现代工程设计，而代理模型可以有效减少贵重目标与约束仿真模型的调用次数。2015年Tabatabaei等[35]指出，通过真实的计算实验得到目标函数以及约束函数需要高昂的计算代价，如热力学分析、结构分析、流体动力学分析以及包含微分方程的复杂模拟。解决这种耗时问题的基本思想是建立一个计算廉价的代理模型替代真实实验。2017年Bartz-Beielstein等[36]指出，在建模仿真与优化过程中，基于代理模型的优化扮演了越来越重要的角色。此外，代理模型优化技术也可以有效地解决现实世界中具有离散设计域的复杂优化问题。2018年Liu等[37]指出，代理模型作为一种受欢迎的技术，可以减少仿真计算次数，而自适应的代理模型技术由于可以学习已有数据与模型的经验，受到广大学者的青睐。 如图1.3所示，传统的优化方法通常直接将复杂黑箱分析模型与优化求解器连接进行迭代计算，一般需要较多的迭代次数来达到*优结果，如果分析模型为贵重黑箱模型，计算量会急剧增大。例如，遗传算法如果调用1000次复杂黑箱模型来求得*优解，每次迭代花1min求得输出，共需要1000min，计算量的大幅提高势必要求降低分析模型的计算次数[38]。 如图1.4所示，通过有规律地进行多次试验分析，得到多组对应的输入输出，将输入输出结合起来，可以构造一个“廉价预测模型”，即代理模型。经典的优化算法可以直接作用到代理模型上，通过多次迭代求得*优解，该解是一个预测“*优解”，其精确度取决于实验分析方法以及测试次数。如何既减少计算代价又得到满意结果还需要一些智能的策略，这些会在后文详细介绍。 图1.3 复杂黑箱分析模型与优化求解器连接进行迭代计算 图1.4 复杂黑箱分析模型借助代理模型与优化求解器连接进行迭代计算 总的来说，代理模型优化是基于代理模型的一种优化策略。图1.4只简单阐释了复杂黑箱分析模型、廉价预测模型、优化求解器以及输入输出之间的一般关系。然而，在实际问题中想要得到*优解，还需要在迭代过程中不断更新代理模型，使其预测精度自适应性提高。同时，算法需要智能选择较优的预测结果，以此来平衡计算代价和计算精度。 20世纪90年代开始，基于代理的分析(surrogate-based analysis， SBA)技术逐渐被运用于工程设计中。由于其强大的预测能力，现如今，SBA技术已拓展至结构设计、流体动力外形设计、多学科优化设计及电子系统仿真设计等领域[39]。弗吉尼亚理工大学、圣母大学、仁斯利尔理工大学、兰利研究中心等，均利用SBA技术解决工程中存在的优化设计问题[40-49]。 有限元分析(finite element analysis， FEA)常用于结构仿真设计。直接将FEA与一般优化求解器结合寻求*优解会产生高额的计算代价。较早的做法是利用一阶灵敏度分析[30]构造一个近似的经验公式，优化过程在该经验公式上顺序执行。Pedersen等[50]运用序列线性规划(sequential linear programming， SLP)法解决结构优化问题；Fleury和Braibant[51]提出了一种凸线性化(convex linearization， CONLIN)法；Svanberg[52]提出了一种移动渐近线法(method of moving asymptotes， MMA)。以上方法都提取了设计空间当前点的响应以及一阶灵敏度信息，因此可以统称为单点近似(single-point approximation)法。随后，Haftka等[53]和Fadel等[54]利用当前点和先前点的值与导数信息发展出两点近似(two-point approximation)法。Rasmussen[55]进一步提出一种累积近似技术(accumulated approximation technique)，该技术不仅利用当前点的值和梯度，还提取了之前所有已获得点的值和导数信息。Toropov[56]总结性地提出了多点近似(multipoint approximations， MA)的思路。MA可以在每个迭代步利用回归分析预测当前点处的响应，依据前面若干步已知的解信息，在当前被认为有效的子区域内进行优化，以减少FEA的次数。 NASA曾资助了一批关于响应面方法的研究，催生了一系列基于响应面(response surface， RS)法的重要理论[57-61]。响应面法通常利用多项式作为基函数，用*小二乘法来拟合构造一个预测模型[62]。弗吉尼亚理工大学开发了一种变复杂度响应面建模(variable complexity response surface modeling， VCRSM)[63-64]方法。VCRSM利用不同保真度的信息缩减设计空间，只在*有可能出现优化解的区域补充贵重样本，减少了计算代价。圣母大学开发了一种多学科协同子空间优化(concurrent sub space optimization， CSSO)方法[65-67]，并将该方法用于多学科优化设计(multidisciplinary design optimization， MDO)中来协调各个子空间的优化。Haftka等[68]和Hardy[69]也在机械和航空工程领域开展了大量关于响应面法的研究工作。 近年来，研究人员将视线从多项式响应面法转移到代理模型方法，包括径向基函数(radial basis functions， RBF)[70]、克里金(Kriging)[71]、支持向量回归(support vector regression， SVR)[72]、人工神经网络(artificial neural network， ANN)等[73]。之后，提出了基于代理模型的优化方法，并将其运用于工程设计领域。在航空航天领域，SBO?方法被用于高速民用运输机设计[74]、机翼外形优化[75]、扩压器外形优化[76]、超音速涡轮机设计等[77]。Andrés-Pérez等[78]提出了一种基于SVR的SBO方法来优化空气动力学外形。该方法结合进化算法(evolutionary algorithm， EA)和一种智能评估学习的取样策略(intelligent estimation search with sequential learning， IES-SL)在设计空间进行高效探索，其中SVR构造的代理模型替代计算流体力学(computational fluid dynamics， CFD)来计算似然函数值，*终在减少计算代价的情况下获得全局*优的空气动力外形。Iuliano[79]提出了一种代理模型方法实现了空气动力流场的本征正交分解(proper orthogonal decomposition)以及在未知设计点用RBF重新构造空气动力流场。此外，为了实现全局优化的功能，该方法被耦合到EA中，并给出基于目标提升及预测误差减少的两种采样填充策略，*终仅调用了100次流体计算仿真便得到了全局*优解。Ulaganathan和Asproulis[80]认为航空航天系统发展的主要挑战在于对系统行为的理解。虽然高精度计算为高规格的设计以及增强系统响应的认识方面提供了有价值的信息，但伴随着的高额计算代价也限制了其在全范围系统上的应用。他们建议了一种基于Kriging和哈默斯利序列采样(Hammersley sequence sampling)的SBA方法精确地预测空气动力，并利用遗传算法在代理模型上进行全局寻优，*终在大量减少计算代价的同时获得了满意的气动效率。Glaz等[81]比较了Kriging、RBF和RS三种代理模型方法在直升机震动问题上的预测精度，并没有探讨如何搜寻设计空间来捕获全局*优解，而是着眼于代理模型方法对于震动减弱问题的适应性上，*终发现Kriging的平均精确度在这个问题上表现*优。 1.2 数据驱动优化技术在仿真系统中的应用 随着仿真技术的发展与现代产品设计复杂度的提高，仿真分析频繁应用于系统设计与优化，达到精确分析的同时也产生了高昂计算代价。因此，数据驱动优化技术成为解决耗时仿真系统优化的关键技术[82]。数据驱动优化中常用的代理模型方法包括多项式响应面(polynomial response surface，