一种自适应SVM近似模型参数优化方法与流程

本发明涉及复杂物理模型的近似模型技术领域，特别是一种自适应SVM近似模型参数优化方法。

背景技术：

近似模型是为优化服务的技术，基于近似模型的优化方法是求解大型非线性问题最优希望的方法之一，鉴于其高效省时，广泛应用于工程优化领域。近似模型技术主要由两个部分组成：试验设计方法和近似模型构造，二者直接影响到近似模型的预测精度届构建效率。

试验设计实在设计空间中选择合理的最具代表性的试验样本点组合，直接决定了构造近似模型所需样本点的个数及空间分布情况，影响近似模型对真实物理模型的拟合精度。常用的试验设计方法包括：全因子试验设计、正交设计、均匀设计、中心复合设计、拉丁超立方试验设计等。其中，拉丁超立方试验设计是一种基于随机抽样的试验设计方法，具有很强的非线性响应拟合能力，试验样本点数的个数可以自由选择，且每个因子在每个水平上都能得到均匀的运用等优点，但由于其随机性，可能存在试验点在设计空间中分布不均匀的情况。本发明通过外加一个最大最小距离准则，可以避免上述缺点，使样本集最大程度上反应出真实物理模型的响应情况。

近似模型的构造原理是当设计空间内某一点周围一定数量点的实际值已知时，通过某种方式建立一个超曲面，用这个超曲面代替原有的负责物理模型进行高效计算。常用的近似模型构造方法有响应面法(RSM)、克里格(Kriging)函数法、人工神经网络(ANN)、支持向量机(SVM)等。其中，RSM结构简单、透明度高，但不适用于非线性、高复杂度模型的建立；BP模型结构简明，但是容易陷入过学习状态导致预测精度大幅降低；Kriging受数据噪音影响明显，并且建模时间较长。SVM算法由Vapnik首先提出，能够很好地解决小样本学习问题。它的基本思想是：通过某种事先选择的非线性映射，也即核函数，将输入向量x映射到一个高维特征空间Z，在这个空间中构造最优分类超平面。SVM算法在解决小样本，非线性和高维模式识别问题中表现出许多特有的优势，由于其在算法上基于结构风险最小化原则，可以有效规避过学习和受数据噪声影响明显等问题。但是SVM近似模型构造过程中，影响其精度和泛化能力的参数比较多，本发明提出的一种自适应SVM近似模型参数优化方法，可以有效解决这个问题，提高SVM近似模型的精度。

技术实现要素：

本发明的目的在于提供一种自适应SVM近似模型参数优化方法，有效解决SVM近似模型参数选取复杂费时的问题，提高模型精度与泛化能力。

实现本发明目的的技术解决方案为：一种自适应SVM近似模型参数优化方法，包括以下步骤：

步骤1，使用最优拉丁超立方试验设计方法结合对物理模型f的分析，获得训练样本集S＝{(x(i),f_x(i)),i＝1,2,…,n_s}。

步骤2，使用改进后的最优拉丁超立方试验设计方法结合对物理模型f的分析，获得测试样本集T＝{(y(i),f_y(i)),i＝1,2,…,n_t}，使得n_s个训练样本点到n_t个测试样本点之间的距离最大。

步骤3，以测试样本集的决定系数R²作为适应度值，通过遗传算法，优化SVM近似模型的3个重要参数，即逼近精度ε、惩罚参数C和核参数σ，获得最优参数SVM近似模型。

步骤4，以步骤3中最终迭代步的决定系数作为贪婪准则，采用贪婪算法，更新训练样本集与测试样本集，更新贪婪准则，直到n_t＝0，获得最终优化后的SVM近似模型。

本发明与现有技术相比，其显著优点在于：

(1)引入最大最小距离准则的最优拉丁超立方试验设计方法同时满足了训练样本点的空间均匀性和在每个变量上的投影均匀性。

(2)改进后的最优拉丁超立方试验设计方法满足了训练样本点和测试样本点之间的距离最大，并且使整个训练样本点和测试样本点继续保持空间均匀性和在每个变量上的投影均匀性。

(3)基于遗传算法优化对SVM近似模型参数优化，其精度相对于基于经验参数建立的SVM近似模型精度大幅度提高。

(4)基于贪婪算法优化SVM近似模型样本空间，相对于直接用训练样本集建立模型，可以最大限度考虑到测试样本集的信息。

附图说明

图1为本发明自适应SVM近似模型参数优化方法流程图。

图2为引入最大最小距离准则的最优拉丁超立方试验设计方法流程图。

图3为基于遗传算法优化SVM近似模型3个重要参数流程图。

图4为基于贪婪算法优化SVM近似模型样本空间流程图。

图5为本发明实施例1中拉丁超立方试验设计方法所得到的训练样本点在其中两个因素上的投影的样本分布图。

图6为本发明实施例1中最优拉丁超立方试验设计方法所得到的训练样本点在其中两个因素上的投影的样本分布图。

图7为本发明实施例1中拉丁超立方试验设计方法得到的测试样本点和训练样本点在其中两个因素上的投影的样本分布图。

图8为本发明实施例1中引入改进后的最大最小距离准则的最优拉丁超立方试验设计方法得到的测试样本点和训练样本点在其中两个因素上的投影的样本分布图。

图9为本发明实施例1中决定系数随遗传算法迭代次数变化图。

具体实施方式

下面结合附图对本发明作进一步详细描述。

结合图1至图4，一种自适应SVM近似模型参数优化方法，步骤如下：

步骤1，使用最优拉丁超立方试验设计方法结合对物理模型f的分析，获得训练样本集S＝{(x(i),f_x(i)),i＝1,2,…,n_s}；具体如下：

步骤1-1、将训练样本的每一维变量在其取值范围内分成n_s个间隔，在每个间隔内随机产生一个采样点，随机组合构成一个n_s×m的训练样本矩阵X，即为训练样本点，转入步骤1-2。

步骤1-2、令OUT＝1，IN＝1，最优训练样本矩阵X_best＝X；转入步骤1-3。

步骤1-3、将训练样本矩阵X第IN列中的任意两个元素交换A次，构造一批新的训练样本矩阵X₁,X₂,…,X_A，采用最大最小距离准则，从其中选出最好的设计X_try，

最大最小距离准则为：一个训练样本矩阵X中，d(x_i,x_j)表示两个训练样本点之间的距离：参数t＝1或2，k为自变量，评判标准即在一批新的训练样本矩阵X₁,X₂,…,X_A中，选择X_try满足条件F(X_try)＝max{F(X₁),F(X₂),…,F(X_A)}；转入步骤1-4。

步骤1-4、判断F(X_best)与F(X_try)的大小，如果F(X_best)≤F(X_try)，则X_best＝X_try，IN＝IN+1；如果F(X_best)>F(X_try)，则IN＝IN+1；转入步骤1-5。

步骤1-5、比较m和步骤1-4中更新后的IN，如果IN>m，则转入步骤1-6；否则，返回步骤1-3。

步骤1-6、令OUT＝OUT+1，如果OUT>B，输出最优训练样本矩阵X_best，转入步骤1-7，其中B是外循环的次数；否则，IN＝1，返回步骤1-3。

步骤1-7、根据所获得的最优训练样本矩阵X_best，结合对物理模型f的分析，获得训练样本集S＝{(x(i),f_x(i)),i＝1,2,…,n_s}。

步骤2，使用改进后的最优拉丁超立方试验设计方法结合对物理模型f的分析，获得测试样本集T＝{(y(i),f_y(i)),i＝1,2,…,n_t}，使得n_s个训练样本点到n_t个测试样本点之间的距离最大；具体如下：

测试样本点y(i)维数是m，测试样本点个数是n_t，y(i)取值范围是[y_min,y_max]，改进后的最优拉丁超立方试验设计方法的算法步骤为：

步骤2-1、将测试样本的每一维变量在其取值范围内分成n_t个间隔，在每个间隔内随机产生一个采样点，随机组合构成一个n_t×m的测试样本矩阵Y，即为测试样本点，转入步骤2-2。

步骤2-2、令OUT＝1，IN＝1，最优测试样本矩阵Y_bret＝Y，转入步骤2-3。

步骤2-3、将输入测试样本矩阵Y第IN列中的任意两个元素交换P次，构造一批新的测试样本矩阵Y₁,Y₂,…,Y_P，采用改进后的最大最小距离准则，从其中选出最好的设计Y_try，

改进后的最大最小距离准则为：根据测试样本矩阵Y与步骤1中的最优训练样本矩阵X_best，得到一个(n_s+n_t)×m的新的样本矩阵Z，d(z_i,z_j)表示新的样本矩阵Z中的两个样本点之间的距离：t＝1或2，k为自变量，评判标准即在一批新的样本矩阵Y₁,Y₂,…,Y_P中，选择Y_try，当Y_try与X_best组合成新的矩阵Z_try后，满足条件：F(Z_try)＝max{F(Z₁),F(Z₂),…,F(Z_P)}，转入步骤2-4。

步骤2-4、判断F(Z_best)与F(Z_try)的大小，如果F(Z_best)≤F(Z_try)，则Y_best＝Y_try，IN＝IN+1，如果F(Z_best)>F(Z_try)，则IN＝IN+1；转入步骤2-5。

步骤2-5、比较m和步骤2-4中更新后的IN，如果IN>m，则转入步骤2-6；否则，返回步骤2-3。

步骤2-6、令OUT＝OUT+1，如果OUT>B，输出最优输入测试样本矩阵Y_best，转入步骤2-7，其中B是外循环的次数；否则，IN＝1，返回步骤2-3。

步骤2-7、根据所获得的最优测试输入样本矩阵Y_best，结合对物理模型f的分析，获得测试样本集T＝{(y(i),f_y(i)),i＝1,2,…,n_t}。

步骤3，以测试样本集的决定系数R²作为适应度值，通过遗传算法，优化SVM近似模型的3个重要参数，即逼近精度ε、惩罚参数C和核参数σ，获得最优参数SVM近似模型；具体如下：

步骤3-1、分别赋予ε、C和σ三个变量一个初始范围，即即和其中和均为系数。创建初始种群，种群数量为n_r，转入步骤3-2。

步骤3-2、以初始种群中每个个体对应的SVM参数和步骤1中训练样本集S＝{(x(i),f_x(i)),i＝1,2,…,n_s}，建立SVM近似模型；以步骤2中的测试样本集T＝{(y(i),f_y(i)),i＝1,2,…,n_t}的决定系数R²作为适应度值，评价初始种群中每个个体的优劣，决定系数R²的公式为

其中，f_y(i)是物理模型f的真实响应，是f_y(i)的平均值，是SVM近似模型响应，n_t是测试样本点的个数；转入步骤3-3。

步骤3-3、迭代次数为s，经过选择、交叉、变异，达到收敛，获得最优个体，转入步骤3-4。

步骤3-4、根据最优个体缩小ε、C和σ三个变量的范围，返回步骤3-1，直到ε、C和σ三个变量至少3次分别对应收敛在范围(0,ε(1+k_ε)]、(0,C(1+k_C)]和(0,σ(1+k_σ)]中，k_ε、k_C和k_σ均为系数，此时获得最优参数ε_best、C_best、σ_best、当前的决定系数以及最优参数SVM近似模型。

步骤4，以步骤3中最终迭代步的决定系数作为贪婪准则，采用贪婪算法，更新训练样本集与测试样本集，更新贪婪准则，直到n_t＝0，获得最终优化后的SVM近似模型；具体如下：

步骤4-1、根据步骤3中的最优参数SVM近似模型，计算测试样本集中各个测试点的相对误差RE_i，i＝1,2,…,n_t；转入步骤4-2。

步骤4-2、选择相对误差最大的测试样本点maxRE_i，将该测试样本点从测试样本集中取出，放入训练样本集，即n_s＝n_s+1，n_t＝n_t-1；转入步骤4-3。

步骤4-3、根据步骤3中获得的ε_best、C_best和σ_best，以及步骤4-2中更新后的训练样本集与测试样本集，建立新的SVM近似模型并进行预测，获得新的决定系数转入步骤4-4。

步骤4-4、执行贪婪准则：

如果则转入步骤4-5；否则，将该测试样本点从训练样本集与测试样本集中剔除，即n_s＝n_s-1，转入步骤4-5；

步骤4-5、判断是否所有的测试样本点都进行了贪婪算法的检验：

若n_t>0，返回步骤4-1；若n_t＝0，迭代终止，输出最终优化后的SVM近似模型。

Part2实施例

本实施例所研究的对象物理模型f是火炮上装部分非线性有限元动力学模型优化问题。首先，建立某火炮上装部分有限元动力学模型，以炮口扰动为优化目标，选取设计变量，并选取衡量炮口扰动的指标。具体如下：

(1)建立某火炮上装部分有限元动力学模型。本例建立的火炮非线性有限元模型共有253121个单元，279134个节点。坐标系：x轴方向沿身管轴向指向炮口，y轴方向向上垂直于x轴，z轴遵循右手定则。模型由身管后坐部分，摇架部分，上架部分，座圈部分组成。其中，身管后坐部分、高低机齿轮齿弧、座圈等结构采用六面体单元；摇架、上架大部分结构采用板壳单元；用杆单元模拟平衡机。

火炮各部件之间的连接关系：用自由度耦合来模拟摇架耳轴和上架耳轴座之间的连接，只释放围绕耳轴轴线旋转的自由度；高低机齿轮和齿弧处定义接触；在身管与衬套之间发生接触的表面区域定义面对面的接触来模拟二者间的接触碰撞关系；在炮口中心点处设置参考点，采用耦合约束连接该参考点与炮口处的单元节点，以便于输出炮口扰动数据。

火炮的载荷和边界条件：在炮尾面施加随时间变化的炮膛压力来模拟火药气体的作用力；制退机力、复进机力和平衡机力通过非线性弹簧模拟；重力作为常力直接加载在模型中；在座圈底面施加全约束边界条件。

(2)选取设计变量。针对火炮结构的特点并结合前期关于灵敏度分析结果，选取摇架刚度s₁，上架刚度s₂，前后衬瓦与身管之间的间隙c，后坐部分y轴方向质量偏心e，炮口制退器质量m作为5个设计变量，并选取弹丸出炮口时刻的炮口位置水平横向角位移θ_y、高低角位移θ_z、水平横向角速度ω_y、高低角速度ω_z作为衡量炮口扰动的指标。各设计变量初值以及取值范围如表1所示。

表1设计变量初值以及取值范围

(3)选取衡量炮口扰动的指标。本文选取弹丸出炮口时刻的炮口位置水平横向角位移θ_y、高低角位移θ_z、水平横向角速度ω_y、高低角速度ω_z作为衡量炮口扰动的指标。

建立面向该大口径火炮非线性有限元动力学优化的一种自适应SVM近似模型，该自适应SVM近似模型参数优化方法具体如下：

步骤1，使用引入最大最小距离准则的最优拉丁超立方试验设计方法结合对该大口径火炮非线性有限元动力学模型的分析，抽取50个训练样本点，获得训练样本集S＝{(x(i),f_x(i)),i＝1,2,…,50}；具体如下：

步骤1-1、将训练样本的每一维变量在如表1所示的取值范围内分成50个间隔，在每个间隔内随机产生一个采样点，随机组合构成一个50×5的训练样本矩阵X，即为训练样本点，转入步骤1-2；

步骤1-2、令OUT＝1，IN＝1，最优训练样本矩阵X_best＝X；转入步骤1-3；

步骤1-3、将训练样本矩阵X第IN列中的任意两个元素交换1225次，构造一批新的训练样本矩阵X₁,X₂,…,X₁₂₂₅，采用最大最小距离准则，从其中选出最好的设计X_try；

最大最小距离准则为：一个训练样本矩阵X中，d(x_i,x_j)表示两个训练样本点之间的距离：k为自变量，评判标准即在一批新的训练样本矩阵X₁,X₂,…,X₁₂₂₅中，选择X_try满足条件F(X_try)＝max{F(X₁),F(X₂),…,F(X₁₂₂₅)}；转入步骤1-4；

步骤1-4、判断F(X_best)与F(X_try)的大小，如果F(X_best)≤F(X_try)，则X_best＝X_try，IN＝IN+1；如果F(X_best)>F(X_try)，则IN＝IN+1；转入步骤1-5；

步骤1-5、比较维数5和步骤1-4中更新后的IN，如果IN>5，则转入步骤1-6；否则，返回步骤1-3；

步骤1-6、令OUT＝OUT+1，如果OUT>200，输出最优训练样本矩阵X_best，转入步骤1-7，其中200是外循环的次数；否则，IN＝1，返回步骤1-3；

步骤1-7、根据所获得的最优训练样本矩阵X_best，结合对该大口径火炮非线性有限元动力学模型的分析，获得训练样本集S＝{(x(i),f_x(i)),i＝1,2,…,50}。

如图5所示是没有引入最大最小距离准则的拉丁超立方试验设计方法所得到的训练样本点在其中两个因素上的投影的样本分布图；如图6所示是引入最大最小距离准则的最优拉丁超立方试验设计方法所得到的训练样本点在其中两个因素上的投影的样本分布图；由图5、6可以看出最大最小距离准则有效提高了训练样本点的空间均匀性和在每个变量上的投影均匀性。

步骤2，使用引入改进后的最大最小距离准则的最优拉丁超立方试验设计方法结合对该大口径火炮非线性有限元动力学模型的分析，在50个训练样本点，抽取50个测试样本点，获得测试样本集T＝{(y(i),f_y(i)),i＝1,2,…,50}，使得50个训练样本点到50个测试样本点之间的距离最大；具体如下：

步骤2-1、将测试样本的每一维变量在如表1所示的取值范围内分成50个间隔，在每个间隔内随机产生一个采样点，随机组合构成一个50×5的测试样本矩阵Y，即为测试样本点，转入步骤2-2；

步骤2-2、令OUT＝1，IN＝1，最优测试样本矩阵Y_bret＝Y，转入步骤2-3；

步骤2-3、将输入测试样本矩阵Y第IN列中的任意两个元素交换1225次，构造一批新的测试样本矩阵Y₁,Y₂,…,Y₁₂₂₅，采用改进后的最大最小距离准则，从其中选出最好的设计Y_try；

改进后的最大最小距离准则为：根据测试样本矩阵Y与步骤1中的最优训练样本矩阵X_best，得到一个100×5的新的样本矩阵Z，d(z_i,z_j)表示新的样本矩阵Z中的两个样本点之间的距离：k为自变量，评判标准即在一批新的样本矩阵Y₁,Y₂,…,Y₁₂₂₅中，选择Y_try，当Y_try与X_best组合成新的矩阵Z_try后，满足条件：F(Z_try)＝max{F(Z₁),F(Z₂),…,F(Z₁₂₂₅)}，转入步骤2-4；

步骤2-4、判断F(Z_best)与F(Z_try)的大小，如果F(Z_best)≤F(Z_try)，则Y_best＝Y_try，IN＝IN+1，如果F(Z_best)>F(Z_try)，则IN＝IN+1；转入步骤2-5；

步骤2-5、比较维数5和步骤2-4中更新后的IN，如果IN>5，则转入步骤2-6；否则，返回步骤2-3；

步骤2-6、令OUT＝OUT+1，如果OUT>200，输出最优输入测试样本矩阵Y_best，转入步骤2-7，其中200是外循环的次数；否则，IN＝1，返回步骤2-3；

步骤2-7、根据所获得的最优测试输入样本矩阵Y_best，结合对该大口径火炮非线性有限元动力学模型的分析，获得测试样本集T＝{(y(i),f_y(i)),i＝1,2,…,50}。

如图7所示是拉丁超立方试验设计方法得到的测试样本点和训练样本点在其中两个因素上的投影的样本分布图；图8所示是引入改进后的最大最小距离准则的最优拉丁超立方试验设计方法得到的测试样本点和训练样本点在其中两个因素上的投影的样本分布图；由图看出改进后的最大最小准则显著增大了训练样本点和测试样本点之间的距离，并且使整个训练样本点和测试样本点继续保持空间均匀性和在每个变量上的投影均匀性。

步骤3，考虑到单映射的近似模型更容易达到高预测精度，对于衡量炮口扰动的4个指标回转角位移θ_y、高低角位移θ_z、回转角速度ω_y、高低角速度ω_z，分别建立SVM近似模型，并基于遗传算法分别优化四个近似模型的三个重要参数逼近精度ε，惩罚参数C和核参数σ，获得最优参数SVM近似模型；具体如下：

步骤3-1、分别赋予ε、C和σ三个变量一个初始范围，即(0,1]、(0,10]和(0,1]。创建初始种群，种群数量为500，转入步骤3-2；

步骤3-2、以初始种群中每个个体对应的SVM参数和步骤1中训练样本集S＝{(x(i),f_x(i)),i＝1,2,…,50}，建立SVM近似模型；以步骤2中的测试样本集T＝{(y(i),f_y(i)),i＝1,2,…,50}的决定系数R²作为适应度值，评价初始种群中每个个体的优劣，决定系数R²的公式为

其中，f_y(i)是物理模型f的真实响应，是f_y(i)的平均值，是SVM近似模型响应；转入步骤3-3；

步骤3-3、迭代次数为200，经过选择、交叉、变异，达到收敛，获得最优个体，转入步骤3-4；

步骤3-4、根据最优个体缩小ε、C和σ三个变量的范围，返回步骤3-1，直到ε、C和σ三个变量至少3次分别对应收敛在范围(0,ε(1+k_ε)]、(0,C(1+k_C)]和(0,σ(1+k_σ)]中，k_ε、k_C和k_σ均为系数，根据不同的近似模型而定。此时获得最优参数ε_best、C_best、σ_best、当前的决定系数以及最优参数SVM近似模型。优化结果如表2所示。以输出为θ_y的SVM模型为例，模型精度随着遗传算法迭代次数的变化如图9所示。

表2 SVM近似模型参数优化结果

步骤4，结合贪婪算法，将50个用于测试的样本更新至样本空间里，进一步提高近似模型的精度，具体如下：

步骤4-1、根据步骤3中的最优参数SVM近似模型，计算测试样本集中各个测试点的相对误差RE_i，i＝1,2,…,50；转入步骤4-2；

步骤4-2、选择相对误差最大的测试样本点maxRE_i，将该测试样本点从测试样本集中取出，放入训练样本集，即n_s＝n_s+1，n_t＝n_t-1；转入步骤4-3；

步骤4-3、根据步骤3中获得的ε_best、C_best和σ_best，以及步骤4-2中更新后的训练样本集与测试样本集，建立新的SVM近似模型并进行预测，获得新的决定系数转入步骤4-4；

步骤4-4、执行贪婪准则：

如果则转入步骤4-5；否则，将该测试样本点从训练样本集与测试样本集中剔除，即n_s＝n_s-1，转入步骤4-5；

步骤4-5、判断是否所有的测试样本点都进行了贪婪算法的检验：

若n_t>0，返回步骤4-1；若n_t＝0，迭代终止，输出最终优化后的SVM近似模型。

最后得到四个输出分别为回转角位移θ_y、高低角位移θ_z、回转角速度ω_y、高低角速度ω_z的SVM近似模型，模型精度相对于根据经验参数与原本样本空间建立的近似模型，有很大幅度提高，如表3所示。

表3本发明与根据经验参数建立的模型精度对比

综上所述，本发明提出的自适应SVM近似模型参数优化方法，满足了训练样本和测试样本在样本区间里的投影均匀性和空间均匀性，同时满足测试样本和训练样本的距离最大，基于遗传算法优化算法参数，基于贪婪算法优化样本空间，有效提高了近似模型的精度。