数学模型反演解法概述 (数学模型反演教案)

本文目录导航：

• 数学模型反演解法概述
• 模型训练技巧--学习率余弦退火算法和Focal_loss
• 数学建模中的模型和算法有什么区别?

数学模型反演解法概述

数值模拟反疑问经常转化为优化疑问，函数优化就是求一个函数的最优值以及到达该最优值的最好处，而最优化算法实质上是一个最优值的搜查环节。

经典的优化算法如牛顿法、单纯形法、共轭方向法、最速降低法和罚函数法等，普通对指标函数要求延续、可微甚至于高阶可微、单峰等；须要对函数求一阶、二阶导数；受初值影响较大，算法容易堕入部分最小值，关于多峰函数优化疑问具备较大局限性。

20世纪80年代初期以来，地上水水流与溶质迁徙模型和数值优化方法相结合越来越普遍，目前罕用的关键有以下两种方法。

3.4.7.1 数学布局方法

关键包括线性布局（LP），该方法宽泛运行于线性指标函数及流量约束的地上水治理疑问，解线性布局的软件关键有AQMAN，MODMAN，MODOFC，MODFLIP；非线性布局（NLP）；混合整数线性布局（MILP）；混合整数非线性布局（MINLP）。

其中线性布局法计算效率较高，但仅实用于承压含水层，通常不能有效地处置溶质运移疑问。

非线性布局与灵活布局的运行较宽泛，计算效率上有好处，但须要计算指标函数对决策变量的导数即梯度，因此，该方法又被称为梯度法，在指标函数很复杂，而且为非线性时，结果往往会陷于一个部分最优解而不能识别全局最优解。

3.4.7.2 全局优化方法

关键以启示式搜查技术为依据的一类优化方法，包括模拟退火法、遗传算法、忌讳搜查法、人工神经网络法、中心近似法等，这些方法有识别全局或凑近全局范畴内最优解的才干。

全局优化法能够模拟必定的人造系统，通常计算量很大。

本书关键引见4种现阶段运行宽泛开展较为迅速的优化算法。

遗传算法（Genetic Algorithms，GA）是一类自创动物界人造选用（Natural Selection）和人造遗传机制的随机搜查算法（Random Searching Algorithms），求解疑问普通包括编码、计算顺应度、选用、交叉、变异、循环回到计算顺应度，重复启动直到满足中断条件。

该算法是处置普通非线性数学模型优化的一类新的优化方法，对模型能否线性、延续、可微等不作限度，也较少受优化变量数目和约束条件的约束，其实质是一种高效、并行、全局搜查的方法，能在搜查环节中智能失掉和积攒关系搜查空间的常识，并自顺应地控制搜查环节以求得最优解。

目前已宽泛用于函数优化、参数辨识、机器学习、神经网络训练、结构设计和含糊逻辑系统等方面。

罕用的GA计算程序有MGO（Modular Groundwater Optimizer），模块化地上水优化程序，该程序是地上水水质治理的通用优化模型。

将水流和迁徙模拟程序与遗传算法相结合，能顺应非线性复杂指标函数，能够处置水头、梯度、水流以及浓度等约束条件。

SOMOS程序，成功了包括遗传算法和人工神经网络的优化算法，能处置经济、环境以及地上水治理体积等疑问，同时SOMOS可以将MODFLOW和MT3DMS作为模型的组成部分启动运算。

然而目前遗传算法的运行还存在清楚的无余，关键体现为以下几点：

1）GA的算法设计和关键控制参数选用对优化性能的影响清楚，间接影响算法的搜查效率和优化性能，甚至造成“早熟”收敛；

2）参数识别钻研中的编码打算以二进制编码为主，计算量和存储量大。

人工神经网络（Artificial Neural Network，ANN）是由少量神经元经过极端丰盛和完善的结合而造成的自顺应非线性灵活系统，它经常使用少量便捷的相连的人工神经元来模拟动物神经网络的才干，从外界环境或其余神经元取得新闻，同时加以便捷的运算，将结果输入到外界或其他人工神经元。

神经网络在输入新闻的影响下进入必定形态，因为神经元之间相互咨询以及神经元自身的能源学个性，这种外界抚慰的兴奋形式会智能地迅速演化成新的平衡形态。

人工神经网络是一种计算系统，包括软件与配件，它经常使用少量便捷相连的人工神经元来模拟动物神经网络的才干。

人工神经网络是动物神经元的便捷模拟，它从外界环境或许其余神经元取得新闻，同时加以十分便捷的运算，输入其结果到外界环境或许其他人工神经元。

人工神经网络系统反映了人脑配置的许多基本个性，但它并不是人脑神经系统的实在写照，而只是对其作某种简化、形象和模拟，这也是以后的事实状况。

是目前对人脑神经及其智能机理的钻研水平所能做到的，对人脑智能机理的简化、形象和模拟是人工神经网络钻研的基本登程点。

允许向量机是基于统计学切实的VC维切实和结构危险最小化原理而提出的一种新的机器学习方法。

与传统的神经网络学习方法相比，允许向量机从结构危险最小化准则登程，求解的是一个二次布局疑问而失掉全局最优解，有效地处置了模型选用与过学习疑问、非线性和维数劫难以及部分极小等疑问，在处置小样本、非线性、高维形式识别疑问中体现出许多特有的好处。

模拟退火算法是对固体退火环节的模拟。

在金属热加工工艺中，将金属资料加热到某一高温形态后，让其缓缓冷却，随着温度的降低，物质的能量将逐渐趋近于一个较低的形态，并最终到达某种平衡。

模拟退火算法是基于金属退火的机理而建设的一种全局最优化方法，它能够以随机搜查技术从概率的意义上找出指标函数的全局最小点。

模拟退火算法的关键缺陷是解的品质与求解期间之间存在矛盾，该算法关于多应力期模型和少量水文地质参数的反演，收敛缓慢，得不到满意的结果。

模型训练技巧--学习率余弦退火算法和Focal_loss

深度学习训练中，两种关键的技巧——Focal loss和余弦退火算法，能有效优化模型性能和训练效率。

Focal loss的初衷是为了应答指标检测义务中正负样本重大失衡的疑问。

其原理在于，经过调整权重，对容易预测的负样本给予较低权重，而对难以判别的正样本给予较大权重。

计算公式的设计使得模型更关注预测失误的样本，从而处置正负样本比例迥异的疑问。

例如，当预测正确时，损失权重减小，促使模型优化预测失误。

在介绍系统中，Focal Loss可以清楚提高AUC，代替负采样，使得训练环节更为稳固。

余弦退火算规律针对深层神经网络在训练环节中的马鞍面疑问。

因为参数降级艰巨，学习率退火经过逐渐减小、增大学习率，协助模型跳出部分最优。

学习率余弦退火则驳回周期性衰减战略，将学习率依照余弦函数规律从高值减小到低值，再逐渐上升。

Keras中可经过回调函数成功灵活学习率调整。

数学建模中的模型和算法有什么区别?

一、线性回归：预测延续输入的统计学方法，模型方式为y = β0 + β1x1 + β2x2 + ... + βpxp + ε。

指标是最小化残差平方和RSS。

最小二乘法经过矩阵运算求解系数。

二、逻辑回归：分类算法，模型方式为p（y=1|x） = 1 / （1 + exp（-（b0 + b1x1 + b2x2 + ... + bpxp）））。

指标是最大化似然函数，最小化逻辑损失函数。

可以经常使用梯度降低法或牛顿法优化。

三、决策树：构建树状结构启动分类和回归，经过消息增益或消息增益比选用最优特色，经常使用预剪枝或后剪枝防止过拟合。

四、允许向量机：寻觅最大距离超平面启动分类，经常使用核函数映射高维空间。

五、聚类：无监视学习算法，将数据分为相似的组或类别，罕用算法有K-Means、档次聚类和DBSCAN。

六、神经网络：多层结构算法，用于分类和回归，经过反向流传算法降级权重。

七、遗传算法：优化算法，模拟人造选用和遗传机制搜查全局最优解。

八、粒子群算法：基于个体智能优化算法，模拟粒子移动和消息交换搜查最优解。

九、蚁群算法：模拟蚂蚁行为的启示式算法，经过消息素搜查最优门路。

十、模拟退火算法：全局优化算法，经过概率接受劣解防止部分最优。

数学建模较量是关键的学习阅历，能清楚提高自学才干。

董宇辉的话处罚咱们虚浮致力，美妙未来人造会来到。

数学建模所需软件及资源链接：蕴含30+种罕用模型算法、实战代码案例、入门到实战干货阅历、写作排版阅历、十大基本算法MATLAB源码。