第一范文网 - 专业文章范例文档资料分享平台

发现使用无导数的优化参数优化算法

来源:用户分享 时间:2025/6/1 12:44:01 本文由loading 分享 下载这篇文档手机版
说明:文章内容仅供预览,部分内容可能不全,需要完整文档或者需要复制内容,请下载word后使用。下载word有问题请添加微信号:xxxxxxx或QQ:xxxxxx 处理(尽可能给您提供完整文档),感谢您的支持与谅解。

随着一个精确的序列,因此,我们总是有ψ(PK+1)?ψ(PK)。需要注意的是,假设2.1下,总是存在至少有一个收敛精确子序列,一个精确点和一组正向范围的精确方向。

Clarke广义方向导数[7,22]ψ在p的方向V≠0定义为

下面的结果呈现在精确点的最优性条件满意的层次结构。最弱的结论是定义2.3的直接后果。接下来的结论导致ψ的假设越来越得到证实

.定理2.4。设P∈CL(Ω)是精确序列{PK}∈K的一个精确点,并假设p的精确方向在TΩ (p?)是稠密的。

?P是限制最小帧中心变得无限精细的帧, ?如果ψ是下半P),然后ψ(P)?LIMK∈Kψ(PK),

?如果ψ是李氏接近p,然后ψ(P,V)?0,每TΩ的v∈(P), ?如果ψ是李氏附近:P∈INT(Ω),0∈?ψ(P)≡{∈R:ψ?(X,V)?V T S,?V∈R},

?如果ψ是严格的微完全可微[24]在p∈Ω,那么p是一阶的关键(2.1)和(2.1)的KKT点。

需要注意的是,上述收敛结果仅仅依靠轮询步骤,和独立的代理功能和搜索步骤。此外,即使算法2.1是利用ψΩ代替ψ,收敛结果与ψ的局部平滑度有关

而不是不连续的边界Ω。

MADS在实际的应用中确保满足定理2.4的密度假设[4].

3.信赖域方法。在本节中,我们简要介绍了全局收敛性框架,无约束编程。此框架取决于一些参数的影响的主要收敛结果的影响。

要成功应对光滑的非线性非凸规划问题,从远端开始猜测,迭代必须经常被嵌入到一个全球化的计划,其中最受欢迎的是linesearch,信赖域[10],以及最近的过滤器[14,20]。前两个可能是最有名的,他们的哲学可以被看作是双重。linesearch策略计算步长,沿预定方向,而一个信赖域策略考虑所有可接受的方向但是限制了最大的步长。

3.1一个基本的信赖域算法。信赖域方法似乎可以追溯到1944年的一篇论文,他们被用来解决非线性最小二乘问题[25]。在更新规则于1966年被引入[15]规模的地区,一个特定的算法全局收敛性的证明在1970年[30]。信赖域方法形成了现在最流行的全球化计划,并经常称赞他们的稳健性和灵活性。他们是用在优化,从正则化问题到非求导和内部点方法。如需引用,历史笔记,和深入的理论发展在整个优化频谱的读者参考[10]。

为了简单起见,假设我们希望解决无约束的规划问题

P649

其中f:RN→R是两次连续可微函数,这可能是高度非线性和/或成本高昂的评估。有关问题(3.1)很好地确定,我们将假定f是下界,在迭代k,f不是直接操纵,而是由一个合适的更容易和更便宜去评估的局部模型MK去取代f。A区BK?RN,称为信赖域,定义在xk代表程度可被认为合理的模型f。信任区域被定义为球。

其中ΔK>0是当前信任区域半径和?代表Rn上任何规范。为了简化论述,我们选择了欧几里德范数,但其他的选择,是可以接受的[10]。型号MK约BK内最小化。如果减少,从而达到足够的,和如果f和MK之间的协议是令人满意的,被接受的,半径ΔK可能增加。否则,该步骤被拒绝,并且减小的半径。最后一个选项表明MK可能信任太大已在XK的附近。确保全局收敛性信赖域计划由MK上的轻度的假设和减少,应在每次迭代中实现。在实践中,最流行的模型之一是二次模型

在模型中有足够的减少试验点XK+ S,如果mk减少的至少是在Cauchy point xC得到的一部分—mk的减少的量沿着最快下降方向d = ??mk (xk ),在Bk —i.e

内。

其中0 <θ< 1是独立于k。

问题(3.1)典型的信赖区域框架可以用算法3.1表述。

更新规则(3.4)在第3步算法3.1是不是唯一一个在实践中使用,但最有可能是最常见的一种。其他规则ρk = ρ涉及多项式插补步SK (SK)的函数[12] ,而另一些设计更复杂的功能,以获取新的半径[21 , 38] 。

如何解决3.1算法的第1步的子问题,同时确保(3.3)已经出了本文的范围。在我们的实现中所采用的方法,确保我们将简单地认为在第4节。

3.2。 收敛性的基本算法。我们回忆起在这一节中重要的全局收敛特性的算法3.1没有证据。这个证明可能发现在[10]。

P650

查尔斯·AUDET和多米尼克(leonard ORBAN)

搜索更多关于: 发现使用无导数的优化参数优化算法 的文档
发现使用无导数的优化参数优化算法.doc 将本文的Word文档下载到电脑,方便复制、编辑、收藏和打印
本文链接:https://www.diyifanwen.net/c6vg3h95pn12wkqq4m2na_4.html(转载请注明文章来源)
热门推荐
Copyright © 2012-2023 第一范文网 版权所有 免责声明 | 联系我们
声明 :本网站尊重并保护知识产权,根据《信息网络传播权保护条例》,如果我们转载的作品侵犯了您的权利,请在一个月内通知我们,我们会及时删除。
客服QQ:xxxxxx 邮箱:xxxxxx@qq.com
渝ICP备2023013149号
Top