Global convergence of trust-region algorithms for convex constrained minimization without derivatives

Conejo, Paulo Domingos; Karas, Elizabeth W.; Pedroso, Fiona L.; Ribeiro, Ademir A.; Sachine, Mael

doi:10.1016/j.amc.2013.06.041

Cited by 19 publications

(22 citation statements)

References 14 publications

Supporting

Mentioning

Contrasting

Unclassified

Order By: Relevance

“…The LINCOA algorithm (Powell, 2013b) uses quadratic approximations for the unknown objective function and performs optimization in the presence of known linear constraints. Conejo et al (2013) develop a method which uses local quadratic models of the objective function for problems with a known convex feasible region. General constrained CDFO problems have been studied by Caballero and Grossmann (2008) and Sankaran et al (2010) using local kriging models for the objective and constraints; Powell (1994Powell ( , 2013a developed the COBYLA algorithm which uses local linear approximations for the unknown objective and the unknown constraints which is an approach revisited recently by March and Willcox (2012); Conn and Le Digabel (2013) employ quadratic models for the objective and constraints; Müller et al (2013) use radial-basis function models; and finally Müller and Shoemaker (2014) use an ensemble of various surrogate-models to best fit the objective and constraints of the problem.…”

Section: Model-based Methodsmentioning

confidence: 99%

Global optimization advances in Mixed-Integer Nonlinear Programming, MINLP, and Constrained Derivative-Free Optimization, CDFO

Boukouvala

Misener

Floudas

2016

European Journal of Operational Research

199

View full text Add to dashboard Cite

This manuscript reviews recent advances in deterministic global optimization for Mixed-Integer Nonlinear Programming (MINLP), as well as Constrained DerivativeFree Optimization (CDFO). This work provides a comprehensive and detailed literature review in terms of significant theoretical contributions, algorithmic developments, software implementations and applications for both MINLP and CDFO. Both research areas have experienced rapid growth, with a common aim to solve a wide range of real-world problems. We show their individual prerequisites, formulations and applicability, but also point out possible points of interaction in problems which contain hybrid characteristics. Finally, an inclusive and complete test suite is provided for both MINLP and CDFO algorithms, which is useful for future benchmarking.

show abstract

Section: Model-based Methodsmentioning

confidence: 99%

Global optimization advances in Mixed-Integer Nonlinear Programming, MINLP, and Constrained Derivative-Free Optimization, CDFO

Boukouvala

Misener

Floudas

2016

European Journal of Operational Research

199

View full text Add to dashboard Cite

show abstract

“…Conejo et al em [1] propõem um algoritmo globalmente convergente de região de confiança para resolver o problema (1) e que gera uma sequência de minimizadores aproximados para os subproblemas restritos. O algoritmo permite grande liberdade nas construções e resoluções dos subproblemas, e o caso de interesseé quando as derivadas da função objetivo não estão disponíveis emboraé suposto que existam.…”

Section: Introductionunclassified

Máquinas de Vetores Suporte em Otimização Sem Derivadas

Verdério¹,

Karas²,

Pedroso³

2014

Proceeding Series of the Brazilian Society of Computational and Applied Mathematics

View full text Add to dashboard Cite

Resumo: As Máquinas de Vetores suporte são uma classe de algoritmos de Aprendizagem de Máquinas motivados por resultados da Teoria de Aprendizagem Estatística. No início, foram usadas para a classificação de padrões e posteriormente extendidas para a regressão de funções. De um certo modoé uma generalização das técnicas usuais de regressão. Nosso objetivoé utilizá-las para aproximação de funções as quais temos conhecimento limitado, não conseguindo por exemplo calcular derivadas. Palavras-chave: Máquinas Vetores Suporte, Otimização sem Derivadas IntroduçãoConsidere o problema de programação não linearcom Ω ⊂ IR n não vazio, fechado, convexo e f : IR n −→ IR uma função continuamente diferenciável.Conejo et al. em [1] propõem um algoritmo globalmente convergente de região de confiança para resolver o problema (1) e que gera uma sequência de minimizadores aproximados para os subproblemas restritos. O algoritmo permite grande liberdade nas construções e resoluções dos subproblemas, e o caso de interesseé quando as derivadas da função objetivo não estão disponíveis emboraé suposto que existam. Problemas desse tipo são conhecidos como problemas de otimização sem derivadas, que podem surgir quando queremos otimizar uma função que venha de uma simulação, por exemplo.Um algoritmo de região de confiança define a cada iteração um modelo da função objetivo e uma região em torno do ponto corrente na qual acreditamos que o modeloé confiável. Calculamos então um minimizador aproximado do modelo na região de confiança. Caso este ponto forneça uma redução razoável no valor da função objetivo aceitamos o iterando repetimos o processo. Caso contrário, pode ser que o modelo não represente adequadamente a função. Neste caso, o pontoé recusado e reduzimos o tamanho da região para encontrar um novo minimizadorNo algoritmo proposto em [1] qualquer modelo pode ser utilizado desde que forneça uma aproximação suficientemente precisa da função objetivo. Nosso objetivoé mostrar que os modelos construídos por Máquinas de Vetores Suporte aproximam bem funções na região de confiança, uma hipótese necessária para a convergência.

show abstract

“…In Conejo et al [13], the authors have established the global convergence of a trust-region-based algorithm developed for convex-constrained derivative-free optimization under usual assumptions. Although the problem upon consideration is assumed to be smooth, only the derivatives of the constraints are available.…”

Section: Derivative-free Optimizationmentioning

confidence: 99%

Trust-Region-Based Methods for Nonlinear Programming: Recent Advances and Perspectives

Santos

2014

Pesqui. Oper.

View full text Add to dashboard Cite

ABSTRACT. The aim of this text is to highlight recent advances of trust-region-based methods for nonlinear programming and to put them into perspective. An algorithmic framework provides a ground with the main ideas of these methods and the related notation. Specific approaches concerned with handling the trustregion subproblem are recalled, particularly for the large scale setting. Recent contributions encompassing the trust-region globalization technique for nonlinear programming are reviewed, including nonmonotone acceptance criteria for unconstrained minimization; the adaptive adjustment of the trust-region radius; the merging of the trust-region step into a line search scheme, and the usage of the trust-region elements within derivative-free optimization algorithms.

show abstract

Global convergence of trust-region algorithms for convex constrained minimization without derivatives

Cited by 19 publications

References 14 publications

Global optimization advances in Mixed-Integer Nonlinear Programming, MINLP, and Constrained Derivative-Free Optimization, CDFO

Global optimization advances in Mixed-Integer Nonlinear Programming, MINLP, and Constrained Derivative-Free Optimization, CDFO

Máquinas de Vetores Suporte em Otimização Sem Derivadas

Trust-Region-Based Methods for Nonlinear Programming: Recent Advances and Perspectives

Contact Info

Product

Resources

About