Multi-Extremal Non-differentiable Optimization Using the Secant Technique

Abstract

This work addresses the global optimization of nonconvex, non-differentiable Hölder continuous functions. It reviews theoretical foundations and established lower-bounding methods, such as the Piyavskii-Shubert and Gourdin-Piyavskii Algorithm (GPA), noting GPA's limitations with analytical parabolic intersections. The primary contribution is the investigation and extension of the secant Piyavskii algorithm (SPA). SPA innovatively approximates these intersections using simpler linear secants, offering enhanced flexibility across various Hölder exponents. Convergence properties of SPA are also discussed. Numerical experiments compared SPA against GPA on test functions, assessing computational time and function evaluations. The results generally show the superior performance of the SPA algorithm in terms of efficiency for solving this difficult class of optimization problems. ========================================================================================================= Ce travail aborde l'optimisation globale de fonctions Höldériennes continues non convexes et non dérivables. Il passe en revue les fondements théoriques et les méthodes établies de minoration, telles que l'algorithme de Piyavskii-Shubert et l'algorithme de Gourdin-Piyavskii (GPA), en soulignant les limitations du GPA concernant la détermination analytique des intersections paraboliques. La contribution principale est l'étude et l'extension de l'algorithme de Piyavskii par la sécante (SPA). Le SPA approxime de manière innovante ces intersections en utilisant des sécantes linéaires plus simples, offrant une flexibilité accrue pour une gamme variée d'exposants de Hölder. Les propriétés de convergence du SPA sont également abordées. Des expériences numériques ont comparé le SPA au GPA sur des fonctions tests, en évaluant le temps de calcul et le nombre d'évaluations de fonction. Les résultats montrent généralement la performance supérieure de l'algorithme SPA en termes d'efficacité pour la résolution de cette classe difficile de problèmes d'optimisation.