Séances du MATH-329: Continuous optimization

Introduction à l’optimisation

Introduit les bases de l'algèbre linéaire, du calcul et de l'optimisation dans les espaces euclidien, en mettant l'accent sur la puissance de l'optimisation en tant qu'outil de modélisation.

Théorème de gradient de Lipschitz

Couvre le théorème du gradient de Lipschitz et ses applications dans l'optimisation des fonctions.

Descente de gradient: Lipschitz Continuity

Explore la continuité de Lipschitz dans l'optimisation de descente de gradient et ses implications sur l'optimisation de fonction.

Convexité : fonctions et minima globaux

Explore les fonctions convexes, les minima globaux et leur relation avec la différentiabilité.

Valeurs et normes singulières : comprendre les cartes linéaires avec SVD

Explore la décomposition des valeurs singulières et son rôle dans la compréhension des cartes linéaires.

Lipschitz continu Hesse et méthode de Newton

Explore la convergence de la méthode de Newton et de l'algorithme CG pour résoudre des équations linéaires.

La méthode de Hesse et Newton

Couvre la méthode de Hesse et Newton pour l'optimisation en utilisant des processus itératifs.

Analyse des régions de confiance avec des étapes de Cauchy

Explore l'analyse des régions de confiance avec les étapes d'optimisation de Cauchy.

Faire confiance aux méthodes de la région: framework & algorithmes

Couvre les méthodes de la région de confiance, en se concentrant sur le cadre et les algorithmes.

CG tronquée : Gradients conjugués

Couvre l'algorithme des gradients conjugués tronqués pour résoudre des cartes linéaires définies positives de manière itérative.

TR convergence globale (fin) + CG

Couvre la méthode de la région de confiance et introduit la méthode des gradients conjugués tronqués.

Optimisation limitée : les bases

Couvre les bases de l'optimisation contrainte, y compris les directions tangentes, les sous-problèmes de la région de confiance et les conditions d'optimalité nécessaires.

Contraintes liées à l’égalité et aux inégalités : conditions d’optimisation

Couvre les conditions d'optimalité nécessaires à l'optimisation avec des contraintes et discute des cônes et des ensembles polaires.

Deux inégalités et un cône réalisable : une approche linéarisée

Explique les directions possibles, le cône linéarisé et les conditions de qualification des contraintes en optimisation.

Inégalités ou contraintes d’égalité

Couvre les contraintes d'inégalité ou d'égalité et les conditions d'optimalité nécessaires dans les problèmes d'optimisation.

KKT et optimisation convexe

Couvre les conditions KKT et l'optimisation convexe, en discutant des qualifications de contraintes et des cônes tangents des ensembles convexes.

Le pôle du cône de directions linéarisées

Couvre le concept du pôle du cône des directions linéarisées et ses cas particuliers.

KKT pour les problèmes convexes et CQ de Slater

Couvre les conditions KKT et l'état de Slater dans les problèmes d'optimisation convexes.

Cônes des ensembles convexes

Explore l'optimisation sur les ensembles convexes, y compris les points KKT et les cônes tangents.

Preuve d’une forte dualité

Couvre la preuve d'une forte dualité dans les problèmes d'optimisation et fournit des exemples d'optimisation du quotient de Rayleigh.