Regularization path via L0 Bregman relaxations

National audience ; The optimization of problems involving the L0-pseudo norm plays an important role in signal processing and machine learning. Due to the intrinsic NP-hardness of such problems, continuous (potentially non-convex) relaxations have gained significant attention in recent years. In particular, the notion of the L0 Bregman relaxations (B-rex)—a class of exact relaxations for L0-regularized criteria with general data terms defined in terms of Bregman distances—have been proposed. These relaxations are exact in the sense that they preserve global minimizers while eliminating certain local minimizers. Building on these properties, we propose a new algorithm to estimate the path of solutions across a range of sparsity levels. We discuss the methodological aspects of this approach, along with illustrative and numerical examples that demonstrate its effectiveness. ; L’optimisation des problèmes impliquant la pseudo-norme L0 joue un rôle important en traitement du signal et en apprentissage automatique. En raison de la nature intrinsèquement NP-difficile de ces problèmes, des relaxations continues (potentiellement non convexes) ont attiré une attention significative ces dernières années. En particulier, la notion de “L0 Bregman relaxation” (B-rex)—une classe de relaxations exactes pour des critères régularisés en norme L0 avec des termes d’attache aux données généraux définie à partir de distances de Bregman—a été proposée. Ces relaxations sont exactes dans le sens où elles préservent les minimiseurs globaux tout en éliminant certains minimiseurs locaux. En s’appuyant sur ces propriétés, nous proposons un nouvel algorithme pour estimer le chemin des solutions pour différents niveaux de parcimonie. Nous présentons les aspects méthodologiques de cette approche, ainsi que des exemples illustratifs et numériques démontrant son efficacité.