Operador proximal

En optimización matemática , el operador proximal es un operador asociado con una función convexa semicontinua inferior propia ^{[nota 1]} de un espacio de Hilbert a , y se define por: ^[1] ${\displaystyle f}$ ${\displaystyle {\mathcal {X}}}$ ${\displaystyle [-\infty ,+\infty ]}$

${\displaystyle \operatorname {prox} _{f}(v)=\arg \min _{x\in {\mathcal {X}}}\left(f(x)+{\frac {1}{2}}\|x-v\|_{\mathcal {X}}^{2}\right).}$

Para cualquier función de esta clase, el minimizador del lado derecho anterior es único, lo que hace que el operador proximal esté bien definido. El operador proximal se utiliza en métodos de gradiente proximal, que se utilizan con frecuencia en algoritmos de optimización asociados con problemas de optimización no diferenciables , como la eliminación de ruido de variación total .

Propiedades

La función convexa semicontinua inferior adecuada goza de varias propiedades útiles para la optimización. ${\displaystyle {\text{prox}}}$ ${\displaystyle f}$

• Los puntos fijos de son minimizadores de : . ${\displaystyle {\text{prox}}_{f}}$ ${\displaystyle f}$ ${\displaystyle \{x\in {\mathcal {X}}\ |\ {\text{prox}}_{f}x=x\}=\arg \min f}$
• La convergencia global hacia un minimizador se define de la siguiente manera: Si , entonces para cualquier punto inicial , la recursión produce convergencia como . Esta convergencia puede ser débil si es de dimensión infinita. ^[2] ${\displaystyle \arg \min f\neq \varnothing }$ ${\displaystyle x_{0}\in {\mathcal {X}}}$ ${\displaystyle (\forall n\in \mathbb {N} )\quad x_{n+1}={\text{prox}}_{f}x_{n}}$ ${\displaystyle x_{n}\to x\in \arg \min f}$ ${\displaystyle n\to +\infty }$ ${\displaystyle {\mathcal {X}}}$
• El operador proximal puede verse como una generalización del operador de proyección . De hecho, en el caso específico donde es la función indicadora de un conjunto no vacío, cerrado y convexo tenemos que ${\displaystyle f}$ ${\displaystyle \infty }$ ${\displaystyle \iota _{C}}$ ${\displaystyle C}$

${\displaystyle {\begin{aligned}\operatorname {prox} _{\iota _{C}}(x)&=\operatorname {argmin} \limits _{y}{\begin{cases}{\frac {1}{2}}\left\|x-y\right\|_{2}^{2}&{\text{if }}y\in C\\+\infty &{\text{if }}y\notin C\end{cases}}\\&=\operatorname {argmin} \limits _{y\in C}{\frac {1}{2}}\left\|x-y\right\|_{2}^{2}\end{aligned}}}$

demostrando que el operador de proximidad es de hecho una generalización del operador de proyección.

• Una función es firmemente no expansiva si . ${\displaystyle (\forall (x,y)\in {\mathcal {X}}^{2})\quad \|{\text{prox}}_{f}x-{\text{prox}}_{f}y\|^{2}\leq \langle x-y\ |\ {\text{prox}}_{f}x-{\text{prox}}_{f}y\rangle }$
• El operador proximal de una función está relacionado con el gradiente de la envolvente de Moreau de una función por la siguiente identidad: . ${\displaystyle M_{\lambda f}}$ ${\displaystyle \lambda f}$ ${\displaystyle \nabla M_{\lambda f}(x)={\frac {1}{\lambda }}(x-\mathrm {prox} _{\lambda f}(x))}$

• El operador de proximidad de se caracteriza por la inclusión , donde es el subdiferencial de , dado por ${\displaystyle f}$ ${\displaystyle p=\operatorname {prox} _{f}(x)\Leftrightarrow x-p\in \partial f(p)}$ ${\displaystyle \partial f}$ ${\displaystyle f}$

${\displaystyle \partial f(x)=\{u\in \mathbb {R} ^{N}\mid \forall y\in \mathbb {R} ^{N},(y-x)^{\mathrm {T} }u+f(x)\leq f(y)\}}$En particular, si es diferenciable entonces la ecuación anterior se reduce a . ${\displaystyle f}$ ${\displaystyle p=\operatorname {prox} _{f}(x)\Leftrightarrow x-p=\nabla f(p)}$

Notas

1. Se dice que una función real (extendida) f en un espacio de Hilbert es propia si no es idénticamente igual a , y no está en su imagen. ${\displaystyle +\infty }$ ${\displaystyle -\infty }$

Referencias

1. Neal Parikh y Stephen Boyd (2013). "Proximal Algorithms" (PDF) . Fundamentos y tendencias en optimización . 1 (3): 123–231 . Consultado el 29 de enero de 2019 .
2. Bauschke, Heinz H.; Combettes, Patrick L. (2017). Análisis convexo y teoría de operadores monótonos en espacios de Hilbert . CMS Books in Mathematics. Nueva York: Springer. doi :10.1007/978-3-319-48311-5. ISBN . 978-3-319-48310-8.

Véase también

• Método del gradiente proximal

Enlaces externos

• El repositorio de operadores de proximidad: una colección de operadores de proximidad implementados en Matlab y Python .
• ProximalOperators.jl: un paquete de Julia que implementa operadores proximales.
• ODL: una biblioteca de Python para problemas inversos que utiliza operadores proximales.