Optimización bayesiana

Suele emplearse para optimizar funciones caras de evaluar.

[4]​[5]​[1]​ La optimización bayesiana se utiliza normalmente en problemas de la forma

es difícil de evaluar debido a su coste computacional.

, es continua y adopta la forma de una estructura desconocida, denominada "caja negra".

[7]​ Dado que la función objetivo es desconocida, la estrategia bayesiana consiste en tratarla como una función aleatoria y colocar una prioridad sobre ella.

Después de recoger las evaluaciones de la función, que se tratan como datos, se actualiza la priorización para formar la distribución posterior sobre la función objetivo.

Existen varios métodos para definir la distribución a priori/posterior sobre la función objetivo.

Otro método menos costoso utiliza el estimador de Parzen para construir dos distribuciones para los puntos "altos" y "bajos" y, a continuación, encuentra la ubicación que maximiza la mejora esperada.

Como tal, la optimización bayesiana es muy adecuada para funciones que son caras de evaluar.