Prisma Labs es una empresa de software con sede en Sunnyvale, California , conocida por desarrollar Prisma y Lensa. [1]
Prisma Labs fue fundada en 2016 por Andrey Usoltsev, Alexey Moiseenkov y un equipo de desarrolladores rusos. [2] [3] Usoltsev también es el director ejecutivo. [3] En 2016, la compañía lanzó la aplicación Prisma, que utiliza inteligencia artificial para duplicar fotografías en varios estilos artísticos. [2] [1] En 2018, la compañía lanzó la aplicación Lensa AI, que es una aplicación de edición de fotografías y videos. [1] A finales de noviembre de 2022, se lanzó la función "avatares mágicos" de Lensa, que, por una tarifa, utiliza inteligencia artificial y selfies cargados por los usuarios para crear retratos de los usuarios en varios estilos y configuraciones en cuestión de minutos. [1] [4] [3] Lensa utiliza Stable Diffusion , un modelo de texto a imagen de código abierto lanzado por Stability AI en agosto de 2022. [4] La compañía dice que utiliza fotos de usuarios para entrenar su IA y su acuerdo de usuario establece que Lensa puede usar las fotos, videos y otro contenido del usuario para "operar o mejorar Lensa" sin compensación. [5] La aplicación Lensa ha sido criticada por producir imágenes hipersexualizadas de mujeres y niñas, incluido contenido pornográfico no consensuado , un sesgo que no está presente cuando se procesan imágenes de hombres. [6]
Prisma Labs utiliza el motor generativo Stable Diffusion para impulsar la función Magic Avatar de las aplicaciones Lensa. [7] Stable Diffusion es de código abierto y se entrenó en el conjunto de datos LAION 5B, [8] que utilizó 5,85 mil millones de pares de imagen y texto filtrados con CLIP de Common Crawl para crear el conjunto de datos. [9]
Hay dos áreas principales de discordia con respecto al conjunto de datos LAION 5B. La primera es la propiedad de las imágenes que contiene, que en gran medida se obtuvieron de sitios públicos como Pinterest. [10] Los derechos de autor de esas imágenes generalmente pertenecen a personas y empresas que no tienen nada que ver con ningún tipo de conjunto de datos o IA. [11] Actualmente hay una demanda colectiva contra empresas que utilizan Stable Diffusion por infracción de derechos de autor. [12]
La segunda área de discordia son los sesgos inherentes a las imágenes contenidas en el conjunto de datos. Hay acusaciones de que Lensa/Stable Diffusion demuestra estereotipos racistas, [13] gordofobia, [14] y centrado en los blancos. [15] También hay informes de que el motor crea imágenes de desnudos o sugerentes [16] sin que se le solicite. Desde el lanzamiento de 5B, LAION ha implementado un filtro NSFW, que Stable Diffusion ha incorporado, pero LAION afirma que todavía no puede garantizar los resultados. Lensa ha emitido la siguiente declaración sobre el tema: “El modelo de Difusión Estable fue entrenado en contenido de Internet sin filtrar. Por tanto, refleja los prejuicios que los humanos incorporan en las imágenes que producen”. [17]
Prisma Labs reconoce los sesgos en los conjuntos de datos y afirma que la característica "refleja los sesgos que los humanos incorporan en las imágenes que producen". [18]