La preocupante alianza entre la IA y el culto a la belleza

Descubrí Qoves Studio a través de su popular canal de YouTube con cientos de miles de suscriptores a los que ofrece vídeos muy elaborados, como “¿El peinado favorece la cara?” “¿Por qué Timothée Chalamet es tan atractivo?“, y “Cómo las líneas de la mandíbula influyen en las percepciones sociales“.

Qoves comenzó como estudio de retoque de imágenes para agencias de modelos, pero actualmente se ha convertido en una “consultoría de estética facial” que promete dar respuestas a la “antigua pregunta de qué influye en que un rostro resulte atractivo“. El sitio web de la empresa, con bocetos de mujeres de aspecto parisino con los labios pintados y sombreros de colores, ofrece una variedad de servicios relacionados con su negocio de consultoría de cirugía plástica: consejos sobre productos de belleza, por ejemplo, y sobre cómo mejorar las fotos mediante el ordenador.

Pero su servicio más irresistible es su “herramienta de evaluación facial”: un sistema impulsado por inteligencia artificial (IA) que analiza las imágenes de nuestro rostro para decirnos el nivel de nuestra belleza y luego explicarnos lo que podemos hacer al respecto.

La semana pasada decidí probarlo. Siguiendo las instrucciones del sitio web, me quité el poco maquillaje que llevaba y busqué una pared de un color neutro, iluminada por una pequeña ventana. Le pedí a mi novio que tomara unas fotos de mi rostro en primer plano a la altura de los ojos. Intenté con todas mis fuerzas no sonreír. Era lo opuesto a lo glamoroso.

Subí la foto más aceptable y, en cuestión de milisegundos, Qoves me respondió con un informe de los 10 “defectos previstos” en mi rostro. Encabezando la lista estaba la probabilidad de 0,7 de arrugas del surco nasogeniano, seguida de 0,69 de probabilidad de depresión del contorno de los ojos y 0,66 de decoloración de la piel periocular. En otras palabras, Qoves sospechaba (correctamente) que tengo bolsas oscuras debajo de los ojos y arrugas de la sonrisa, algo que la IA considera problemático.

Gráfico: Mis resultados de la herramienta de evaluación facial Qoves

El informe me indicó amablemente algunas recomendaciones para abordar mis defectos. Primero, un artículo sugerido sobre las arrugas de la sonrisa me informó que “podría ser necesaria una intervención quirúrgica o inyectable”. Si quería, tenía la posibilidad de consultar algún informe más completo sobre las recomendaciones quirúrgicas, escrito por médicos, que costaban unos 75, 150 y 250 dólares (63, 125, 210 euros). También sugirió cinco tipos de sérum que podría probar antes, cada uno con un ingrediente diferente para el cuidado de la piel: retinol, neuropéptidos, ácido hialurónico, EGF (factor de crecimiento epidérmico) y el complejo TNS. Yo solo había oído hablar del retinol. Esa noche, antes de acostarme, miré los ingredientes de mi crema hidratante para la cara para ver qué contenía.

Yo ya estaba intrigada. La herramienta había dividido mi apariencia en una lista de detalles diminutos: como un láser entrenado en lo que creía que estaba mal en mi aspecto.

No obstante, Qoves es solo una pequeña start-up con 20 empleados en un océano de empresas y servicios de análisis facial. Existe una creciente industria de herramientas de análisis facial impulsadas por IA, cada una de las cuales afirma analizar una imagen en busca de características como emociones, edad o nivel de atractivo. Las empresas que trabajan en estas tecnologías son las favoritas del capital de riesgo, y estos algoritmos se utilizan para todo, desde vender cosméticos online hasta las apps de citas. Estas herramientas de evaluación de la belleza, disponibles para su compra online, utilizan el análisis facial y la visión artificial para evaluar distintos aspectos como la simetría, el tamaño de los ojos y la forma de la nariz revisando y clasificando millones de puntos de contenido visual para que las personas aparezcan más atractivas.

Estos algoritmos entrenan una especie de mirada computacional sobre fotografías y vídeos, sacando valores numéricos similares a las calificaciones crediticias, donde los puntos más altos pueden ofrecer las mejores oportunidades online para la cantidad de me gusta, visualizaciones y coincidencias.

Si esta previsión no resulta lo suficientemente preocupante, la tecnología también agrava otros problemas, según los expertos. La mayoría de los algoritmos de puntuación de belleza están plagados de inexactitudes, discriminación por edad y racismo, y la naturaleza confidencial de muchos de estos sistemas significa que es imposible tener una idea de cómo funcionan realmente, cuánto se utilizan o cómo afectan a los usuarios.

Foto: Qoves me recomendó ciertas acciones para corregir mis “defectos previstos”

“Espejito, espejito…”

Internet está lleno de pruebas como la que ofrece Qoves. Una pertenece a la mayor plataforma abierta de reconocimiento facial del mundo, Face ++. Su sistema de evaluación de belleza fue desarrollado por la empresa china de tecnología de imagen Megvii y, al igual que Qoves, utiliza inteligencia artificial para analizar los rostros. Pero en vez de detallar lo que ve en el lenguaje clínico, reduce sus hallazgos a un grado porcentual de probable atractivo. De hecho, saca dos resultados: una puntuación que predice cómo podrían reaccionar los hombres a una imagen y la otra que representa una visión femenina.

Usando la demostración gratuita del servicio y la misma foto tan poco glamorosa que utilicé para Qoves, rápidamente obtuve mis resultados. “Los hombres en general piensan que esta persona es más hermosa que el 69,62 % de la gente” y “Las mujeres en general opinan que esta persona es más hermosa que el 73,877 %”.

Fue algo decepcionante, pero mejor de lo que esperaba. Después de un año de pandemia, puedo notar en mi apariencia el impacto del estrés, el peso y las peluquerías cerradas en. Volví a probar la herramienta con otras dos fotos mías que me gustaban del período Antes de. Mis puntos mejoraron, acercándome a los mejores 25 %.

La belleza es a menudo subjetiva y personal: nuestros seres queridos nos parecen atractivos cuando están sanos y felices, e incluso cuando están tristes. Otras veces se basa en un juicio colectivo: los sistemas de clasificación como los concursos de belleza y las listas de las personas más bellas muestran que tratamos el atractivo como un premio. Esta evaluación también puede ser fea e incómoda: cuando era adolescente, los chicos de mi instituto les gritaban números del uno al 10 a las chicas que pasaban por el pasillo. Pero hay algo extraño en una máquina que evalúa la belleza del rostro de alguien; es algo tan desagradable como esos chicos de la escuela, y esos cálculos matemáticos resultan inquietantemente inhumanos.

Foto: El resultado de mi evaluación de belleza de Face ++

Bajo la capucha

Aunque el concepto de clasificar el atractivo de las personas no es nuevo, la forma en la que funcionan estos sistemas en concreto es un desarrollo relativamente reciente: Face ++ lanzó su función de puntuación de belleza en 2017.

Cuando se le preguntó al portavoz de Megvii por los detalles sobre cómo funcionaba el algoritmo, solo respondió que fue “desarrollado hace unos tres años en respuesta al interés del mercado local en las apps relacionadas con el entretenimiento”. El sitio web de la empresa indica que se utilizaron rostros chinos y del sudeste asiático para entrenar el sistema, y eso atrajo a 300.000 desarrolladores poco después de su lanzamiento, pero hay poca información adicional.

El portavoz de Megvii resalta que Face ++ es una plataforma de código abierto y no puede controlar el uso que los desarrolladores decidan darle, pero el sitio web sugiere la “venta de productos cosméticos” y la opción de “buscar pareja” como posibles aplicaciones.

Los clientes de la compañía más conocidos son, entre otros, el sistema de vigilancia del Gobierno chino, que ha llenado el país con las cámaras CCTV, así como Alibaba y Lenovo. Megvii solicitó recientemente una oferta pública inicial y actualmente la empresa está valorada en 3.346 millones de euros. Según reportajes de The New York Times, es una de las tres empresas de reconocimiento facial que ayudaron al Gobierno chino a identificar a los ciudadanos que podrían pertenecer a la minoría étnica uigur.

En cambio, Qoves se mostró más comunicativo sobre cómo funciona su análisis facial. La compañía, con sede en Australia, se fundó como una empresa de retoque fotográfico en 2019, pero cambió su enfoque en 2020 a una combinación de análisis impulsado por IA y cirugía plástica. Su sistema utiliza una técnica común de aprendizaje profundo conocida como red neuronal convolucional, o CNN. Las CNN que se utilizan para evaluar el atractivo generalmente se entrenan en un conjunto de datos de centenares de miles de imágenes que las personas ya han calificado manualmente para determinar su atractivo. Al observar las imágenes y las calificaciones existentes, el sistema deduce qué factores las personas consideran atractivos, para poder realizar predicciones cuando se le muestren nuevas imágenes.

Cómo funcionan las redes neuronales convolucionales

Otras grandes empresas han invertido en IA de belleza en los últimos años, como, por ejemplo, el minorista estadounidense de cosméticos Ulta Beauty, valorado en más de 15.000 millones de euros, que desarrolló una herramienta de análisis de la piel. Nvidia y Microsoft respaldaron en 2016 un “concurso de belleza robótica”, que desafió a los participantes a desarrollar la mejor IA para determinar el atractivo.

Según el socio de LDV Capital, Evan Nisselson, la tecnología de visión artificial aún se encuentra en sus primeras etapas, lo que ofrece “importantes oportunidades de inversión y ventajas”. LDV estima que el próximo año habrá 45.000 millones de cámaras en el mundo, sin incluir las que se utilizan para fabricación o logística, y afirma que los datos visuales serán el conjunto de datos clave para los sistemas de inteligencia artificial en el futuro cercano. También resalta que el análisis facial es “un mercado enorme” que, con el transcurso del tiempo, implicará “la reinvención de la tecnología para llegar a lo mismo que el ojo humano o más cerca o incluso mejor que nuestros ojos”.

El fundador de Qoves, Shafee Hassan, cree que la evaluación de belleza podría estar aún más extendida, ya que las aplicaciones y plataformas de redes sociales a menudo usan sistemas que escanean los rostros de las personas, las califican por su atractivo y prestan más atención a aquellos que tienen una clasificación más alta. Y añade: “Lo que hacemos es algo similar a Snapchat, Instagram y TikTok. Pero lo nuestro es más transparente“.

Hassan añade: “Utilizan la misma red neuronal y las mismas técnicas, pero no me dicen que han identificado que mi cara tiene tales pliegues nasolabiales, los labios muy finos, y muchas más cosas, y así me van a penalizar por ser una persona menos atractiva“.

Hablé con varias empresas, incluidos algunos servicios de citas y plataformas de redes sociales, y les pregunté si la puntuación de belleza formaba parte de sus algoritmos de recomendación. Instagram y Facebook han negado el uso de tales algoritmos. TikTok y Snapchat no quisieron comentarlo oficialmente.

“Grandes cajas negras”

Los recientes avances del aprendizaje profundo han cambiado drásticamente la precisión de la IA de belleza. Antes del aprendizaje profundo, el análisis facial se basaba en la ingeniería de rasgos, donde una comprensión científica de las características faciales guiaba a la IA.

La fórmula para un rostro atractivo, por ejemplo, se podía configurar estableciendo como positivo tener los ojos grandes y la mandíbula más angular. “Imagínese mirar a un rostro humano y ver una representación al estilo de Leonardo da Vinci de todas las proporciones y el espacio entre los ojos y ese tipo de cosas”, explica el profesor de visión artificial de la Universidad de Cornell (EE. UU.) Serge Belongie. Con la llegada del aprendizaje profundo, “todo eso se convirtió en big data y en grandes cajas negras de computación de las redes neuronales que simplemente procesaban enormes cantidades de datos etiquetados. Y, al final, eso funciona mejor que las otras cosas en las que trabajamos durante décadas“, subraya.

Pero hay una trampa. Belongie advierte: “Todavía no estamos totalmente seguros de cómo funciona. La industria está contenta, pero el mundo académico está un poco perplejo”. Debido a que la belleza es altamente subjetiva, lo mejor que puede hacer una IA de belleza de aprendizaje profundo es repetir con precisión las preferencias de los datos de entrenamiento utilizados. Aunque algunos sistemas de IA ya califican el atractivo con tanta precisión como los humanos en un conjunto de entrenamiento, eso significa que los sistemas también muestran los mismos sesgos. Y lo que es muy importante, dado que el sistema es impenetrable, resulta difícil y computacionalmente costoso colocar barreras al algoritmo para minimizar el sesgo.

Belongie destaca que hay aplicaciones de este tipo de tecnología que son más anodinas y menos problemáticas que calificar una cara por su atractivo, como por ejemplo una herramienta capaz de recomendar la fotografía más bonita de una puesta de Sol. Pero la puntuación de la belleza es diferente, y afirma: “Para mí es un área muy alarmante“.

Incluso si los datos de entrenamiento y los usos comerciales son lo más imparciales y seguros posibles, la visión artificial tiene limitaciones técnicas en cuanto los tonos de la piel humana. Los chips de imágenes de las cámaras están preconfigurados para procesar un rango específico de estos tonos. Históricamente, Belongie explica que “algunos tonos de piel simplemente se dejaban fuera, lo que significa que es posible que algunas fotos ni siquiera se hayan revelado con ciertos tonos de piel. Incluso la más noble de las ideas de capturar todas las formas de la belleza humana no tendría ninguna posibilidad porque los valores de brillo ni siquiera están representados con precisión”.

Y estos sesgos técnicos se manifiestan como racismo en las aplicaciones comerciales. En 2018, la economista y profesora asistente de sistemas de información de la Universidad de Maryland en College Park (EE. UU.) Lauren Rhu buscaba herramientas de reconocimiento facial capaces de ayudarle en su trabajo de estudio de plataformas digitales cuando encontró este inusual conjunto de productos.

La profesora recuerda: “Me di cuenta de que existían algoritmos de puntuación de la belleza. Y pensé que parecía imposible. Quiero decir, la belleza depende completamente de los ojos del espectador. ¿Cómo se puede entrenar un algoritmo para determinar si alguien es hermoso o no?” El estudio de estos algoritmos pronto se convirtió en un nuevo enfoque para su investigación.

Al observar cómo Face ++ calificaba la belleza, Rhue descubrió que el sistema clasificaba constantemente a las mujeres de piel más oscura como menos atractivas que las mujeres blancas, y que los rostros con rasgos similares a los europeos, como cabello más claro y narices más pequeñas, puntuaban más alto que aquellos con otras características, independientemente de lo oscura que era su piel. El sesgo eurocéntrico en la IA refleja el sesgo de las personas que puntuaban las fotos utilizadas para entrenar el sistema, codificándolo y amplificándolo, independientemente de quién estuviera observando las imágenes. Los estándares de belleza chinos, por ejemplo, priorizan la piel más clara, los ojos muy grandes y las narices pequeñas.

Foto: La comparación de dos fotos de Beyonce Knowles de la investigación de Lauren Rhue usando Face ++. Su IA predijo que la imagen de la izquierda tendría una tasa de belleza de 74,776 % para hombres y 77,914 % para mujeres. La imagen de la derecha, por otro lado, obtuvo 87,468 % para los hombres y 91,14 % para las mujeres en su modelo.

La evaluación de la belleza, explica Rhue, forma parte de una inquietante dinámica entre la ya poco saludable cultura de la belleza y los algoritmos de recomendación que encontramos todos los días online. Cuando se utilizan estas clasificaciones para decidir qué publicaciones aparecen en las plataformas de redes sociales, por ejemplo, se refuerza la definición de lo que se considera atractivo y se desvía la atención de lo que no se ajusta al ideal estricto del ordenador. Y advierte: “Estamos reduciendo los tipos de imágenes disponibles”.

Se trata de un círculo vicioso: con más ojos puestos en el contenido de personas atractivas, esas imágenes pueden generar una mayor participación, por lo que se muestran a más personas. Al final, incluso cuando una puntuación de belleza alta no es una razón directa por la que se nos muestra una publicación, sí que representa un factor indirecto.

En un estudio publicado en 2019, Rhue analizó cómo dos algoritmos, uno para la puntuación de la belleza y otro para las predicciones de edad, afectaban las opiniones de las personas. A los participantes se les mostraban imágenes de personas y se les pedía que evaluaran la belleza y la edad de esas personas. A algunos de los participantes se les mostró la puntuación generada por la IA antes de dar su respuesta, mientras que a otros no se les mostró la puntuación de IA en absoluto. Rhue encontró que los participantes que no conocían la calificación de la IA no mostraban un sesgo adicional; sin embargo, los que sabían cómo la IA había clasificado el atractivo de las personas daban una puntuación más parecida al resultado generado por algoritmo. Rhue lo denomina el “efecto ancla”.

Y añade: “Los algoritmos de recomendación están cambiando nuestras preferencias. Y el desafío desde la perspectiva tecnológica, por supuesto, consiste en no reducirlas demasiado. Cuando se trata de la belleza, estamos viendo una reducción mucho mayor de lo que esperaba”.

“No he encontrado ninguna razón para no evaluar los defectos de alguien, porque hay formas de solucionarlos”. Shafee Hassan, Qoves Studio

En Qoves, Hassan asegura que ha intentado abordar el tema de la raza directamente. Al realizar un informe detallado sobre el análisis facial (por el que pagan sus clientes), su estudio trata de utilizar los datos para categorizar un rostro según el origen étnico, para que no todo el mundo sea evaluado en función del ideal europeo. “Es posible evitar este sesgo eurocéntrico simplemente convirtiéndose en la versión más atractiva de uno mismo, del propio origen étnico, la versión más atractiva de la raza en cuestión”, explica.

Pero a Rhue le preocupa que este tipo de categorización étnica se incruste más profundamente en nuestra infraestructura tecnológica. Y sentencia: “El problema consiste en que la gente lo está haciendo, no importa cómo lo analicemos, y no existe ningún tipo de regulación o supervisión. Si hay algún tipo de conflicto, la gente tratará de averiguar quién pertenece a qué categoría. Digamos que nunca he visto una IA de belleza culturalmente sensible”.

Los sistemas de recomendación no tienen que estar diseñados para evaluar el atractivo para hacerlo de todos modos. Recientemente, la cadena ​​alemana BR informó de que una IA utilizada para evaluar a los posibles empleados mostraba sesgos basados en su apariencia. Y en marzo de 2020, la empresa matriz de TikTok, ByteDance, fue criticada por un aviso que ordenaba a los moderadores de contenido que suprimieran los vídeos que mostraran “miradas faciales feas”, a personas “obesas”, “caras deformadas”. a las personas “sin dientes frontales”, las “personas mayores con demasiadas arrugas”, etcétera. Twitter lanzó recientemente una herramienta de recorte automático para fotografías que parecía priorizar a los blancos. Cuando se probó con las imágenes de Barack Obama y Mitch McConnell, la IA de recorte automático sistemáticamente fallaba con el antiguo presidente estadounidense.

“¿Quién es la más hermosa del reino?”

Cuando hablé por primera vez con el fundador de Qoves, Hassan, por videollamada en enero, me confesó: “Siempre he creído que las personas atractivas son una raza en sí misma“.

Cuando comenzó con su idea en 2019, recuerda que sus amigos y familiares fueron muy críticos. Pero cree que está ayudando a las personas a convertirse en la mejor versión de sí mismas. Se inspira en la película Gattaca de 1997, que tiene lugar en un “futuro no muy lejano” donde la ingeniería genética es el medio predeterminado de la concepción. La discriminación genética segmenta a la sociedad, y el personaje interpretado por Ethan Hawke, que fue concebido de forma natural, tiene que robar la identidad de una persona genéticamente perfeccionada para superar el sistema.

En general, esta película se considera profundamente distópica, pero Hassan admite que le dejó una marca inesperada. Y afirma: “Fue muy interesante para mí, porque la idea era que una persona podría determinar su destino. Su aspecto ideal es parte de su destino. Teniendo en cuenta lo lejos que ha llegado la medicina moderna, no he encontrado ninguna razón para no evaluar los defectos de alguien, porque hay formas de solucionarlos”.

Parece que sus clientes están de acuerdo. Hassan afirma que muchos de ellos son actores y actrices, y que la empresa recibe entre 50 y 100 solicitudes de informes médicos detallados cada día, y que son tantos que tiene problemas para satisfacer la demanda. A Hassan le parece fundamental para su misión luchar contra el “clasismo” que se avecina entre los que se consideran bellos y los que la sociedad juzga como feos. Y afirma: “Lo que intentamos es ayudar a la persona promedio“.

Sin embargo, hay otras formas de “ayudar a la persona promedio”. Todos los expertos con los que hablé resaltaron que la divulgación y la transparencia de las empresas de evaluación de la belleza resultan primordiales. Belongie cree que presionar a las empresas para que revelen el funcionamiento de sus algoritmos de recomendación ayudará a mantener seguros a los usuarios. Y añade: “La empresa debería decir que sí, que usa la predicción de la belleza facial y hacer público su modelo junto con una galería representativa de las caras que la empresa cree que, en función de nuestro comportamiento online, nos resultan atractivas. Y creo que el usuario debería ser consciente de ello y así poder interactuar”. 

Opina que las funciones como la herramienta de transparencia publicitaria de Facebook son un buen comienzo, pero añade que “si las empresas no lo hacen así, sino como Face ++, donde solo asumen que casualmente todos estamos de acuerdo en lo que es bonito… puede haber algunas personas influyentes que sencillamente tomen esa decisión”.

Por supuesto que la industria tendría que confesar en primer lugar que utiliza estos modelos de puntuación, y la sociedad debería estar al tanto del problema. Y aunque el año pasado se generó mucha atención y críticas a la tecnología de reconocimiento facial, varios investigadores con los que hablé admiten estar sorprendidos por la falta de conciencia sobre su uso. Rhue considera que lo más sorprendente sobre la evaluación de la belleza ha sido que pocas personas lo analizan como un tema de interés y no está segura de que la tecnología deba desarrollarse.

Mientras Hassan revisaba mis propios defectos conmigo, me aseguró que una buena crema hidratante y perder un poco de peso debería bastar. Y aunque la estética de mi rostro no determinará mi trayectoria profesional, me animó a tomar mis resultados en serio. Y me recordó: “La belleza es una moneda de cambio“.