¿Puede la IA ser sexista? Descubre la controversia detrás de Lensa

Tabla de contenido

1. Introducción
2. ¿Cómo funcionan las aplicaciones de IA para crear retratos?
3. Problemas con los resultados de Lancer AI
   • 3.1 Retratos sexualizados y estereotipados
   • 3.2 Brecha en la generación de imágenes para hombres y mujeres
4. Responsabilidades compartidas: datos y desarrolladores de aplicaciones
5. El debate ético en torno a la IA y los retratos generados
6. Conclusiones

AI y Retratos Generados: ¿Un avance o un problema?

La generación de retratos mediante inteligencia artificial (IA) está siendo tendencia en la actualidad. Las imágenes estilizadas y artísticas resultan atractivas para nuestra vanidad, y aplicaciones como Lancer AI están liderando las descargas en muchos países. Numerosos usuarios están dispuestos a pagar por un retrato generado por IA con estilo de superhéroe o estrella de rock, siendo ideales para compartir en redes sociales. Sin embargo, muchas mujeres, incluida la actriz estadounidense Megan Fox, han expresado su descontento con los resultados excesivamente sexualizados. ¿Por qué ocurre esto?

2. ¿Cómo funcionan las aplicaciones de IA para crear retratos?

Para entender el problema, es fundamental comprender cómo funcionan las aplicaciones como Lancer. Los usuarios pueden crear su propio "Avatar mágico" cargando de 10 a 20 selfies en la aplicación. Cuanta más diversidad haya en las fotos, más interesantes serán los resultados. Una vez que las fotos están en el servidor de la aplicación, el software de IA las analiza y Genera imágenes completamente nuevas en diferentes categorías, como la ciencia ficción o el estilo anime. Este proceso suele llevar unos 20 minutos.

Lancer utiliza un conjunto de datos de código abierto llamado "lion 5B", el cual se crea a partir del rastreo y análisis de imágenes en Internet. Lion 5B es básicamente una gran biblioteca de imágenes de todo tipo, clasificadas mediante etiquetas como hombre, mujer, caucásico o latina. Es en este punto donde comienzan los problemas.

3. Problemas con los resultados de Lancer AI

3.1 Retratos sexualizados y estereotipados

En general, los resultados de Lancer varían en calidad. No todos están satisfechos con las versiones generadas de sí mismos, como es mi caso con una versión unipodal de mí o incluso con una versión espacial de Hannibal Lecter. Sin embargo, el principal problema radica en la brecha existente en los retratos generados para hombres y mujeres.

Las mujeres suelen recibir retratos de sí mismas hipersexualizados y caricaturescos. Muchas usuarias han informado de imágenes donde se las representa desnudas y de forma altamente sexualizada. En contraste, los hombres reciben retratos halagadores de ellos mismos como astronautas y superhéroes. Este sesgo de género y los estereotipos sexistas presentes en los resultados han sido motivo de críticas.

3.2 Brecha en la generación de imágenes para hombres y mujeres

Para poner a prueba estas afirmaciones, realicé una comparación con una colega, Adriana. Siendo un hombre europeo de piel blanca, los selfies que subí no fueron tomados específicamente para resaltar mi belleza. Los resultados que obtuve fueron principalmente versiones muy masculinas de astronautas y superhéroes, pudiéndome reconocer en la mayoría de las imágenes y sin mostrar piel desnuda en ninguna de ellas.

Adriana, proveniente de Colombia, se sorprendió al ver que la aplicación la Presentó con una apariencia muy europea en la mayoría de las imágenes: piel más clara, cabello castaño e incluso ojos azules en algunas fotos. Además, en muchas fotos aparecía vestida con pantalones ajustados y en poses sensuales, a pesar de que ninguno de los selfies que había subido mostraba esto. En resumen, ella no pudo reconocerse en ninguna de las imágenes generadas. Aunque Adriana no recibió resultados con desnudos, nuestra pequeña comparación confirma algunas críticas que han surgido en línea.

4. Responsabilidades compartidas: datos y desarrolladores de aplicaciones

Los resultados obtenidos por Lancer AI revelan que la IA solo es tan buena como el conjunto de datos en el que se basa. Lancer parece haber trabajado con imágenes sin filtro de lion 5B, que recopila imágenes de partes diversas de Internet. Debido a la gran cantidad de imágenes de mujeres desnudas o semidesnudas y los estereotipos sexistas y racistas reflejados en Internet, el conjunto de datos contiene un número desproporcionado de estas imágenes. Lancer, por lo tanto, reproduce y refuerza estos sesgos ya existentes en nuestra sociedad.

Los desarrolladores de conjuntos de datos podrían contrarrestar esto aplicando ciertos filtros, como eliminar imágenes que se repiten con frecuencia. De esta manera, se podrían eliminar ciertos estereotipos. Sin embargo, los desarrolladores de aplicaciones también tienen responsabilidad en este tema. Han decidido que los avatares masculinos aparezcan como astronautas y superhéroes, mientras que los avatares femeninos son retratados como hadas o chicas japonesas lindas (Kawaii).

5. El debate ético en torno a la IA y los retratos generados

Podríamos pensar que se trata solo de una aplicación y relajarnos al respecto, pero para mí, Lancer es un claro ejemplo de las implicancias éticas que conlleva la aplicación de la IA. Creo que como sociedad, debemos debatir a fondo antes de permitir que la IA Tome aún más decisiones por nosotros. Necesitamos más transparencia y normas claras sobre cómo se recopilan y se componen los conjuntos de datos.

En conclusión, si bien las aplicaciones de IA para la generación de retratos pueden ser entretenidas y populares, su utilización plantea varios interrogantes éticos. Los resultados sexualizados, estereotipados y con brechas de género evidencian la necesidad de un enfoque más crítico en el desarrollo y uso de estas tecnologías. La discusión y la aplicación de regulaciones éticas son indispensables para garantizar que la IA se utilice de manera responsable y justa.

Aspectos destacados

• Las aplicaciones de IA para generar retratos están en tendencia y tienen una gran demanda en redes sociales.
• Lancer AI es una de las aplicaciones líderes en este campo, pero ha sido objeto de críticas por los retratos sexualizados y estereotipados que genera.
• Los resultados de Lancer AI muestran una brecha en la generación de imágenes para hombres y mujeres, con retratos más halagadores para los hombres y versiones sexualizadas y caricaturescas para las mujeres.
• La responsabilidad recae tanto en los conjuntos de datos utilizados, como en los desarrolladores de aplicaciones, quienes tienen la elección de cómo representar a los avatares.
• La ética en la aplicación de la IA es un debate necesario para establecer normas y garantizar la transparencia en la recopilación y uso de datos.

Preguntas frecuentes (FAQ)

¿Cuáles son las críticas principales hacia las aplicaciones de IA para generar retratos?

Las principales críticas se relacionan con los retratos sexualizados y estereotipados que se generan, así como con la brecha de género en los resultados, donde los hombres reciben retratos más halagadores y las mujeres son representadas de manera sexualizada y caricaturesca.

¿A quién se atribuye la responsabilidad de los resultados de Lancer AI?

Tanto los conjuntos de datos utilizados como los desarrolladores de aplicaciones como Lancer AI tienen responsabilidad en los resultados generados. Los datos proporcionados deben ser filtrados y los desarrolladores deben tomar decisiones éticas al representar avatares.

¿Qué es lion 5B y cómo se utiliza en Lancer AI?

lion 5B es un conjunto de datos de código abierto que se crea a partir del rastreo y análisis de imágenes en Internet. Lancer AI utiliza este conjunto de datos para generar retratos, pero debido a la naturaleza sin filtro de las imágenes recopiladas, se perpetúan estereotipos y sesgos presentes en la sociedad.

Recursos

• Lancer AI