Las debilidades sociales del uso de IA en reconocimiento de imágenes

Índice

1. Introducción
2. El papel de las imágenes en los sistemas de IA
3. La problemática de la interpretación de imágenes
   • 3.1 Significado y trabajo de las imágenes en los sistemas de IA
   • 3.2 La lectura contextual de las imágenes por los sistemas de IA
4. La construcción de conjuntos de entrenamiento en la visión por computadora
   • 4.1 El origen histórico de la visión por computadora
   • 4.2 La creación de bases de datos para el aprendizaje automático
   • 4.3 La influencia de la taxonomía en la clasificación de imágenes
5. La política de clasificación en la inteligencia artificial
   • 5.1 Las relaciones de poder en las categorías de Imagenet
   • 5.2 La construcción de significados individuales de las imágenes
6. La visión de la inteligencia artificial
   • 6.1 La visión en función de la extracción de valor
   • 6.2 La visión como herramienta de control y colonización
7. Conclusiones
   • 7.1 La lucha por el significado en el contexto de la inteligencia artificial
   • 7.2 La importancia de comprender la construcción del entrenamiento en los sistemas de IA

📷 El Papel de las Imágenes en la Inteligencia Artificial

La inteligencia artificial (IA) ha revolucionado la forma en que interactuamos con el mundo, especialmente a través del análisis y procesamiento de imágenes. En este artículo, exploraremos el fascinante mundo de las imágenes en la IA y examinaremos la intersección entre la política, la interpretación y el poder en la clasificación de imágenes.

1. Introducción

Hola, soy Kate Crawford, cofundadora y directora del Instituto AI Now en la Universidad de Nueva York. En colaboración con Trevor Paglen, artista y miembro de AI Now, hemos creado una exposición sobre la IA y las imágenes. A medida que nos adentramos en el proyecto, nos hemos sumergido en cientos e incluso miles de conjuntos de datos de entrenamiento, lo que nos ha llevado a profundizar en la naturaleza misma de las imágenes.

En este artículo, nos centraremos en tres preguntas fundamentales: ¿qué es una imagen en el contexto de la inteligencia artificial?, ¿qué función desempeñan las imágenes en los sistemas de IA? y ¿qué está en juego en la forma en que los sistemas de IA recolectan, etiquetan y despliegan imágenes en el mundo?

2. El papel de las imágenes en los sistemas de IA

Las imágenes son el lenguaje subyacente de la visión por computadora y los sistemas de IA. A través de conjuntos de datos de entrenamiento, las imágenes se convierten en el "alfabeto" desde el cual los sistemas de visión reconocen formas y atribuyen significado.

Sin embargo, el significado de las imágenes no es una cuestión puramente técnica. La aplicación de etiquetas y categorías a las imágenes crea una forma de construcción de significado en relación a la representación y la identidad. Esto puede tener consecuencias profundas en cómo entendemos el mundo y a nosotros mismos. Un ejemplo claro de esto es la interpretación errónea de la imagen de Michael Jackson, a quien un sistema de reconocimiento de imágenes etiquetó incorrectamente como un hombre negro en lugar de un hombre afrodescendiente con vitiligo.

3. La problemática de la interpretación de imágenes

La interpretación de imágenes por parte de los sistemas de IA presenta varios desafíos. Por un lado, los sistemas de visión pueden tener dificultades para comprender el contexto en el que se encuentran las imágenes, lo que puede llevar a interpretaciones erróneas y a la falta de comprensión de los significados subyacentes. Esto se evidencia en casos en los que una protesta social es interpretada por un sistema de reconocimiento de imágenes como un grupo de personas "paradas en un estacionamiento", sin captar la complejidad y los múltiples niveles de significado de la situación.

Por otro lado, existen problemas más sutiles relacionados con las etiquetas y la IA. Un ejemplo es el uso de algoritmos de reconocimiento facial para analizar las emociones de una persona a partir de su expresión facial. Sin embargo, ¿qué significado tiene el hecho de describir a una persona como "triste en un 49%"? ¿Cómo se construye el significado a través de estas formas de reconocimiento y mala interpretación?

4. La construcción de conjuntos de entrenamiento en la visión por computadora

Para entrenar a los sistemas de IA en el reconocimiento de imágenes, se utilizan conjuntos de datos que contienen miles o incluso millones de imágenes. Estos conjuntos de entrenamiento son el resultado de decisiones políticas y técnicas, y su construcción tiene implicaciones significativas en la forma en que se interpretan y etiquetan las imágenes.

En el pasado, los conjuntos de entrenamiento se basaban en categorías más simples y universales, como las expresiones faciales básicas. Sin embargo, a medida que la visión por computadora se ha desarrollado, los conjuntos de entrenamiento se han vuelto más complejos y sofisticados. Por ejemplo, ImageNet, una de las bases de datos más utilizadas, contiene más de 14 millones de imágenes organizadas en más de 20,000 categorías distintas.

5. La política de clasificación en la inteligencia artificial

La clasificación de imágenes en la inteligencia artificial está impregnada de relaciones de poder y construcción política. La taxonomía utilizada en bases de datos como ImageNet refleja ciertos prejuicios y asunciones culturales que se han incorporado en los sistemas de IA. Por ejemplo, la categorización de razas en ImageNet sigue modelos de clasificación racial históricamente problemáticos, reproduciendo estereotipos y promoviendo una visión limitada y sesgada de la diversidad humana.

Estas categorías y etiquetas tienen un impacto directo en cómo los sistemas de IA interpretan y significan las imágenes. Esto, a su vez, Genera un desequilibrio de poder y una falta de diversidad en la construcción del conocimiento a través de la inteligencia artificial.

6. La visión de la inteligencia artificial

La visión de la inteligencia artificial tiene dos facetas principales: por un lado, está impulsada por la extracción de valor económico a partir de la recolección y análisis de imágenes. Por otro lado, la visión de la inteligencia artificial es utilizada como una herramienta de control y colonización de diferentes aspectos de la vida cotidiana.

Esta combinación de extracción de valor y control tiene implicaciones profundas en nuestra sociedad. Desde el monitoreo en tiempo real de conductores por parte de las compañías de seguros hasta el análisis de comportamientos en la industria financiera, la visión de la inteligencia artificial está transformando nuestro entorno y nuestras vidas, generando nuevas dinámicas de poder y control.

7. Conclusiones

En conclusión, la interpretación y clasificación de imágenes en la inteligencia artificial es un proceso altamente político. Las decisiones tomadas en la construcción de conjuntos de entrenamiento y la taxonomía utilizada en los sistemas de IA tienen implicaciones significativas en cómo se interpretan y significan las imágenes. Además, la visión de la inteligencia artificial está generando nuevas formas de control y colonización en nuestra sociedad.

Es crucial cuestionar y examinar de cerca estos sistemas de clasificación y significado en la inteligencia artificial, y trabajar hacia una mayor diversidad y equidad en el proceso de construcción del conocimiento a través de la IA.

🔎 Highlights:

• La construcción de conjuntos de entrenamiento en la IA transforma el significado de las imágenes.
• La taxonomía utilizada en los sistemas de IA refleja prejuicios y desequilibrios de poder.
• La visión de la inteligencia artificial busca la extracción de valor y el control de la sociedad.
• Es crucial cuestionar y examinar los sistemas de clasificación y significado en la IA.

📚 Recursos:

• AI Now Institute. (Website: ainowinstitute.org)

Preguntas frecuentes (FAQ)

Q: ¿Cuál es el impacto de la visión de la inteligencia artificial en nuestras vidas diarias? A: La visión de la inteligencia artificial está transformando aspectos como el monitoreo de conductores por parte de compañías de seguros, el análisis de comportamientos en la industria financiera y la colonización de espacios íntimos y cotidianos.

Q: ¿Qué problemas éticos y políticos están asociados con la clasificación de imágenes en la IA? A: Los problemas éticos y políticos están presentes en cada nivel de la clasificación de imágenes en la IA. Esto incluye el origen histórico de los conjuntos de entrenamiento, la construcción de categorías y etiquetas, así como el impacto de estas clasificaciones en la interpretación de las imágenes.

Q: ¿Cómo podemos abordar los sesgos y estereotipos en la clasificación de imágenes en la IA? A: Es fundamental cuestionar y examinar de cerca los sistemas de clasificación, promoviendo la diversidad y la equidad en la construcción de conjuntos de entrenamiento. Además, se deben establecer marcos éticos claros y políticas de transparencia para garantizar una interpretación justa y precisa de las imágenes.