Diseño ético en el aprendizaje automático: hacia una implementación responsable

Tabla de contenido

1. Introducción
2. Los problemas de la implementación de machine learning 2.1. Daño a los resultados 2.1.1. Reconocimiento erróneo 2.1.2. Mala asignación 2.2. Daño al proceso 2.2.1. Opacidad técnica 2.2.2. Procesamiento acelerado
3. El movimiento hacia el diseño ético 3.1. Diseño ético como consenso moral 3.2. La legitimación de la ingeniería como sitio de indagación ética 3.3. Determinismo basado en valores 3.4. El enfoque en el diseño como centro de escrutinio ético 3.5. Eludir las prácticas empresariales y la exclusión de la responsabilidad democrática 3.6. Mantener la conversación en marcha 3.7. Transparencia y claridad en los sistemas de aprendizaje automático
4. Alternativas basadas en movimientos sociales 4.1. El enfoque abolicionista de Black Lives Matter 4.2. El movimiento Tech Won't Build It
5. Conclusiones

Diseño ético en la implementación de machine learning

En los últimos años, ha habido un auge en la implementación de machine learning y la inteligencia artificial. Sin embargo, junto con este auge, han surgido una serie de problemas éticos relacionados con el mal funcionamiento de estos sistemas. Estos problemas se pueden dividir en daño a los resultados y daño al proceso.

1. Daño a los resultados

1.1. Reconocimiento erróneo

Un aspecto preocupante de la implementación de machine learning es el reconocimiento erróneo, que ocurre cuando una institución no reconoce correctamente a una persona o la reconoce de una manera que no sería deseada. Por ejemplo, en sistemas de visión por computadora, se han dado casos en los que se etiqueta a personas de raza negra como gorilas, lo cual es un insulto racial. Esto es causado por la falta de diversidad en los conjuntos de datos de entrenamiento y revela las limitaciones de los sistemas de reconocimiento de imágenes.

1.2. Mala asignación

Otro problema es la mala asignación, que ocurre cuando una institución no distribuye de manera justa sus recursos o decisiones. Un ejemplo de esto es el sistema de puntuación de riesgo utilizado en el condado de Broward, Florida, para determinar quién debe recibir fianza. Este sistema tenía tasas de error iguales para acusados de raza negra y blanca, pero era el doble de probable que etiquetara a los acusados de raza negra como futuros criminales en comparación con los de raza blanca. Esto conduce a una asignación injusta de penas y fianzas.

2. Daño al proceso

2.1. Opacidad técnica

Un problema fundamental en la implementación de machine learning es la opacidad técnica, ya que los sistemas a menudo son cajas negras que no brindan una explicación clara de cómo llegan a sus decisiones. Esto dificulta la rendición de cuentas y la posibilidad de intervención en el proceso de Toma de decisiones. Por ejemplo, en el caso de la utilización de algoritmos en la aplicación de Medicaid en Indiana, la falta de transparencia llevó a la negación automática de beneficios a las personas debido a discrepancias en la documentación, sin posibilidad de apelación.

2.2. Procesamiento acelerado

Otro problema es el procesamiento acelerado, que implica la toma de decisiones rápidas sin tiempo para apelaciones o para una consideración detallada. Esto es especialmente preocupante en el ámbito de la inteligencia artificial, donde las decisiones automatizadas se toman más rápido de lo que los afectados pueden comprender o intervenir. Un ejemplo de esto es el uso de sistemas de reconocimiento facial por parte de cuerpos policiales, donde las decisiones se toman en tiempo real sin la posibilidad de un control humano adecuado.

El movimiento hacia el diseño ético

Ante estos problemas éticos, ha surgido un movimiento hacia el diseño ético de la inteligencia artificial y el machine learning. Este movimiento está impulsado por la creencia de que la falta de consideraciones éticas en el diseño y la implementación de estos sistemas conlleva consecuencias negativas.

3.1. Diseño ético como consenso moral

La noción de un diseño ético se basa en la idea de que existe una preocupación ética compartida en toda la sociedad y que esta preocupación puede abordarse objetivamente al medir su impacto en el mundo real. Los defensores de este enfoque argumentan que el desarrollo de sistemas éticos debe promover el bienestar general y evitar consecuencias no deseadas.

3.2. La legitimación de la ingeniería como sitio de indagación ética

Un aspecto importante del diseño ético es la idea de que los valores de los diseñadores influyen en el diseño final. Esto implica que no se puede considerar a la tecnología como neutral y que la ética debe estar presente en todas las etapas del diseño y la implementación del machine learning.

3.3. Determinismo basado en valores

El movimiento hacia el diseño ético también asume un determinismo basado en valores, es decir, la creencia de que la implementación de machine learning y la inteligencia artificial son inevitables y que debemos adaptarnos a ellas. Sin embargo, estos sistemas deben ser responsables y buscar reducir las desigualdades sociales y económicas.

3.4. El enfoque en el diseño como centro de escrutinio ético

El diseño es considerado el foco principal de escrutinio ético, excluyendo en cierta medida las prácticas empresariales. Si bien esto puede ayudar a enfocar los esfuerzos en la mejora de los sistemas, también conlleva el riesgo de que se pasen por alto otras preocupaciones éticas, como las prácticas monopolísticas.

3.5. Eludir las prácticas empresariales y la exclusión de la responsabilidad democrática

Un aspecto preocupante del enfoque ético actual es la falta de atención a las prácticas empresariales y la exclusión del proceso democrático. La responsabilidad recae en los expertos técnicos y legales, dejando de lado a otros grupos de interés y excluyendo la intervención democrática en la toma de decisiones.

3.6. Mantener la conversación en marcha

El enfoque ético actual se basa en mantener la conversación en marcha, con la participación de expertos y partes interesadas. Sin embargo, esto no garantiza un compromiso sustantivo, ya que no se especifican compromisos concretos o límites Claros sobre lo que los sistemas de machine learning no deben hacer.

3.7. Transparencia y claridad en los sistemas de aprendizaje automático

Un tema recurrente en el diseño ético es la demanda de sistemas de aprendizaje automático más explicables y transparentes. Esto se considera tanto una base para la moralidad de los sistemas como una herramienta para combatir la desinformación y la propaganda.

Alternativas basadas en movimientos sociales

Ante la insuficiencia del enfoque ético actual, es importante explorar alternativas basadas en movimientos sociales existentes. Estos movimientos ofrecen enfoques diferentes y han demostrado su capacidad para abordar problemas éticos y sociales.

4.1. El enfoque abolicionista de Black Lives Matter

El movimiento Black Lives Matter es un ejemplo de un enfoque abolicionista que busca eliminar las instituciones y prácticas violentas, como la policía y las prisiones. Su plataforma política aborda directamente el uso de tecnologías de vigilancia y propone una mayor supervisión democrática de la adquisición tecnológica por parte de los departamentos de policía.

4.2. El movimiento Tech Won't Build It

El movimiento Tech Won't Build It es otro ejemplo reciente de trabajadores de la industria tecnológica que se organizan para tener una voz en cómo se utiliza la tecnología que crean. Este movimiento se centra en la democracia laboral y busca reducir los beneficios económicos de la guerra y el genocidio, redirigiéndolos hacia otros proyectos más beneficiosos para la sociedad.

En conclusión, el diseño ético en la implementación de machine learning es un tema en desarrollo y en debate. Si bien el enfoque actual se basa en la ingeniería y la ética de expertos, existen alternativas basadas en movimientos sociales que pueden ofrecer perspectivas más amplias y experiencias en la lucha por la justicia y la equidad. Es importante considerar estas alternativas y buscar un enfoque más inclusivo y comprometido con la responsabilidad democrática.