Diseño y evaluación de un chatbot para sobrevivientes de abuso sexual basado en imágenes

Índice de contenidos

• Introducción
• Definición de abuso sexual basado en imágenes
• Impacto del abuso sexual basado en imágenes
• Barreras para buscar ayuda en sobrevivientes de ASBI
• Importancia de la información y el apoyo Emocional
• Desarrollo de un chatbot para sobrevivientes de ASBI
• Diseño del chatbot basado en elementos de diseño
• Módulos del chatbot para sobrevivientes de ASBI
• Implementación de módulos basados en reglas y basados en recuperación
• Estudio de usuarios para evaluar la efectividad del chatbot
• Resultados del estudio de usuarios
• Implicaciones del diseño del chatbot
• Contribuciones de este trabajo a la comunidad HCI
• Conclusiones y agradecimientos

Diseño y evaluación de un chatbot para sobrevivientes de abuso sexual basado en imágenes (ASBI) 💬

El abuso sexual basado en imágenes (ASBI) se define como la "creación y distribución no consensual de imágenes sexuales privadas". Esta forma de abuso es frecuente en relaciones románticas, donde las parejas envían o reciben imágenes sexuales privadas. Sin embargo, después de una ruptura, los ex compañeros pueden publicar imágenes íntimas para avergonzar a las víctimas y dañar su reputación. El ASBI es un grave problema social que afecta a muchos sobrevivientes.

Según una encuesta nacional, una de cada cinco personas en Australia de entre 16 y 49 años ha experimentado ASBI. Este tipo de abuso conlleva consecuencias psicológicas, sociales y físicas para las víctimas. Lamentablemente, muchos sobrevivientes guardan silencio sobre el ASBI debido a que se culpan a sí mismos o no cuentan con la información necesaria para buscar ayuda legal. Es común que los sobrevivientes de ASBI tengan dificultades para enfrentar el daño causado.

En un estudio realizado por Eaton, se descubrió que el 73% de los sobrevivientes no buscan ayuda después de sufrir abuso. La vergüenza y el miedo son las principales razones por las que no buscan ayuda. De aquellos que sí buscan ayuda, el 20% acude a amigos y familiares, pero temen ser culpados. Solo el 7% de los sobrevivientes solicitan que se retiren sus imágenes. Es fundamental actuar rápidamente ante el ASBI para eliminar las imágenes íntimas y evitar su distribución. Por lo tanto, la información y el apoyo emocional son cruciales para ayudar a los sobrevivientes a hacer frente a esta situación desde el principio.

Los sobrevivientes de ASBI que no cuentan con apoyo buscan ayuda en línea. Buscan estrategias de afrontamiento y consejos de otras personas. Aunque pueden encontrar artículos académicos y estadísticas en las redes sociales, estos recursos pueden ser insuficientes para abordar el problema. Muchas mujeres jóvenes tienen fobia a hacer llamadas telefónicas, lo que les impide contactar líneas de ayuda. Además, los sobrevivientes de ASBI pueden tener miedo de ser juzgados por los consejeros. Los chatbots pueden brindar ayuda inmediata y relevante a cualquier hora, sin resultar tan abrumadores. También pueden brindar apoyo emocional, lo que ha demostrado reducir el estrés.

En este trabajo, hemos desarrollado un chatbot para ofrecer información crítica y apoyo emocional a los sobrevivientes de ASBI. Para diseñar el chatbot, agrupamos las funciones de nueve chatbots en elementos de diseño y utilizamos estos elementos para crear una base de diseño. Además, contamos con la ayuda de consejeros profesionales para ofrecer un mejor soporte a los sobrevivientes. Creamos un módulo basado en reglas, el cual incluye recursos, estrategias de afrontamiento, redacción de cartas de queja, conocimientos sobre ASBI, procedimientos legales, historias de otros sobrevivientes y derechos. También implementamos módulos basados en recuperación, utilizando un modelo de lenguaje de aprendizaje profundo llamado BERT.

Para evaluar la efectividad del chatbot, diseñamos un estudio de usuarios donde comparamos el chatbot híbrido con una búsqueda en Internet, dado que la búsqueda en Internet es el método más común para encontrar recursos. El estudio se realizó con 25 mujeres jóvenes que no habían experimentado ASBI. Les pedimos que imaginaran ser sobrevivientes y realizaran 10 tareas de búsqueda, nueve para obtener información y una para recibir apoyo emocional. Los participantes manifestaron su preferencia por el chatbot híbrido en comparación con los resultados de búsqueda para obtener apoyo informativo. En particular, destacaron que el chatbot estaba bien organizado, era accesible y conciso. La mayoría de los participantes consideraron que el chatbot sería especialmente útil justo después de experimentar ASBI, cuando los sobrevivientes pueden no saber qué información buscar en una crisis. El chatbot híbrido presentaba un menú de información y preguntaba a los sobrevivientes qué información necesitaban. Al ingresar una palabra clave, los participantes obtenían resultados Instantáneos, a diferencia de los motores de búsqueda que mostraban enlaces rotos y archivos para descargar. Además, la descripción breve del chatbot llamó la atención de muchos participantes, quienes valoraron la capacidad del chatbot para brindar información resumida y de fácil comprensión. Por otro lado, los motores de búsqueda no eran tan concisos y resultaban inutilizables. Un participante enfatizó que no estaban "centrados en el sobreviviente".

En cuanto al apoyo emocional, el chatbot híbrido superó a la búsqueda en Internet. Muchos participantes destacaron que el chatbot los consolaba con palabras sinceras. Casi todos los participantes afirmaron que no Podían obtener apoyo emocional a través de una búsqueda en Internet, ya que algunos resultados pueden empeorar aún más la condición mental de los sobrevivientes. Al leer titulares en los principales resultados de búsqueda que indicaban que muchos abusadores recibían castigos mínimos, muchos sobrevivientes pueden optar por no denunciar a la policía.

A partir de los resultados de nuestro estudio, sugerimos tres implicaciones de diseño para el chatbot. En primer lugar, una estructura de información centrada en el sobreviviente que indique la secuencia de métodos de afrontamiento. Dado que los sobrevivientes pueden tener dificultades para planificar estrategias de afrontamiento debido a la angustia emocional, el chatbot debe ayudarlos a planificar. En segundo lugar, los beneficios de una implementación híbrida para brindar apoyo informativo y emocional. El chatbot híbrido permite a los usuarios acceder a información al ingresar palabras clave y también los conecta con un módulo basado en reglas que brinda apoyo emocional e informativo. Por último, proponemos tener en cuenta la importancia de mantener conversaciones de apoyo emocional. Dado que los sobrevivientes de ASBI pueden ser emocionalmente inestables, el chatbot debe mencionar que su capacidad para consolar es menor que la de los humanos durante una conversación emocionalmente útil.

En conclusión, este trabajo ha creado una base de diseño para chatbots destinados a sobrevivientes de violencia sexual, utilizando la experiencia de expertos y elementos de diseño existentes. También hemos detallado el proceso de desarrollo del chatbot para inspirar a investigadores y profesionales a crear sistemas que apoyen a los sobrevivientes de violencia sexual. Estos chatbots pueden proporcionar información y apoyo emocional de manera accesible y útil en el contexto de sus vidas. Agradecemos al profesor Joonhwan Lee por su orientación y apoyo en este proyecto. Muchas gracias por su atención.

Destacados

• El abuso sexual basado en imágenes (ASBI) es un grave problema social que afecta a muchas personas.
• Los sobrevivientes de ASBI a menudo tienen dificultades para buscar ayuda debido a la vergüenza y el miedo.
• La información y el apoyo emocional son fundamentales para ayudar a los sobrevivientes de ASBI.
• Un chatbot híbrido puede brindar información y apoyo emocional a los sobrevivientes de manera más accesible e inmediata.
• El chatbot híbrido Presentó mejores resultados en comparación con las búsquedas en Internet en términos de apoyo informativo y emocional.

Preguntas frecuentes

1. ¿Qué es el abuso sexual basado en imágenes (ASBI)? El abuso sexual basado en imágenes se refiere a la creación y distribución no consensual de imágenes sexuales privadas.

2. ¿Cómo puede ayudar un chatbot a los sobrevivientes de ASBI? Un chatbot puede proporcionar información crítica y apoyo emocional de manera accesible y en cualquier momento del día.

3. ¿Cómo se desarrolló el chatbot mencionado en el artículo? El chatbot se desarrolló utilizando elementos de diseño y la ayuda de consejeros profesionales para brindar un mejor soporte a los sobrevivientes.

4. ¿Qué resultados se obtuvieron en el estudio de usuarios? Los participantes del estudio preferían el chatbot híbrido sobre los resultados de búsqueda en Internet en términos de apoyo informativo y emocional.

5. ¿Cuáles son las implicaciones de diseño sugeridas para el chatbot? Las implicaciones de diseño incluyen una estructura de información centrada en el sobreviviente, una implementación híbrida para brindar apoyo informativo y emocional, y considerar la importancia de las conversaciones de apoyo emocional.

6. ¿Qué contribuciones hace este trabajo a la comunidad HCI? Este trabajo ofrece una base de diseño para el desarrollo de chatbots para sobrevivientes de violencia sexual y detalla el proceso de desarrollo del chatbot para inspirar a otros investigadores y profesionales.

Recursos

• Seoul National University HCI+D Lab
• BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding