Inteligencia artificial para combatir la violencia de género

Una innovadora iniciativa de IA feminista ofrece asesoramiento a víctimas de violencia digital, con “las necesidades y experiencias de las mujeres en el centro del diseño”, explican sus desarrolladoras.

CHILE
AGENCIAS

“¡Hola! Soy Sof+IA”, comienza el diálogo. “Estoy aquí para ofrecer apoyo y orientación a mujeres que enfrentan acoso digital”, continúa.

“Puedo ayudarte a entender cómo hacer una denuncia, ya sea de manera presencial o en línea, y también puedo ofrecerte recomendaciones de autocuidado digital, para que puedas seguir utilizando tus redes sociales de manera segura”, ofrece la interlocutora.

Ella es una chatbot (programa informático capaz de mantener una conversación en tiempo real), y para más datos, feminista. Y su nombre es el acrónimo de “Sistema de Oída Feminista + Inteligencia Artificial”.

¿Su objetivo? Brindar apoyo y orientación a las víctimas de la “violencia de género facilitada por la tecnología”, concepto que incluye abusos como acoso, hostigamiento, intercambio no consentido de imágenes íntimas y hasta amenazas de muerte.

Veamos su funcionamiento. A la consulta sobre qué hacer ante comentarios agresivos recibidos en las redes, responde: “Lamento mucho que estés enfrentando agresiones en línea por compartir tus ideas. Aquí te dejo algunas recomendaciones: No respondas a las agresiones, utiliza las herramientas de las plataformas para bloquear a quienes te agreden y reportar sus comentarios, ajusta la privacidad de tu cuenta, toma capturas de pantalla de los mensajes agresivos, habla con amigas o personas de confianza sobre lo que estás viviendo. Y recuerda que lo que estás haciendo al alzar tu voz es importante y valioso”, indica rauda y concisa Sof+IA.

“Se trata de un prototipo de IA generativa feminista”, puntualiza en entrevista Patricia Peña, directora de la Fundación chilena Datos Protegidos, creadora de la iniciativa junto al Observatorio de Estadísticas de Género e Interseccionalidades de Chile (ODEGI).  “A diferencia de otros modelos conocidos, como ChatGPT, por ejemplo”, diferencia.

“La innovación detrás de SOF+IA no se limita a su funcionalidad técnica, es una manifestación de principios feministas sólidos, fusionando ética y tecnología y situando las necesidades y experiencias de las mujeres en el centro del diseño”, explican en su presentación oficial.

“Surge en la intersección entre la tecnología y la justicia social”, suma, asimismo, Peña desde la capital chilena. “A diferencia de otros modelos conocidos, como ChatGPT, por ejemplo”, diferencia.

El contexto es contundente: “La violencia de género es cada vez más frecuente en línea”, aseguran desde el Centro Internacional de Investigaciones para el Desarrollo (IDRC), ente financiador del proyecto junto con la Red Feminista de Investigación en IA (FAIR).

“Una encuesta en 18 países dirigida por el Centro para la Gobernanza Internacional encontró que aproximadamente 6 de cada 10 mujeres, así como comunidades transgénero y no binarias, han experimentado este tipo de violencia”, indican.

¿IA FEMINISTA?

Así las cosas, la propuesta es andar otro camino: “Existe una IA feminista que milita por algoritmos inclusivos, recolección y uso de datos que no excluyan a diferentes grupos, buscando abrir espacios que beneficien a las mujeres y sus comunidades”, plantea la científica principal del Consejo Francés para la Ciencia y la Investigación, la experta mexicana Genoveva Vargas-Solar.

“Al centrarse en principios feministas, cuestionando quién puede poseer, desarrollar y usar la IA, así como entenderla como un asunto de poder, la inteligencia artificial puede pensarse en otros términos, de manera que las comunidades tengan más herramientas para acceder a la justicia social, al conocimiento, a los medios de producción, y desafíen las estructuras desiguales y las asimetrías existentes”, propone, en tanto, Ricaurte Quijano.

Y así, enmarcada en esta visión, la chatbot Sof+IA seguirá asesorando 24/7 a las víctimas de violencia digital, y les repetirá cada vez: “Recuerda que lo que estás viviendo NO es tu culpa y tienes derecho a protegerte. Si necesitas más información sobre cómo denunciar o sobre autocuidado digital, aquí estoy para ayudarte. ¡Cuídate mucho!”.

Desde este link puedes dialogar con Sof+IA https://sofiachat.cl/chatbot

¿ES NEUTRAL LA IA?

Nada casual, sostiene Paola Ricaurte Quijano, investigadora titular del Departamento de Medios y Cultura Digital del Tecnológico de Monterrey: “La inteligencia artificial es sexista porque opera dentro de las mismas estructuras sociales que generan y mantienen las prácticas discriminatorias hacia el género y la diversidad sexual”, explica. “La IA reproduce y amplifica los problemas de discriminación histórica”, asegura.