LOLA, la espía del acoso en la red

A muchos nunca les has dado un abrazo, ni un beso, ni te has tomado un refresco con ellos. Tus conversaciones son a través de la red a cualquier hora del día o de la noche. Cada una con diferente finalidad, desde la profesional hasta el ocio o el amor. Y es que responden a la necesidad de los seres humanos de estar en contacto con otras personas y cubrir el expediente de pertenencia.

Las redes sociales han revolucionado la comunicación. Son grandes aliadas para los tímidos pero también son un arma que hay que controlar, ya que detrás de avatares anónimos se encuentran individuos que engañan, insultan y menosprecian sin dar la cara. Liberan sus frustraciones sin tener en cuenta la importancia de las palabras. Dañan, y mucho, a los que están al otro lado de la pantalla.

Detectar a tiempo este comportamiento ayudará a parar conductas agresivas, rencorosas y con malos sentimientos. Arremeter contra alguien, acosarle y hacerle daño tiene los días contados con LOLA, una solución basada en la aplicación de técnicas de procesamiento natural de lenguaje e inteligencia artificial para el análisis de las emociones online.

Un aliado que ayuda a velar por los derechos de los ciudadanos cuando se conectan a internet. ¿Quién lo ha desarrollado? El equipo CyberBlue trabaja en universidades de Reino Unido como la de Exeter y Surrey y son miembros del Instituto Alan Turing, considerado el centro de referencia mundial de investigación en procesos sociales online e inteligencia artificial.

Aportan conocimiento que, tal y como explica David López-Berzosa, socio y director de la startup, sirve para detectar mensajes de odio y ciberacoso en tiempo real. Además, añade que analiza cómo se ha formado el proceso de ciberacoso grupal: las personas que han instigado este tipo de comportamientos, los mensajes que han creado el contagio social y las informaciones que impactan más en los internautas.

«Abordar el problema del ciberacoso requiere de la combinación de tecnología y sociología», apunta para, a continuación, subrayar que es necesario desarrollar tecnologías que permitan detectar en tiempo real el ciberacoso con el fin de evitar su propagación e impacto. En paralelo, considera fundamental utilizar «marcos teóricos sociológicos» que ayuden a comprender las estrategias de acoso y la manera en la que vulneran los derechos de la ciudadanía.

En la actualidad el saber hacer de CyberBlue se aplica para analizar procesos de ciberacoso en menores –estudiar qué tipo de mensajes son abusivos, cómo se genera el contagio, cuáles son las estrategias de los acosadores y analizar debates en las comunidades online– y contribuir al debate sobre cambio climático y la contaminación por plástico.

«Entender qué mensajes funcionan mejor, cuáles son las estrategias de interacción exitosas y las características emocionales de las estrategias óptimas es esencial».

En su opinión, la herramienta es diferente por dos motivos. Por un lado, LOLA utiliza tecnologías «punteras» basadas en inteligencia artificial y procesamiento natural de lenguaje para extraer un conjunto de emociones inherentes en una conversación humana, a diferencia de la mayoría de sistemas existentes. «Es capaz de aprender casi sin ayuda y sin grandes esfuerzos de desarrollo software», comenta. Por otro, afirma que no se ciñen a la perspectiva técnica del problema de la ciberseguridad. «Somos un equipo multidisciplinar capaz de crear herramientas complejas que analizan los problemas sociales holísticamente», apostilla López-Berzosa.

Respecto a las ventajas, celebra que la solución tiene un nivel de precisión muy elevado, alrededor del 85% en emociones básicas. A esto se suma la capacidad de aprender nuevas emociones de manera independiente «con poco esfuerzo de desarrollo» y la combinación de inteligencia artificial con inteligencia social.

El director de CyberBlue expone que Internet presenta «importante riesgos» para sus usuarios, en especial para los más jóvenes. «El ciberacoso suele conllevar un impacto psicológico y emocional en las personas que lo sufren». En este punto, hace referencia a una encuesta realizada entre víctimas de ciberacoso donde se observó que el 41% desarrolló fobia social, el 37% estados depresivos, el 26% tuvo pensamientos suicidios y el 25% se infligió a sí mismo algún tipo de daño físico.

Por este motivo, tanto en Reino Unido como en la Unión Europea están desarrollando marcos regulatorios que redefinen la responsabilidad de las empresas que participan o gestionan servicios online en relación a la protección de los usuarios. En este nuevo contexto, declara que las organizaciones están expuestas a un mayor riesgo reputacional «por la falta de gestión de la ciberseguridad en sus operaciones de infraestructuras y actividad online». Pone como ejemplo plataformas de comercio electrónico, noticias online, foros, servicios de comunicación, servicios de búsqueda, etc.

De ahí, puntualiza, que esta situación abra una ventana de oportunidad empresarial y de impacto social dado que la mayoría de las organizaciones y operadores de internet tendrán que desplegar sistemas de supervisión de la actividad online y prevención temprana de riesgo, es decir, poner escudos para acabar con el ciberacoso, la incitación al odio online y la desinformación.

Llevan más de diez años trabajando en este proyecto, aunque CyberBlue nació como startup hace uno. Y lo hizo porque, según destaca su director, el ciberacoso está empezando a ser un problema muy grande y no existen herramientas para detectarlo. «El 75% de los jóvenes que sufre ciberacoso no lo cuenta y el 26% lo sufre a través de las redes sociales, internet y las nuevas tecnologías».

Por todo ello, pensaron que unir fuerzas era una buena oportunidad. «Él (David) pondría su increíble capacidad para programar y analizar datos y yo me encargaría de definir los problemas sociales y diseñar las herramientas de análisis holísticos», cuenta Itziar Castello, socia de CyberBlue.

Sus planes de futuro pasan por buscar la manera de trabajar con instituciones públicas y empresas privadas para abordar el problema de la protección de los usuarios conectados mediante la creación de casos de uso con impacto real. Ya están colaborando con desarrolladores de aplicaciones de control parental para que puedan usar la tecnología sin coste. «Contamos con el apoyo del Incibe y de Google para el desarrollo de casos de uso sobre ciberacoso», informa.

Otro paso al frente es la colaboración con una gran aseguradora de Reino Unido para la detección temprana de situaciones de emergencia. «Los resultados de esta experiencia queremos aplicarlos en el medio plazo a la gestión de la reputación online de una marca o producto», concluye.