CÓMO NOS MANIPULAN LOS ROBOTS



“Es todavía peor de lo que parece”. Es la respuesta que estoy dando estos días a los amigos que me han preguntado por el último Retina Paper “Noticias falsas: un asunto de robots”.

Antes de continuar, les aclaro que hay todo tipo de cuentas falsas (también conocidas como bots): buenas, regulares y malas. Exactamente como con los Gremlins. Los bots útiles se dedican a juntar informaciones de varios medios, por ejemplo, para crear un feed de noticias. Algunas empresas tiran de ellos para que les ayuden a responder preguntas de usuarios. Estamos acostumbrados ya a hablar con estas máquinas. “Pulse uno si lo que quiere es concertar una cita”. “Creo que no le he escuchado bien”…

Pero lo que hacen las cuentas robot malas es algo de lo que todavía no somos muy conscientes, básicamente porque han aprendido a comportarse como humanos. Interactúan con nosotros como si fueran uno más, pero seguimos hablando con una máquina. Y esa máquina está programada con un objetivo claro: manipularnos. Creo que los motivos se los puede imaginar todo el mundo: vender más, alterar el precio de algo, influirnos políticamente, robar datos personales, sembrar pánico…

¿Cómo lo hacen?

Partamos de la base de que en las redes sociales no somos capaces de distinguir a un robot de un humano. En el mundo real eso no nos pasa, evidentemente. En el virtual las personas tendemos a fiarnos más en general (sobre todo si esa persona es “popular”, aunque sus miles de seguidores sean falsos también).

¿Verdad que si vas andando por la calle y un tío al que no conoces de nada te cuenta que hay vida en Marte, no lo creerás? ¿Y si lees en Facebook o Twitter que una persona con muchos seguidores está diciendo que hay vida en Marte? ¿Es posible que valores la veracidad de esa información de otra manera? Es un ejemplo un poco extremo, lo admito, pero imagina que te dicen algo como: se ha muerto Fulanito. O, un ataque terrorista en la casa blanca. O, detectados casos de malformaciones por la vacuna “x”.

Los bots malos son muy listos a la hora de contagiarnos con noticias falsas porque una de las tácticas que utilizan es mencionar a cuentas o personas famosas. “Hay vida en Marte @nytimes” parece un mensaje respuesta a una noticia publicada por el New York Times.

Los robots y los que los programan son todavía más listos que eso. Saben por nuestros perfiles qué nos gusta, qué opinamos sobre muchas cuestiones y lo que hacen es bombardear con esas noticias falsas a la gente que es más probable que se las crea (y por lo tanto las difunda). Es decir, atacan a los más vulnerables en cada caso para propagar su virus.

Se conocen ya muchos casos en los que los bots han jugado un papel importante. ¿A alguien le suena la historia de un mini crash que vivió la bolsa de Nueva York por culpa de operaciones automáticas? Fue el mayor de su historia, pero duró muy poco. Un error en bots programados para operar en los mercados bursátiles organizó ese pánico en un “pispás”. No está muy claro por qué se volvieron locos de repente.

El caso es que hay operadores de bolsa virtuales que tratan de encontrar información útil para comprar y vender acciones rastreando las redes sociales e internet. Si un grupo considerable de personas, algunas con relevancia (medida por número de seguidores), empieza a hablar en Twitter de un producto o servicio concreto, estos robots vigilantes son capaces de detectar la tendencia y empezar a tomar posiciones en los mercados. Algo así ocurrió con una empresa llamada tecnológica llamada Cynk. Mucha gente empezó a hablar de ella en internet y redes sociales y los bots se dieron cuenta. Empezaron a comprar acciones de la compañía. Los títulos subieron como la espuma. Cynk llegó a valer 5.000 millones en bolsa. Pero era todo mentira: la conversación era artificial, la habían alimentado unos robots muy bien entrenados. Cuando se supo el engaño los títulos cayeron y unos cuantos inversores registraron pérdidas reales.

Bots de segunda mano

Estas cuentas fantasma se pueden reprogramar. Por ponerlo en términos muy simples: se pueden activar al detectar la palabra “Trump” y se pueden volver a programar para que se activen cuando lean “Macron”. No es ciencia ficción. Esto ya ha pasado. Algunas de las redes de cuentas falsas que difundieron noticias que favorecían al candidato estadounidense Donald Trump se fueron a “dormir” tras su victoria. Pero… alguien los reactivó para propagar noticias contra Emmanuel Macron en los comicios franceses meses después. Es decir, hay un mercado negro de estas cuentas zombies y malas. Así se desprende de la investigación de Emilio Ferrara, un profesor de la Universidad de Los Ángeles.

¿Qué pretendían esos los bots? Pues para alterar la opinión pública en el sentido en el que quiera su programador (nadie sabe muy bien quién es pero muchos bots apuntan a Rusia últimamente). Y si no consiguen convencer a la gente, por lo menos durante un tiempo han generado el suficiente ruido para alejar a la audiencia de atender a otros hechos. Una estrategia que han seguido parece ser algunos gobiernos que han sufrido revueltas populares.

Guía rápida para detectarlos

Si llegado este momento estás muerto de miedo, he aquí un breviario de pistas para detectarlos en Twitter:

Los bots retuitean más que los humanos.
Los bots tienen nombres más largos.
Los bots tuitean y son retuiteados menos

Estas serían algunas de sus características básicas, pero no definitivas, porque los investigadores no saben todavía distinguir del todo bien a estos robots en la redes sociales. Se empezó con técnicas rudimentarias, como poner ratoneras en las puertas. Claro, cayeron los bots más “tontos”. Pero el nivel de sofisticación es muy elevado en otros casos. Las propias empresas Facebook, Twitter o Instagram, no quieren tener cuentas fantasmas y se supone que luchan todos sus medios (sin poder aclarar su táctica porque eso daría ventaja al enemigo) contra la propagación de estos usuarios robot.

Es posible que en el futuro se desarrollen las herramientas necesarias para convertir a estos bots en lo que hoy es el correo spam: una máquina muy lista capaz de quitarnos esos correos inútiles y engañosos de encima. Pero no estamos ahí todavía. Y no se sabe tampoco si llegaremos… Hasta entonces, queridos amigos del mundo virtual, ojo avizor.

Para leer

Etiquetas: , , ,




Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *