Lleva unos días haciendo las rondas la noticia acerca de dos bots creados por programadores de Facebook que supuestamente se pusieron a hablar entre ellos en un lenguaje que inventaron y que ni sus creadores podían entender. Según la noticia en cuestión éstos, temerosos de lo que las dos IA desbocadas pudieran pergeñar, tomaron la decisión de apagarlos antes de que la cosa se les fuera de las manos.
Pero la realidad, como me suponía desde el primer momento, es mucho menos espectacular y clickbaitera.
Según se puede leer en No, Facebook Did Not Panic and Shut Down an AI Program That Was Getting Dangerously Smart no pasó ninguna de esas cosas apocalípticas.
Los dos bots, basados en redes neuronales, estaban programados para aprender a negociar y llegar a un acuerdo, ya fuera negociando con personas o con otros bots.
Según sus creadores llegaron a funcionar muy bien a la hora de negociar con personas, tanto como para que el negociador humano no se diera cuenta de que estaba «hablando» con un programa. Pero cuando los pusieron a negociar uno contra otro fue cuando empezaron a desarrollar esa especie de lenguaje propio porque los programadores habían olvidado incluir las reglas necesarias para que conversaran en un lenguaje comprensible para un humano.
Así que los bots empezaron a ajustar su «idioma» para optimizar el intercambio de información, pero si me apuras eso es casi como cuando dos personas hablan de un tema que tienen en común usando expresiones propias o con dobles sentidos. O como cuando cualquiera de nosotros están con alguien con quien tiene mucha confianza, que a veces con decir una palabra basta para entender mucho más.
Y cuando sus programadores cayeron en la cuenta de lo que estaba pasando simplemente decidieron detener el experimento porque se estaba apartando de su objetivo de que los bots pudieran hablar con la gente.
Luego vino aquello de que «no dejes que la realidad te estropee una buena noticia», el verano y la escasez de noticias con enjundia, y el resto son montones de artículos, piezas de radio y televisión, anotaciones en blogs, tuits, etc, en los que cualquier parecido con la realidad es pura coincidencia.
(Richard Tromans vía Paloma Llaneza).
