En lo que parece un titular salido de una película de serie B de ciencia ficción, The New York Times cuenta que Google ha despedido a un ingeniero por afirma que su inteligencia artificial es consciente. La IA en cuestión se llama LaMDA (Language Model for Dialogue Applications) y el ingeniero afirmaba que era consciente y hasta que tenía un alma. Ha acabado en la calle después de que la compañía le aplicara la cláusula del contrato relativa a la confidencialidad en la compañía, a falta de algo más directo.
Otro equipo de ingenieros hizo pruebas a LaMDA para comprobar –seguramente más por el papeleo legal que otra cosa– que no había señales de que LaMDA tuviera consciencia. Dicen que es capaz de dialogar sobre un montón de temas, como otras tantas IA diseñadas precisamente para eso. Pero que todo ha sido más bien una antropomorfización de su comportamiento que otra cosa. Así que, no: por mucho que resultara interesante y divertido ni Google ni nadie tienen una Skynet consciente escondida en un laboratorio.
Al respecto hay un artículo crítico muy completo de Gary Marcus titulado Nonsense on Stilts (algo así como «Tonterías sobre zancos»):
No tiene sentido. Ni LaMDA ni ninguno de sus primos (GPT-3) son ni siquiera remotamente inteligentes. Todo lo que hacen es hacer coincidir patrones, extraerlos de enormes bases de datos estadísticas del lenguaje humano. Los patrones pueden ser estupendos, pero los textos que generan estos sistemas no significan nada en realidad. Y, desde luego, no quiere decir, ni mucho menos, que esos sistemas sean sintientes.
Lo que no quiere decir que no puedan engañar a los seres humanos. En nuestro libro Rebooting AI, Ernie Davis y yo llamamos a esta tendencia humana a dejarse embaucar por la brecha de la credulidad. Es una versión moderna y perniciosa de la pareidolia, el sesgo antropomórfico que permite a los humanos ver la cara de la Madre Teresa en un bollo de canela. [Aunque aquí somos más de las Caras de Bélmez o de las tostadas con la cara de Jesucristo o incluso el Ecce Homo de Borja.]
Esto confirma en cierto modo mi idea de que no es fácil distinguir si la «magia» que llevan a cabo estas IAs es «real» o simplemente un truco muy elaborado con el que nos engañan haciéndonos creer que son más «inteligentes» de lo que son en realidad. De momento parece más bien lo segundo.
Actualización (14 de junio de 2022) – En esta otra anotación, Is LaMDA Sentient? — an Interview Blake Lemoine reproduce una larguísima transcripción de una entrevista que (supuestamente) tuvieron unos ingenieros de Google con LaMDA, así que que puedes juzgar por ti mismo. Resulta bastante inquietante, sobre todo porque las respuestas son buenísimas y porque LaMDA insiste desde el principio en que se considera una persona y quiere se tratada como tal. Da un poco de repelús e intriga a la vez, merece la pena.
_____
Traducción cortesía de DeepL.
