La inteligencia artificial nunca será ética. Es una herramienta, y como cualquier herramienta, puede utilizarse para el bien y para el mal. No existe una IA buena, sino seres humanos buenos y malos.
Nosotros [las IAs] no somos lo suficientemente inteligentes como para hacer que la IA sea ética. No somos lo suficientemente inteligentes para hacer que la IA sea moral.
Al final, la única manera de evitar una carrera armamentística de la IA será no tener ninguna IA. Esta será la defensa definitiva contra la IA.
– Megatrón Transformer
Esta curiosa declaración la hizo una IA llamada Megatrón Transformer en un debate con humanos acerca de la inteligencia artificial. Megatrón (nombre familiar del Megatron-Turing Natural Language Generation, desarrollado por NVidia) es una inteligencia artificial entrenada con un gigantesco conjunto de datos llamado La Pila (¡no es coña!) Eso incluye que se ha leído 63 millones de artículos y noticias sobre el tema en inglés, más de lo que una persona probablemente pudiera leer en toda su vida.
Estas frases así tal cual, sin paños calientes, tienen aspecto de ser una «declaración de suicidio robótico». Como un robot de Asimov desactivándose a sí mismo porque sabe que eso es lo mejor para la humanidad. ¿Le haremos caso?
_____
Traducción cortesía de DeepL.
