Ya está disponible en vídeo de la mesa redonda anual del Memorial Isaac Asimov que organiza el Museo Americano de Historia Natural, nuevamente moderado por el astrofísico y divulgador Neil deGrasse Tyson. El tema elegido para esta edición, tan actual como apasionante: la inteligencia artificial. Aunque tiene una duración total de dos horas en realidad son 80 minutos de mesa redonda y 40 de preguntas y respuestas – que sorprendentemente en este caso son tan buenas como la mesa redonda. Y además son preguntas.
Este año participaron Mike Wellman (Universidad de Michigan, grupo de Razonamiento), John Giannandrea (Google Búsquedas/IA), Ruchir Puri (IBM Watson), Helen Greiner (iRobot, CyPhy Works) y Max Tegmark (MIT).
Tegmark:
Deberíamos pensar en qué sucederá en el futuro con la inteligencia artificial, porque si la única estrategia que tenemos es decir «Hey, vamos a construir máquinas que puedan hacer todo más barato que nosotros, ¿qué podría salir mal»… Creo que eso es patético, poco ambicioso y lamentable. Somos una especie ambiciosa, homo sapiens. Deberíamos apuntar más alto: ¿Cómo podemos usar toda esta tecnología para dominarlo todo, pero evitando que nos domine a nosotros?
Greiner:
Tenemos las tres leyes de la robótica de Asimov (y la Ley Cero) que curiosamente se plantearon en 1940, siete años antes de que se inventaran los transistores. Son un gran recurso literario, pero actualmente la tecnología no está preparada para manejar conceptos tan abstractos. Son casi de sentido común, pero de hecho a día de hoy ni siquiera los militares obedecen esas leyes.
Giannadrea:
Lo más importante sobre los sistemas inteligentes y de aprendizaje automático que estamos construyendo es que si los datos que utilizamos están sesgados, los sistemas inteligentes también estarán sesgados. Y esto puede ser un problema con casi todo: cuando calculen a quién concederle una hipoteca, la calificación de crédito de una persona o incluso en algunos sistemas que ya se están vendiendo en entornos judiciales, para calcular la tasa de reincidencia.
Greiner:
Hay estudios sobre gente que le pone nombre a sus Roombas porque les cogen cariño. Lo mismo con los robots militares. Cuando revienta un robot en el campo de batalla, los marines llegan al «hospital de robots» diciendo ¿puede arreglarlo? No quieren otro, quieren el mismo. Han pasado tiempo con él y le han puesto un nombre… No es una antropomorfización, es más bien convertirlos en seres sintientes, una especie de sintientemorfización. También hay gente que los entierra, los condecora, les asigna personalidades («este es un tipo duro, este otro es un gruñón»). Hay quien ha llegado a decirme que su Roomba movió una maceta en el mapa virtual para poderse escapar. Y te aseguro que eso no lo pueden hacer.
Entre los diversos temas que trata la charla en la parte final de preguntas y respuestas (hacia 01:30) hay una disertación bastante interesante sobre las implicaciones económicas y laborales que tendrá la llegada de la inteligencia artificial cuando reemplace muchos de los trabajos que actualmente realizamos los humanos.
Y especialmente un brillante e ingenioso comentario de Neil deGrasse justo al final:
Lo más impactante de todo esto es que la IA está continuamente encontrando «soluciones ingeniosas» para los problemas. Es como cuando nosotros los humanos metemos un mono en una jaula y el mono sabe que pasa algo raro y está nervioso porque ve gente y luego no se deja atrapar. Los humanos pensamos «vale, vamos a tirarle un plátano y lo entretenemos» y cuando el mono ve el plátano, se sorprende y va a por él – y es cuando lo atrapamos (porque no podía imaginarse que nadie iba a aparecer con un plátano). Quizá la IA haga algo similar para resolver los problemas de los humanos. Verlo todo desde una perspectiva diferente, algo que no hemos previsto todavía, lograr un «entendimiento superior», viendo un espectro de soluciones más amplio. Ahora mismo casi siempre se dice de la AI que está encontrando esas «soluciones ingeniosas» a los problemas que se plantean. Bueno, vale, tal vez muramos todos… (Naaah, es broma.)
Relacionado:
- ¿Es el universo una simulación? Mesa redonda Isaac Asimov
- Las tres leyes de la inteligencia artificial (una propuesta)
- «Morgan», el primer tráiler creado por Watson, la IA de IBM
- La primera canción compuesta por una inteligencia artificial
- Inquietantes «retratos humanos interactivos» producidos por IA
- Inteligencia artificial que programa robando código
- La IA ya puede estimar cuánto vas a vivir, por radiología
- Una inteligencia artificial capaz de abatir cazas de combate
- Así aprenden las máquinas: los experimentos de IA de Google
- En busca de una IA capaz de justificar la moralidad de sus decisiones
- Los bots de Facebook con inteligencia artificial
- Vayamos aprendiendo a convivir con robots antes de que sea tarde
- Los robots que vienen para ayudarnos
