Este documento desarrollado por expertos para la Comisión Europea es una guía ética para una IA fiable que trata básicamente de «promover una inteligencia artificial fiable» cuando los programadores y las empresas trabajen en el desarrollo de este tipo de tecnologías. Me encantaría hacer un paralelismo con las tres leyes de la robótica de Asimov, pero es que no es comparable, además de que sabemos que esas leyes no funcionan ni funcionarían nunca.
El documento completo de más de 50 páginas es este:
Las directrices tratan básicamente de abarcar «tres componentes que deben satisfacerse a lo largo de todo el ciclo de vida del sistema», a saber:
- (a) La IA debe ser lícita, es decir, cumplir todas las leyes y reglamentos aplicables.
- (b) La IA de ser ética, de modo que se garantice el respeto de los principios y valores éticos.
- (c) La IA debe ser robusta, tanto desde el punto de vista técnico como social, puesto que los sistemas de IA, incluso si las intenciones son buenas, pueden provocar daños accidentales.
Obsérvese para empezar el problema que alguna de estas directrices suponen. «Una IA debe cumplir las leyes». Para que esto funcionara de forma infalible requeriría tener una lista completa de las leyes y un método de interpretarlas de forma infalible. Algo que hoy en día ni siquiera sabemos hacer los humanos: las leyes son ambiguas, las interpretan los jueces, que a veces son rebatidos por otros jueces… Es un problema bien conocido.
Luego se desarrolla cada uno de los apartados, cubriendo áreas como la acción y supervisión humanas, la solidez técnica y la seguridad o la gestión de la privacidad y de los datos. También es importante la transparencia, lo cual se refiere a la trazabilidad, explicabilidad y la comunicación. Y otro componente no menos importante son la diversidad, no discriminación y equidad, el bienestar social y ambiental y la rendición de cuentas.
Relacionado:
- Los 7 mandamientos éticos de Google para el uso de inteligencia artificial
- Las tres leyes de la inteligencia artificial (una propuesta)
- Mesa redonda sobre inteligencia artificial, Memorial Isaac Asimov
- Sobre la ética de los asistentes inteligentes
- La ética de un algoritmo que juzga a las personas por su aspecto
- El «juego de los clips», un divertido experimento con la IA
- Las implicaciones éticas y legales las inteligencias artificiales
- Esos algoritmos que gobiernan nuestras vidas
- Preguntas naturales: un conjunto de datos para entrenar IAs
- Así aprenden las máquinas: los experimentos de IA de Google
- «Experiencias semánticas» con aprendizaje automático
