Según me he encontrado dando una vuelta por Twitter, la coalición Acción por la Justicia Algorítmica (AxJA) se ha creado para «desafiar la falta de control democrático, transparencia y rendición de cuentas en el uso y adquisición de sistemas de toma de decisiones automatizadas e inteligencia artificial en España.» Esto me recordó una de las tres cosas que Sir Tim Berners-Lee explicaba que había que arreglar para que la Web sobreviviera, y de esto hace cinco años.
La web incluye un oportuno Manifiesto por la Justicia Algorítmica:
Queremos un mundo en el que la inteligencia artificial y los sistemas de toma de decisión automatizada sean transparentes y respetuosos con las personas.
Vivimos en una sociedad dirigida por códigos y datos. Códigos que deciden qué camino tomar cuando buscamos una ruta en el navegador, qué publicaciones vemos en nuestras redes sociales o incluso si podemos cruzar una frontera o no. Un mundo en el que la falta de control y supervisión de los sistemas de toma de decisión automatizada se ha constituido como uno de los retos emergentes más urgentes de nuestra sociedad.
Tanto las empresas privadas como las instituciones públicas confían cada vez más en soluciones tecnológicas como el reconocimiento facial, el reconocimiento de emociones, algoritmos para la predicción de riesgos u otras situaciones que han demostrado reproducir y amplificar sesgos, discriminación y vulneración de derechos. En el auge de la incorporación de estos sistemas en nuestras vidas nos encontramos con procesos opacos donde no se cumplen las disposiciones sobre derechos de la ciudadanía ni se hace de forma transparente.
(…) Por todo ello, vamos a pasar a la acción frente a las malas prácticas y abusos de estas nuevas tecnologías para construir una sociedad donde crear, usar y adquirir estos sistemas tecnológicos se haga de forma transparente, democrática y respetuosa con todas las personas.
Además de esto hay información acerca de la tecnología de las cookies, la brecha digital y la poco o nada idónea implementación de algunos algoritmos de reconocimiento facial.
También hay información sobre cómo unirse y de quiénes ha partido la iniciativa, promovida por Maldita.es, Xnet, Digital Fems, Irídia, @Inter_ferencias, la Asociación de Estudiantes Universitarios por la Defensa de los Derechos Fundamentales, Karisma (Colombia) y Panoptykon (Polonia).
Ya hemos añadido el manifiesto a nuestra larga lista de manifiestos, declaraciones y tesis relacionadas con el ciberespacio, la ciencia y la tecnología.
Relacionado:
- Tres cosas que según Tim Berners‑Lee hay que arreglar en la Web
- Esos algoritmos que gobiernan nuestras vidas
- Directrices éticas para una inteligencia artificial fiable
- La ética de un algoritmo que juzga a las personas por su aspecto y por lo que opinan los demás sin conocerlas
- Sobre la ética de los asistentes inteligentes
- La demo de la API de Cloud Vision, la IA de Google, un poco inquietante
- Lo que esconden las «catedrales tecnológicas» del siglo XXI
- El enemigo conoce el sistema: manipulación de ideas, personas e influencias
- 85 grupos de verificadores de datos de todo el mundo escriben una carta abierta de protesta a YouTube
