General

Cruce de cables: la primera Ley de inteligencia artificial

Por @Alvy —

Cruce de cables 24 (15 de febrero de 2025)

Un robot en la cocinaLey de inteligencia artificial [~22:00] – En este Cruce de Cables hablamos de la Ley de IA del Parlamento Europeo, un reglamento que se aprobó en 2024 y que ya en 2025 está en marcha hasta que se complete su despliegue en 2027. Entre otras cosas busca asegurar que los sistemas de IA respeten los derechos fundamentales, la seguridad y los principios éticos:

  • ¿Qué implica para las empresas el enfoque de riesgo de la Ley de IA de la UE? ¿Qué medidas específicas se han implementado para proteger los derechos fundamentales de los ciudadanos? Básicamente tendrán que vigilar cómo la usan y qué datos recaban, calificando los riesgos: inaceptable, alto, limitado, mínimo…
  • ¿Cuáles son los ejemplos de prácticas de IA que la nueva ley prohíbe explícitamente? Cámaras de reconocimiento facial masivas, datos biométricos como escáneres del iris, manipulación subliminal, sistemas que pueden usar datos sensibles (origen étnico, creencias religiosas etc) para discriminar o dar trato injusto.
  • ¿Cómo se espera que la Ley de IA afecte la innovación en el sector tecnológico dentro de la UE? En este punto hay un gran debate sobre si esta ley es demasiado protectora y frenará la innovación (ej. complejidad de cumplimiento, explicabilidad) o hará Europa más segura, con mejores prácticas y generará mayor confianza. Quienes dicen que es demasiado protectora bromean con que mientras mientras otros países desarrollan IAs superpotentes como ChatGPT, Deepseek y demás aquí la mayor innovación reciente han sido «los tapones de las botellas de plástico». Una afirmación un tanto injusta porque se están haciendo desarrollos, aunque habrá que ver si esas mejores prácticas sirven de algo a largo plazo.
  • ¿Cuáles son los plazos para la implementación completa de todas las disposiciones de esta regulación? Desde que arrancó en 2024 está en marcha de más riesgo a menos riesgo. En agosto de 2025 entrarán en vigor las normas relacionadas con modelos de IA de uso general, confidencialidad y las sanciones. En 2026 lo harán las aplicables a aplicaciones específicas e incluyen el ID biométrico, categorización de personas, operación de infraestructuras críticas, acceso a servicios públicos esenciales… Y finalmente en 2027 las del uso como "componentes de seguridad". Luego la Ley de IA se irá actualizando.

Relacionado:

Compartir en Flipboard Publicar
General

Cruce de cables: ¿se avecina un nuevo invierno de la inteligencia artificial?

Por @Wicho —

Cruce de cables 23 (8 de febrero de 2025)

Una niña pequeña interactuando con un robot¿Viene un nuevo invierno de la inteligencia artificial? [~15:50] – En este Cruce de Cables le damos un repaso a la historia de la inteligencia artificial y nos planteamos si puede estar llegando un nuevo invierno de la IA, en especial con el pinchazo de la burbuja que parece haber supuesto la llegada de los desarrollos chinos liderados por DeepSeek.

  • Tradicionalmente se habla de dos inviernos de la IA desde que el término fue pergeñado en la conferencia de Dartmouth del verano del 56.
  • Uno transcurrió entre 1974 y 1980 cuando quedó claro que las promesas de grandes avances en traducción automática, resolución de problemas o visión artificial no se iban a cumplir. El MundoReal™ resultó ser mucho más complejo de lo que parecía y de lo que podían afrontar el tipo de soluciones y la potencia de cálculo disponibles en la época. Sin resultados no hay dinero.
  • El siguiente vino cuando tras unos inicios prometedores a principios de los 80 fue quedando claro que los sistemas expertos tampoco eran la solución que iba a permitir la creación de una inteligencia artificial general. Aunque por primera vez la IA demostró su utilidad en aplicaciones concretas y limitadas gracias a estos sistemas. También fue la primera vez que las redes neuronales se demostraron efectivas, en este caso en tareas de reconocimiento de textos.
  • La ola de entusiasmo actual viene más o menos a partir de 2005 cuando la cada vez mayor capacidad de cálculo disponible unida con colecciones cada vez más grandes de datos permitieron que el aprendizaje automático empezara a funcionar, más en concreto el aprendizaje profundo. .
  • Pero parece que tras los grandes avances aparentes de ChatGPT y familia –que no dejan de ser cuñados estocásticos que hablan de todo sin saber realmente nada– cada vez les cuesta más avanzar, entre otras cosas porque se alimentan de información que recopilan de Internet y en la red cada vez hay más bazofIA –contenidos de calidad más que dudosa– que a veces hacen que incluso retrocedan.
  • Así que lo mismo winter is coming de nuevo para la IA.

En cualquier caso, los diez minutos del programa no dan para mucho, así que recomiendo mucho la lectura de El sueño de la inteligencia artificial, el libro de Gisela Baños, también colaboradora del programa, para los cables que quieran saber más sobre la historia de la IA.

_____
Cada semana grabamos con David Sierra en el distendido ambiente de Cruce de Cables, el programa de Radio Nacional de España, como colaboradores habituales. Se emite en RNE los sábados de 03:00 a 04:00.

El enlace a Amazon al libro de Gisela lleva nuestro código de asociado, así que si compras el libro o alguna otra cosa tras haberlo seguido es posible que cobremos algo en forma de comisión. Pero como siempre si lo compras en la librería de tu barrio nos parecerá igual de estupendo.

Relacionado:

Compartir en Flipboard Publicar
General

Cruce de cables: algunas veces que la tecnología y las armas nucleares casi la lían parda

Por @Wicho —

Cruce de cables 21 (25 de enero de 2025)

Un robot en la cocinaJuegos de guerra en el MundoReal™ [~12:20] – En este Cruce de Cables hablamos de algunas ocasiones en los que la mezcla de ordenadores y armas nucleares estuvieron a punto de liarla parda, aunque empezamos por un cruce literal de cables. De cables de cobre, no de las personas que escuchan el programa.

  • Y es que en la noche del 25 al 26 de octubre de 1962 unos cables mal conectados hicieron que dos escuadrones de aviones interceptores F-106 A que estaban de alerta en la Base Aérea de Volk cargados de combustible y armas, incluyendo un misil nuclear Genie en cada uno de los aviones recibieran la orden de despegar de emergencia. Aunque no había tal emergencia. Menos mal que alguien se dio cuenta y consiguió pararlos. Porque en plena Crisis de los misiles de Cuba podía haber pasado cualquier cosa.
  • Otra historia que pone los pelos de punta es la de cuando el 9 de noviembre de 1979 saltaron todas las alarmas en el NORAD –sí, el de Juegos de guerra– al saltar una alarma procedente de otros cuatro centros de comando subordinados que indicaba que se habían detectado 1.400 misiles intercontinentales soviéticos de camino a los Estados Unidos. Aunque en realidad es que alguien en el Pentágono estaba haciendo unos juegos de guerra y se había olvidado de avisar.
  • Pero la que más miedo da y la que estuvo más a punto de terminar con nuestra civilización fue cuando el 26 de septiembre de 1983 los ordenadores del equivalente soviético al NORAD dieron la alarma de que los Estados Unidos habían lanzado misiles contra la Unión Soviética. Menos mal que la presencia de ánimo del teniente coronel Stanislav Petrov le llevó a concluir que, dijeran lo que dijeran los ordenadores, tenía que ser una falsa alarma.

_____
Cada semana grabamos con David Sierra en el distendido ambiente de Cruce de Cables, el programa de Radio Nacional de España, como colaboradores habituales. Se emite en RNE los sábados de 03:00 a 04:00.

Relacionado:

Compartir en Flipboard Publicar
General

Cruce de cables: Zuckerberg y sus movimientos con los verificadores de datos, la IA y las normativas europeas

Por Microsiervos —

Cruce de cables 20 (18 de enero de 2025)

Zuckerberg y sus movimientos con los verificadores de datos, la IA y las normativas europeas¿Qué va a cambiar en Facebook, Instagram y WhatsApp tras la eliminación de los verificadores de datos? [~20:20] – En este Cruce de Cables radiofónico estuvimos hablando sobre el nuevo reposicionamiento de Zuckerberg al servicio de Trump, Musk y sus exóticas teorías cuando Facebook ha anunciado que eliminará a los verificadores de datos y pasará a usar IA y Notas de la Comunidad, a lo Twitter, para «evitar» la desfinformación y propagación de bulos.

  • Básicamente prescindirán de verificadores profesionales y pasarán a usar las Notas de la Comunidad al estilo X/Twitter.
  • Es estratégico que Zuckerberg lo haya anunciado justo antes del nombramiento de Donald Trump como presidente de los EEUU. Muchos le están considerando un veleta y un oportunista, un tipo pragmático, más preocupado de su dinero y posicionamiento estratégico que de ningún tipo de principios.
  • ¿Es esto bueno o malo? Ha dicho que la nueva verificación dependerá de algoritmos de IA, de los temas a moderar, de lo laxo que se sea con la libertad de opinión y de lo que te preocupe la difusión de bulos e información falsa. También está el uso de las Notas de la comunidad para moderar. En general dejar eso en mano del público parece que tiene más desventajas que ventajas: en temas polarizados se aumenta la crispación y la probabilidad de amplificación de los bulos. Gracias a los verificadores, la calidad también suele ser mejor, pero se les acusa de «elegir los temas» y es un sistema caro porque requiere mucho tiempo y recursos.
  • Zuck de paso se queja en una reciente entrevista con Joe Rogan –personaje libertario de su mismo palo– de que en Europa somos muy malos porque les ponemos multas por temas como las violaciones de la privacidad, seguridad, los algoritmos discriminadores…
  • Con todo esto Meta planea mantener su control, casi monopolio, de las redes sociales. Hay que recordar que WhatsApp, Facebook e Instagram, llegan ya a unos 3.200 millones de personas según la fuente que se consulte. Eso mensualmente son unos 4.000 millones de seres humanos (según Zuckergberg), más o menos la mitad de los habitantes del planeta.

_____
Cada semana grabamos con David Sierra en el distendido ambiente de Cruce de Cables, el programa de Radio Nacional de España, como colaboradores habituales. Se emite en RNE los sábados de 03:00 a 04:00.

Relacionado:

Compartir en Flipboard Publicar