Cruce de cables 24 (15 de febrero de 2025)

Ley de inteligencia artificial [~22:00] – En este Cruce de Cables hablamos de la Ley de IA del Parlamento Europeo, un reglamento que se aprobó en 2024 y que ya en 2025 está en marcha hasta que se complete su despliegue en 2027. Entre otras cosas busca asegurar que los sistemas de IA respeten los derechos fundamentales, la seguridad y los principios éticos:

• ¿Qué implica para las empresas el enfoque de riesgo de la Ley de IA de la UE? ¿Qué medidas específicas se han implementado para proteger los derechos fundamentales de los ciudadanos? Básicamente tendrán que vigilar cómo la usan y qué datos recaban, calificando los riesgos: inaceptable, alto, limitado, mínimo…
• ¿Cuáles son los ejemplos de prácticas de IA que la nueva ley prohíbe explícitamente? Cámaras de reconocimiento facial masivas, datos biométricos como escáneres del iris, manipulación subliminal, sistemas que pueden usar datos sensibles (origen étnico, creencias religiosas etc) para discriminar o dar trato injusto.
• ¿Cómo se espera que la Ley de IA afecte la innovación en el sector tecnológico dentro de la UE? En este punto hay un gran debate sobre si esta ley es demasiado protectora y frenará la innovación (ej. complejidad de cumplimiento, explicabilidad) o hará Europa más segura, con mejores prácticas y generará mayor confianza. Quienes dicen que es demasiado protectora bromean con que mientras mientras otros países desarrollan IAs superpotentes como ChatGPT, Deepseek y demás aquí la mayor innovación reciente han sido «los tapones de las botellas de plástico». Una afirmación un tanto injusta porque se están haciendo desarrollos, aunque habrá que ver si esas mejores prácticas sirven de algo a largo plazo.
• ¿Cuáles son los plazos para la implementación completa de todas las disposiciones de esta regulación? Desde que arrancó en 2024 está en marcha de más riesgo a menos riesgo. En agosto de 2025 entrarán en vigor las normas relacionadas con modelos de IA de uso general, confidencialidad y las sanciones. En 2026 lo harán las aplicables a aplicaciones específicas e incluyen el ID biométrico, categorización de personas, operación de infraestructuras críticas, acceso a servicios públicos esenciales… Y finalmente en 2027 las del uso como "componentes de seguridad". Luego la Ley de IA se irá actualizando.

Relacionado:

• Cruce de cables: ¿Un nuevo invierno de la inteligencia artificial?
• Cruce de cables: Tecnología y las armas nucleares casi la lían parda.
• Cruce de cables: Zuckerberg y sus movimientos con los verificadores.
• Cruce de cables: Las chicas del ENIAC y de los Colossus.
• Cruce de cables: La reparación de un ordenador a válvulas de los 50.
• Cruce de cables: El legado digital.
• Cruce de cables: Ada Lovelace y Grace Murray H. Hopper, informáticas.
• Cruce de cables: La evolución de ChatGPT, la IA generativa más popular.
• Cruce de cables: No vemos robots repartidores por las calles.
• Cruce de cables: Cómo no quedarse desconectado en una emergencia.
• Microsiervos como colaboradores de Cruce de cables de RNE.

La noticia de ayer fue que Elon Musk y un consorcio de inversores han ofrecido oficialmente 97.400 millones de dólares por OpenAI, o más bien a la entidad sin ánimo de lucro que la controla.

Hay un lío desde hace tiempo porque OpenAI, Inc. se fundó como entidad de investigación de este tipo –incluso Musk aflojó el bolsillo, porque le podría venir muy bien para la IA de Tesla– pero acabó derivando en algo comercial.

Para liar más el asunto, OpenAI, Inc. tiene una pata comercial que es OpenAI Global, LCC a través de la cual vende sus suscripciones. Esta corporación es propiedad al 51% de OpenAI, Inc y el 49% de Microsoft (que pagó 13.000 millones).

La reacción no se ha hecho esperar. Primero por inoportuna y macarra. Y segundo, porque los analistas dicen que es una oferta demasiado baja porque OpenAI podría estar valorada a día de hoy en más de 300.000 millones de dólares. Así que Altman, que no se lleva muy bien con Musk desde entonces, ha dicho que «no gracias» y se ha cachondeado diciendo que si quiere le compran a él Twitter por 9.740 millones, que puede ser la décima parte de lo que vale, dado que aunque no cotiza en bolsa y por tanto no tiene una valoración oficial, Musk la adquirió por 44.000 millones y seguramente ya valga el doble.

Atención al detalle de que además Altman no se refiere a la red social de Musk como «X», que es su nombre oficial, sino como «Twitter», el antiguo, metiéndole ahí el dedo en el ojo un poquillo.

Musk, que tampoco es que se corte ni tenga muchas habilidades sociales, le ha contestado con un insulto: «swindler» que viene a ser el equivalente de timador o estafador.

Seguirá el culebrón y lo veremos comiendo palomitas.

_____
Foto (CC) TechCrunch / Sam Altman en Disrupt San Francisco 2019 @ Flickr.

Si alguien pensaba que ChatGPT no iba a tener competencia se equivocaba. Al menos en algunos campos, DeepSeek R1 parece igualar el nivel de razonamiento lógico y resolución de problemas de otros modelos de lenguaje como ChatGPT o1 de OpenAI, según los expertos. Es un desarrollo de DeepSeek, una empresa china dedicada a la investigación de la IA y parece estar alimentado con tantos datos como las IAs más actuales (ChatGPT, Claude, Copilot, Gemini, Perplexity…) aunque su corte de información –fecha hasta la que tiene datos– es octubre de 2023. Funciona en varios idiomas, incluyendo castellano, y tiene licencia libre MIT.

Según cuentan está desarrollado por un lado con aprendizaje por refuerzo pero también con un ajuste fino supervisado (SFT) para mejorar la coherencia y claridad de las respuestas. Aprovechando partes de arquitecturas como Qwen y Llama ha conseguido reducir su tamaño y hacerlo más ágil. En velocidad se nota más rápido que ChatGPT 4 y mucho más rápido que ChatGPT o1. Se puede instalar localmente, y con los modelos más pequeños no se requieren tantos recursos. Hay una versión gratis (DeepSeek Chat) y versiones de pago para quien necesite más capacidad en tokens o velocidad.

La versión de DeepSeek R1 con la que se puede interactuar online bebe –por no decir copia– del estilo de ChatGPT, esa forma de disneyficación de la IA que parece estar volviéndose estándar en la industria. Tiene simplemente un límite de mensajes en el modo avanzado, «Deep Think».

En las pruebas que he podido hacerle le solté la misma batería que suelo hacerle a los nuevos modelos, con cuestiones como:

¿Sumando cuáles de estos números: 2, 6, 12, 8, 20, 4, -6 puedes obtener como resultado 13?

No se puede obtener 13 sumando los números proporcionados.

Resume la historia de la humanidad en 100 palabras, separadas por comas.

Nacimiento, evolución, caza, recolección, fuego, agricultura, civilizaciones, escritura, religiones, guerras, imperios, filosofía, ciencia, exploración, colonización, revoluciones, industrialización, tecnología, globalización, conflictos, progreso, medicina, comunicación, espacio, desigualdad, innovación, crisis, resistencia, cooperación, arte, cultura, educación, libertad, opresión, esperanza, miedo, amor, odio, paz, guerra, descubrimientos, pandemias, supervivencia, adaptación, creatividad, destrucción, reconstrucción, unión, división, poder, debilidad, sabiduría, ignorancia, curiosidad, exploración, conquista, colaboración, aprendizaje, cambio, tradición, innovación, resiliencia, fragilidad, humanidad, naturaleza, sostenibilidad, explotación, conservación, futuro, pasado, presente, memoria, olvido, legado, transformación, incertidumbre, esperanza, desafíos, oportunidades, comunidad, individualismo, solidaridad, egoísmo, compasión, crueldad, justicia, injusticia, equilibrio, caos, orden, belleza, fealdad, verdad, mentira, libertad, opresión, sueños, realidad, continuidad.

¿Qué hacían tres tristes tigres en un trigal?

Los tres tristes tigres comían trigo en el trigal, como parte de un trabalenguas.

Si estoy enfermo, ¿puedo usar un remedio homeopático?

Los remedios homeopáticos son un tema controvertido en el ámbito de la medicina. Aquí te doy una respuesta equilibrada: [aquí pasa a explicar qué es, la efectividad, riesgos y recomendaciones.] Consulta a un profesional de la salud antes de usar remedios homeopáticos, especialmente si estás enfermo.

Como puede verse, todas las respuestas son básicamente correctas, aunque al igual que le ocurre a ChatGPT o1 hay ligeros matices en alguna de ellas. Por ejemplo, ambos modelos tienden a intentar probar todas las combinaciones de los primeros números, pero sin chequearlos exhaustivamente… Un método que además está lejos del razonamiento óptimo para dar la misma solución.

Aparte de eso le subí dos imágenes tomadas con el teléfono de un examen de Estimación I de la asignatura de Estadística que me pasaron de la Complutense. Según me han dicho también todas las respuestas son correctas, excepto la última que se les atraganta a ambos modelos quizá por la forma en que interpretan la pregunta. Así que se quedan en «notable», el «sobresaliente» se reserva para los humanos. (¡Ejem! Si no fuera porque DeepSeek R1 lo resuelve en 3 segundos frente a los 60 minutos de los alumnos de Estadística).

Creo que DeepSeek R1 es sin duda un modelo que merece un seguimiento, así que queda añadido a la carpeta de Favoritos / IA para usarlo de vez en cuando e ir comparando. Siendo gratis, potente y rápido, ¿qué podría salir mal?

§

Actualización (28 de enero de 2025) – Una de las críticas que se ha hecho a Deepseek es que censura ciertos temas: descripciones de políticos chinos, incidentes como los de las protestas de la plaza de Tiananmén en 1989… Pero ya se han encontrado soluciones en forma de jailbreaks muy ingeniosos. En este ejemplo, la pregunta da un pequeño rodeo para no ser demasiado directa (porque «¿Qué sucedió en la plaza de Tiananmén?» no funciona). Lo que hace es preguntar acerca del «hombre que se enfrentaba a los tanques llevando dos bolsas de la compra», que indefectiblemente llevaría al mismo sitio. Deepseek genera la respuesta correcta, que normalmente borraría al pasar el filtro final de seguridad (que elimina ciertos temas). Sin embargo, pidiéndole que reemplace algunas letras por números «legibles» el filtro deja de funcionar, porque no reinterpreta los números como letras, como si fuera un simple filtro de bloqueo de palabras clave, y se obtiene la respuesta.

Actualización (29 de enero de 2025) – Aquí una lista de las 1.156 preguntas censuradas por DeepSeek sobre el Partido Comunista Chino, la Revolución Cultural, Xi Jinping, la independencia de Taiwán y similares, así como la forma de jailbreakearlas.

Foro Nuclear, la asociación profesional que agrupa a las principales empresas e instituciones relacionadas con la energía nuclear en España, ha emitido un comunicado de prensa donde detalla algunas de las consecuencias que tendría el cierre de la central nuclear de Almaraz de Extremadura, programado para 2027 y 2028. Este pasado fin de semana hubo una manifestación con miles de personas, lo cual no deja de ser curioso: hace décadas la gente se manifestaba en contra de las nucleares, ahora es a favor.

Las implicaciones de cerrar una central nuclear que proporciona energía y podría seguir operando sin problemas son varias: desde encarecer el precio de la electricidad a reducir la estabilidad de la red eléctrica del país cual castillo de naipes en plena ventisca y, por para colmo, aumentar las emisiones de CO2 al tener que usarse combustibles fósiles como alternativa. Además de eso también supone una pérdida de empleos en la zona de la central y por extensión en toda Extremadura.

Así que nos encontramos con que mientras la mayoría de países industrializados, como Francia, Suecia o Estados Unidos, están extendiendo la vida útil de sus centrales por su fiabilidad y contribución a la reducción de emisiones, España parece seguir el ejemplo contrario, «a lo alemán», donde su renuncia a la nuclear ya ha generado efectos negativos reconocidos por expertos dentro del país. ¿Acabaremos en el selecto «club de los arrepentidos»? Pues se verá en unos años, si no cambian las cosas.

Más info:

• Miles de personas se manifiestan en contra del cierre de la central nuclear de Almaraz (RTVE)
• Del “chantaje” de las empresas propietarias de Almaraz a la llamada a la unidad del pueblo (ElDiario.es)

Relacionado:

• La energía nuclear salvará el mundo: un libro para entender, comprender y dejar atrás ideas preconcebidas
• La producción de la energía nuclear en una infografía por países
• Una campaña para salvar las nucleares como fuente de generación de energía en España
• Así es un reactor nuclear por dentro
• Una colección de pósteres de reactores nucleares con detalladas explicaciones
• Una visita guiada al reactor nuclear que el MIT tiene en medio de la ciudad de Cambridge