Últimamente se está hablando mucho de las marcas de agua (watermarking) en textos generados por los modelos de lenguaje de las IA. ¿Deberían los textos producidos por una IA llevar una marca invisible que permita reconocerlos? Y todo a raíz de que Anthropic hiciera público el sistema que utilizará su LLM Claude pero, sobre todo, porque el artículo 50 del Reglamento europeo de Inteligencia Artificial ya es aplicable desde el 2 de agosto de 2026.

¿Qué pide la Unión Europea? Según el texto oficial de la ley, explicado para legos, se obliga a los proveedores de sistemas IA que generan audio, imágenes, vídeo o texto sintético a hacer que esos contenidos puedan identificarse mediante marcas legibles, utilizando «soluciones eficaces y razonablemente robustas» (toma generalización).

Pero hay un matiz importante: el propio artículo excluye los sistemas que simplemente realizan lo que sería una ayuda a la edición o que no modifican sustancialmente los datos o su significado. Para textos sobre asuntos de interés público, es decir las noticias en prensa, radio, TV e internet principalmente, existe además una obligación de informar al público, excepto cuando haya una revisión o control editorial humano posterior y una persona (física o jurídica) asuma la responsabilidad editorial.

Curiosamente la ley no dice que «todo lo que toque una IA deba considerarse escrito por una IA», ni obliga específicamente a utilizar una frase o aviso concreto. Simplemente exige que esté indicado y se pueda detectar (presumiblemente, de forma automática por otro software). Según el Código de buenas prácticas sobre transparencia de contenidos generados por IA, firmado por Anthropic otras 190 organizaciones y empresas, existen formas prácticas de cumplirlo. Hay un método para textos y otros para imágenes y similares, donde Anthropic empleará además C2PA que son metadatos firmados criptográficamente que permiten comprobar si se ha alterado el contenido.

En aquel momento, parecía buena idea

Aunque la idea parece en principio loable, el debate está candente, tal y como deja ver el artículo de Guillaume Meyer Por qué estoy en contra de las marcas de agua de la IA. Meyer ha creado watermarks-remover, un proyecto que elimina las marcas de agua dejando los textos con una pulcritud intachable como «no detectables». Alcanzó 2 millones de visualizaciones y 9.000 estrellas en GitHub en menos de 3 días.

Su argumento central es fácil de entender: que una máquina haya intervenido de algún modo en un texto no significa que sea su autora. Puede haberlo escrito una persona y haber pasado después por Claude para corregirlo, traducirlo, resumirlo o modificarlo. De hecho, raro sería ver un texto que no haya pasado por una máquina que actúa como corrector ortográfico, traductora o incluso como revisora de estilo SEO. Así que, eso no merece ser detectable, ergo… fuera marcas.

¿Cómo funcionan las marcas de agua de Claude?

Anthropic ha explicado en su web el sistema que utilizará Claude, llamado SynthID-Text. No es tan burdo como para añadir simplemente caracteres invisibles, espacios «raros» o no imprimibles, unicodes especiales o metadatos secretos (aunque eso también suele funcionar, cual estenografía de toda la vida). SynthID-Text está basado en un desarrollo de Google DeepMind y se ha probado secretamente en unos 20 millones de respuestas de Gemini sin que la gente haya notado diferencias estadísticamente significativas en cuanto a la calidad de los textos. En el código he leído que es incluso más fácil, pues se puede usar en comentarios o cambiando los nombres de las variables y cosas así. La idea ya la describió el mismísimo Scott Aaronson en 2022 cuando trabajaba para OpenAI como consultor, aunque no llegó a implementarse en ChatGPT.

La idea es aprovechar la aleatoriedad del modelo al escoger las palabras. Si por ejemplo «gris» y «nublado» son prácticamente igual de adecuadas en cierto contexto, existe cierta probabilidad de elegir una u otra. SynthID-Text sustituye parte de esa aleatoriedad por elecciones pseudoaleatorias que dependen de una clave secreta y del contexto anterior. Para quien lee el resultado, todo parece normal, pero acumulando cientos de estas «elecciones» acaba apareciendo una pequeña correlación estadística. Un detector que conozca la clave puede analizar la secuencia y calcular la probabilidad de que haya sido producida mediante ese mecanismo. Cuanto más largo sea el texto, mayor será la señal. Cuando se trata de código de programación, datos exactos, textos cortos o simples correcciones ortográficas hay menos decisiones posibles y la señal se debilita (aunque a mi me parece que también se pueden añadir comentarios, cambiar nombres de variables y cosas así).

Anthropic reconoce que la detección no puede demostrar que Claude sea el autor de un texto; el dato final simplemente indica que «probablemente intervino» en algún momento. Si se corrige manualmente el texto, se cambian frases, se traduce a otro idioma o se mezclan textos la señal puede degradarse o desaparecer.

¿Marcas de agua, sí o no?

Como en todo, hay quienes están a favor del uso de las marcas de agua y quien se oponen radicalmente. De forma resumida, estos son los principales argumentos:

A favor de las marcas de agua:

• Procedencia del texto. La marca de agua permite obtener una indicación de que cierto sistema IA participó con cierta probabilidad en la generación del contenido.
• Desinformación masiva. Puede ayudar a plataformas e investigadores a localizar campañas automatizadas, propaganda, spam o grandes volúmenes de contenido sintético (slop).
• Privacidad. Las marcas de Claude no identifican al usuario, empresa o conversación con el LLM. (Tampoco hay que guardar los textos completos).
• Persistencia. Las marcas de agua pueden «sobrevivir» aunque se copie y pegue el texto o se hagan modificaciones menores.
• Coste y calidad. El coste computacional de SynthID-Text es pequeño. Las pruebas hasta el momento no han mostrado que haya pérdida apreciable de la calidad de los resultados.

En contra de las marcas de agua

• Autoría. Detectar que Claude ha intervenido en la generación de un texto no distingue entre decir si ha escrito el artículo completo o modificado sustancialmente un borrador o un artículo distinto. Además, por sí solo, no puede indicar quién es el realmente el autor.
• Fragilidad. Una edición suficientemente grande del texto puede destruir la marca de agua de la IA, a pesar de que sea entonces cuando una persona probablemente haya realizado más trabajo sobre el resultado inicial. (Lo cual suena un tanto contradictorio).
• Incertidumbre. Es un sistema estadístico: los textos cortos, el código y los contenidos de baja entropía ofrecen poca información. Un positivo no constituye una demostración absoluta.
• Incentivos perversos. Un usuario promedio puede publicar un texto marcado sin saberlo, por desconocimiento, mientras que quien pretenda ocultar deliberadamente el uso de IA puede intentar eliminar la marca antes de publicarlo.
• Contexto. Una etiqueta «generado por IA» puede interpretarse socialmente como «escrito por IA», aunque exista detrás un autor humano responsable del contenido y el papel de la IA haya sido complementario y menor.

«Lex est Machina»

Llevamos décadas incorporando máquinas al proceso de escribir. Correctores ortográficos, diccionarios, autocorrección, sugerencias de estilo, traducción automática y autocompletado… y ahora inteligencia artificial. Todas ellas fueron en su momento tecnologías «novedosas» que retocaban o generaban textos. Hoy nadie considera que un libro pasado por el corrector ortográfico de Word esté «generado por Microsoft», La IA generativa amplía muchísimo esa zona intermedia, pero no elimina la diferencia entre herramienta, colaboración y autoría.

El ejemplo que pone Meyer de la medicina resulta especialmente ilustrativo: en una empresa de seguros, 7.260 médicos utilizaron asistentes de IA para redactar documentación para 2,5 millones de consultas a lo largo de más de un año. Los médicos revisaron, corrigieron y firmaron los informes, y son quienes responden profesionalmente de ellos. ¿Te fiarías de una receta firmada con un «Generada mediante IA» al pie?

Una marca de agua puede ser útil para saber que se usó una herramienta de IA, pero puede levantar suspicacias indeseadas. En el caso de los médicos hay que considerar quién decidió, quién revisó y quién responderá en caso de problemas. Quizá esa sea la cuestión: que aunque las máquinas ayuden, lo verdaderamente humano sea seguir firmando los trabajos y responsabilizándose de ellos.

Seguir leyendo: «Las marcas de agua de la IA: huellas invisibles que no demuestran quién escribió algo pero puede parecer que lo dicen todo»

Se le puede amar o se le puede odiar, pero como se suele decir, no deja indiferente. Elon Musk, el hombre del billón de dólares, ha concedido una larga entrevista a Zanny Minton Beddoes, la directora de The Economist. Para mí podría calificarse de un encuentro ligeramente hostil, y en algunos momentos incluso un tanto bronco. En ella la periodista le discute varias veces sus premisas hasta el punto de llevarle a defenderse por la tangente: acusando a los medios.

«Soy muy bueno prediciendo el futuro. Mi promedio de aciertos es muy alto para un humano (…) Y aunque falle en las fechas, las cosas acabarán sucediendo.

– Elon Musk
tras compararse con la mitológica Casandra

Haciendo predicciones a futuro ya le hemos visto muchas veces: que si coches que conducen completamente de forma autónoma (no tanto, lo dicen en el manual), que si viajes a Marte (ejem), que si androides para realizar todo tipo de tareas (que están por ver)… En fin. Pero, para que no se diga, aquí van fechados a hoy 15 de agosto de 2026, sus predicciones para los próximos años:

1. ≈2031 («en unos 5 años»): la IA superará la suma de toda la inteligencia humana y podrá hacer casi todo mejor que una persona.
2. Antes de 2036: la IA y la robótica dominarán prácticamente toda la economía y la sociedad.
3. 2036: la IA será muy superior a toda la inteligencia humana combinada.
4. 2036: llegará una era de enorme abundancia, con IA y robots produciendo bienes y servicios casi sin límite.
5. 2036: «el dinero no importará», porque dejará de ser necesario para repartir bienes escasos.
6. ~2036 : los humanos ya no estarán al mando de una IA mucho más inteligente que ellos.
7. ~2036: prácticamente cualquier trabajo podrá hacerlo mejor una IA o un robot.
8. ~2036: trabajar será opcional, algo parecido a cultivar un huerto por afición.
9. ~2036: llegará la «singularidad» de la IA y los robots, a partir de la cual resulta difícil prever qué sucederá.
10. ~2046: Habrá una guerra civil en Reino Unido, al menos si continúan las tendencias actuales.

Como puede verse, 2036 va a ser jauja: el dinero no importará, habrá abundancia de todo y trabajar será opcional. Así que no preocuparse: los que no se hayan jubilado antes, seguro que se «jubilan» entonces. (Procura no estar en el Reino Unido, eso sí.)

(…) En X me siguen 250 millones de personas, así que creo que hay mucha más gente que me quiere que gente que no.

– Elon Musk
confundiendo «número de seguidores» con «aprobación»

En la entrevista salen muchos más temas interesantes, sobre los que hay diversos puntos de vista: el rápido y competitivo crecimiento de China; todo lo relacionado con los chips y la litografía para la IA, el consumo de electricidad, la refrigeración de los centros de datos y también la regulación y seguridad de las compañías punteras en IA.

También habla de racismo, de redes sociales y de la libertad de expresión. Y de algún modo también aparece de repente el problema estadounidense de las muertes por armas de fuego: dice que comparativamente en Europa muere más gente debido a las olas de calor, y que no hay tantas noticias sobre la falta de aire acondicionado, aunque respecto a EE.UU dice que se debe a que no se encierra a los delincuentes violentos reincidentes.

En fin, es un variado megamix de opiniones de un visionario experto en todo, más incluso que el Xokas, que se autocalifica de optimista, pero no siempre aporta datos. Pero, me da la impresión por las fechas que plantea, que ciertamente optimista sí que es. Repasaremos estas predicciones en 2036, que este blog predigo que sí que va a durar. Lo apunto en la agenda.

Actualización – Paco nos habló de la existencia de la Lista de predicciones de Elon Musk acerca de los vehículos autónomos Tesla. Canela fina.

Relacionados:

• Los siete pecados capitales de las predicciones sobre IA
• SpaceX aparca lo de ir a Marte para centrarse en la Luna
• El futuro era esto: un paseo entre IAs que trabajan, aconsejan y pueden reemplazarnos para «pensar» o currar
• Superinteligencias futuras
• La «singularidad tecnológica» que tal vez esté a la vuelta de la esquina
• ¿Y si la inteligencia artificial llega a superar a la humana?
• Un resumen rápido de las novedades de Tesla en el AI Day
• Una calculadora de la probabilidad de que se automatice tu puesto de trabajo en el futuro con robots o inteligencias artificiales
• Elon Musk desvela su increíblemente ambicioso plan para Marte
• «El mundo del mañana»: una demostración de cómo no acertar ni una predicción de futuro

Dormir y soñar siguen teniendo mucho de misterio. Para mí sigue siendo una de las grandes incógnitas de la ciencia, aunque haya muchas teorías sobre por qué dormimos y por qué soñamos. Una de las preguntas más interesantes sobre este periodo de descanso obligatorio sin el cual no podemos vivir es cómo consigue el cerebro desconectarse sensorialmente del exterior sin dejar de funcionar, pero al mismo tiempo no ignorando por completo lo que sucede en el cuerpo… porque fuera puede haber «peligros» (¡y despertadores!)

Ahora un nuevo estudio de las universidades de Lausana y Ginebra aporta una pista sobre lo que han llamado redistribución del procesamiento sensorial. Según dicen, al entrar en sueño REM, la fase de sueño profundo, el cerebro no «apaga» todos los sentidos de golpe, sino que va cambiando de prioridades. Poco a poco va prestando menos atención a los sonidos del entorno y más a las señales internas, como pueden ser los latidos del corazón.

La diferencia entre las fases ligeras y profundas del sueño REM se conocen como fases tónica y fásica; esto sí es bien conocido. En el estudio, los investigadores estudiaron a 25 voluntarios durante dos noches mediante electroencefalografía (EEG), comparando las respuestas cerebrales ante los sonidos externos con las provocadas por los propios latidos del corazón. El patrón fue interesante y bastante claro: la respuesta a los sonidos disminuía poco a poco mientras que la atención a las señales cardíacas aumentaba.

La conclusión es que el cerebro no se limita a «cerrar la puerta» a los estímulos del exterior, sino que redirige su atención sensorial hacia dentro, al propio cuerpo. A partir de los datos de las mediciones, los investigadores crearon una especie de «índice audiocardíaco» que indica hasta qué punto el cerebro está más pendiente del cuerpo que del entorno. Además de suponer un pequeño paso para entender mejor cómo funciona todo esto dicen que también se podría usar para estudiar estados alterados de consciencia, como las personas que están en coma o casi inconscientes.

(Vía Medical Xpress.)

_____
Foto (CC) Pixhere.

Relacionados:

• Recuerdos a cámara rápida
• Parálisis del sueño
• Medio despierto, medio dormido
• Dormir para olvidar
• La duración de un sueño típico

La explicación corta de Eigendrum es que si se hacen clics sobre la figura del recuadro el «tambor» hace ruidos agradables y divertidos. También se pueden pulsar algunas teclas, y cambiar de un círculo a un pentágono o una estrella, pero esa es básicamente la idea: convertir cualquier garabato en vibraciones y sonidos de tambor mediante avanzados cálculos geométricos.

La explicación larga es que Eigendrum, autodenominado «un estudio del plano vibratorio», es uno de esos experimentos que mezclan matemáticas, física y sonido de forma entretenida. El programa no reproduce sonidos pregrabados, ni se inventa los armónicos: resuelve ecuaciones y sintetiza las frecuencias resultantes. En las explicaciones (en Github) aparecen términos como Laplaciano, Bessel, Chladni o «par isoespectral de Gordon-Webb-Wolpert», que no son obvios de entender.

Para el resto de nosotros los mortales, lo importante es toquetear. Las vibraciones pueden verse gráficamente, lo cual es parte de la gracia. Hay algunos ajustes como la frecuencia, equilibrio o la malla, que algunas yo no sé ni lo que son. En total hay 11 figuras predefinidas, pero se pueden dibujar otras propias o definirlas mediante ecuaciones. Los resultados se pueden exportar con el audio en WAV y las imágenes en PNG. En conjunto es una web de esas misteriosas y agradables, ¿qué más se puede pedir?

Relacionados:

• Turtle.Audio hace de la música un producto de la composición visual
• Música visual con un osciloscopio
• Fractales que reaccionan con el sonido: más alucinantes todavía
• Los sonidos del conjunto de Mandelbrot
• Exploración de armónicos
• Cajas mecánicas de sonido: el encanto de lo antiguo
• Un chorro de agua grabado a 24 fps que adopta curiosas formas