Estamos entrando en una etapa curiosa. Llevamos años preocupados por distinguir la información verdadera de la falsa; hemos creado observatorios, institutos y hasta empresas que se dedican a decirnos lo que es verdadero y lo que es falso (con sus correspondientes sesgos, claro). Ayer hablaba de los Advanced Persistent Manipulators, redes de «bots» que buscan manipular a la sociedad a través de narrativas que o bien aprovechan los ataques cibernéticos o bien simplemente buscan cambiar percepciones y/o opiniones.
Lo que es una realidad es que con la IA generativa nos hemos empezado a hacer otras preguntas. ¿Quién ha creado este contenido? ¿Cómo se ha hecho? ¿Qué parte corresponde a una persona y cuál a un sistema o modelo de IA?
El artículo 50 del RIA (Reglamento de IA) trata justo este tema: la transparencia de los sistemas de IA. De ahí viene el creciente interés por el concepto de provenance, que podríamos entender como la capacidad de conocer y verificar el origen y la historia de un contenido digital. Las buenas noticias son que hemos avanzado.
Tecnologías como C2PA permiten incorporar credenciales digitales firmadas criptográficamente para acreditar la procedencia de imágenes, vídeos, audios y otros contenidos, además de registrar las modificaciones realizadas durante su creación y edición. En paralelo, soluciones como SynthID y textGrain introducen marcas de agua invisibles directamente en el contenido, incluso en los textos, donde pueden alterar sutilmente los patrones estadísticos con los que la IA selecciona las palabras. Empresas como Microsoft, OpenAI y Anthropic están desarrollando e incorporando distintos mecanismos de trazabilidad y verificación para dar cumplimiento a las exigencias del artículo 50.2 del RIA para aquellos modelos que estaban en el mercado antes del 2 de agosto de 2026.
Pero ninguna de estas tecnologías es infalible. Las credenciales pueden desaparecer cuando un archivo se transforma o se comparte, y las marcas de agua pueden perder eficacia cuando el contenido es modificado por un usuario u otra herramienta que no use IA. Además, hay una diferencia importante que conviene no olvidar en todo esto, poder verificar de dónde viene un contenido no significa necesariamente saber quién es su verdadero autor (atribución).
Además de todo esto, hay otra serie de preguntas incómodas. Imagina que un escritor o un creador de contenido utiliza IA para ordenar unas ideas, corregir un texto o explorar distintas formas de expresar algo que lleva días intentando explicar. ¿Deja de ser el autor? ¿Y un fotógrafo que utiliza herramientas generativas para eliminar un reflejo? ¿Debería recibir el mismo tratamiento que alguien que genera una fotografía completamente artificial?
La frontera entre creación humana y creación asistida es bastante menos clara de lo que nos gustaría. Hace ya tiempo hablé de esto, de la creartificilidad o incluso del arteficial. Y aquí es donde creo que aparece uno de los problemas que menos estamos discutiendo. Durante siglos hemos considerado la creación como una actividad humana que podía apoyarse en herramientas. Ahora parece que hemos dado la vuelta a la lógica histórica y empezamos a exigir a las personas que demuestren que su trabajo es realmente suyo y solo suyo, que no ha usado herramientas, como la IA.
Todo esto puede tener bastantes consecuencias para los escritores, periodistas, ilustradores, músicos y, en general, cualquiera que viva de crear contenidos. No me preocupa únicamente que una obra humana sea identificada erróneamente como generada por IA; me preocupa que terminemos construyendo un sistema en el que la ausencia de una certificación se interprete como motivo de sospecha. ¿Sospecha de qué? ¿De usar una herramienta?
No creo que debamos renunciar al provenance. Todo lo contrario, puede convertirse en una herramienta muy importante para proteger la autoría, facilitar la atribución y sobre todo para combatir la manipulación informativa.
Pero tampoco deberíamos confundir una firma digital en un contenido con una garantía de verdad, ni una falta de marca de agua con una prueba definitiva de que el creador lo ha realizado sin ayuda de herramientas. El objetivo no debe ser clasificar todo lo que vemos entre humano y artificial, creo que debemos aspirar a entender cómo se ha creado, qué intervención ha tenido la IA y quién asume la responsabilidad sobre el resultado final.
Porque, si no tenemos cuidado, podemos acabar en una situación bastante absurda, que quienes llevan toda la vida escribiendo, fotografiando o creando tengan que demostrar constantemente que sus obras han sido creadas por ellos, aunque hayan utilizado una herramienta de apoyo.