La marca invisible de ChatGPT

Qué ha pasado

OpenAI va a añadir una marca de agua invisible a los textos que escriben ChatGPT y Codex. Lo hace por la ley europea de IA, que obliga a que el texto generado con IA se pueda reconocer de forma automática.

1. Dónde:solo en la Unión Europea, así que también en España.
2. Cuándo:«en las próximas semanas», sin día fijo.
3. A quién:a los usuarios de ChatGPT y Codex de todos los planes (en las respuestas «compatibles», según OpenAI).
4. Cómo funciona:se llama textGrain. Mete una señal estadística en las palabras que elige el modelo. Tú no verás nada distinto en el texto.

Lo que la marca NO hace

OpenAI lo explica así en su anuncio:

1. No dice quién eres.No va ligada a tu persona, tu cuenta, tu prompt ni tu conversación.
2. No dice si el texto es verdad.Solo indica que una herramienta de OpenAI lo generó o lo tocó.
3. No mide cuánto has puesto tú.No sabe si lo has revisado, corregido o mejorado.
4. No decide de quién es el texto.Ni si su uso es legal ni quién responde de él.
5. Que no aparezca no prueba nada.Un texto corto, traducido, muy editado o de otra IA puede no llevarla.

¿Quién puede detectarla?

De momento, nadie del público. El detector solo se da a investigadores y organizaciones expertas aprobadas por OpenAI, que tienen que pedirlo.

En las pruebas de OpenAI, con un 1 % de falsos positivos, la detectaba en torno al 95 % de los textos largos y al 80 % de los cortos, y bastante menos en textos como los de matemáticas, donde hay menos forma de elegir palabras. Por eso aún no lo abren a todo el mundo.

Lo que sí puedes hacer hoy: comprobar imágenes y audio

Las imágenes y los audios de OpenAI ya llevan marcas (SynthID y Credenciales de contenido C2PA), y esto sí lo puede comprobar cualquiera:

1. Entra en openai.com/verifyopenai.com/verify
2. Sube la imagen o el audio que quieras comprobar.La herramienta busca las señales de OpenAI.
3. Lee el resultado con cuidado.Si encuentra la señal, salió de una herramienta de OpenAI. Si no la encuentra, no prueba que sea real: se pierde al recortar, comprimir o convertir el archivo, y no detecta otras IA.

Para copiar