Comenzamos el año con una noticia que podría significar un cambio importante a largo plazo: OpenAI está discutiendo la posibilidad de usar una marca de agua criptográfica en la salida de texto de ChatGPT. La idea de esto es asegurar que la herramienta no sea usada de manera inapropiada, un ejemplo: escribir un ensayo para la escuela o universidad.

Tengamos presente que una marca de agua criptográfica es un tipo de marca de agua digital que suele incrustarse en un archivo mediante técnicas criptográficas. Estas marcas de agua digitales son utilizadas para identificar la propiedad o el origen de un archivo. Y, con frecuencia, se utilizan para proteger contra el uso o la distribución no autorizada de contenido digital. Hay mucho tipos de marcas de agua en fotos y videos, solo que OpenAI desarrollará una marca de agua criptográfica capaz de integrarse en el texto que produce ChatGPT.

¿Cómo funcionará la marca de agua de ChatGPT?

OpenAI
Vía OpenAI

Ahora bien, ¿de qué manera funcionará todo esto sin afectar  la coherencia de la salida del texto? Funcionará porque el texto es abierto e infinito. Ello permite incluir código criptográfico imperceptible sin que afecte la forma en que se lee el texto.

Esto es así porque el contenido generado por IA sigue un patrón predecible en la forma en que usa las palabras. Esto significa que es bastante fácil reconocerlo si sabes qué buscar. Y OpenAI parece estar listo para incorporar un elemento dentro de este patrón de texto de una manera imperceptible. En el Search Engine Journal, Scott Aaronson de OpenAI señaló que este proceso se denomina distribución pseudoaleatoria. La pseudoaleatoriedad es cuando una serie de palabras o números parecen aleatorios, pero en realidad no son así. Esto permite marcar contenido generado por IA sin alterar la apariencia del texto. Aaron ha escrito sobre el trabajo que está haciendo para OpenAI en su propio blog, diciendo:

“Hasta ahora, mi proyecto principal ha sido una herramienta para marcar con agua estadísticamente los resultados de un modelo de texto como GPT.

Básicamente, cada vez que GPT genera un texto largo, queremos que haya una señal secreta imperceptible en sus elecciones de palabras, que puede usar para demostrar más tarde que sí, esto vino de GPT”.

Esto todavía es un trabajo en progreso, decimos esto porque OpenAI rodavía no está marcando la salida de texto proveniente de ChatGPT. Sin embargo, si planeas usar ChatGPT para escribir un texto importante, ten cuidado. Recuerda lo que mencionamos anteriormente: si alguien sabe qué buscar, podría detectar el texto generado por IA, incluso sin tener una marca de agua qué encontrar.

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *