El laboratorio de investigación OpenAI liberó una herramienta que podría ser potencialmente peligrosa según el uso que se le dé, se trata de GPT-2, un generador de texto que usa inteligencia artificial para generar noticias a través de un texto o palabra clave, aún cuando se trate de contenido falso.
Como todos sabemos, el contenido malicioso abunda en la web, a través de las redes sociales existen grupos destinados a difundir cualquier información falsa para denigrar o manipular la realidad, sin embargo, esta nueva red neuronal llamada GPT-2 es capaz de hacer el contenido de forma automatizada.
De acuerdo con OpenAI, el proyecto GPT-2 se desarrolló inicialmente para traducir texto, resumir historias o responder preguntas, sin embargo, ahora ha dado un giro completamente peligroso al poder generar este tipo de información falsa.
Los humanos encuentran convincentes las salidas GPT-2. Nuestros socios de la Universidad de Cornell encuestaron a las personas para asignarle al texto GPT-2 un puntaje de credibilidad en los tamaños de modelo. La gente le dio al modelo 1.5B un “puntaje de credibilidad” de 6.91 de 10. Esto es marginalmente mayor que los resultados del modelo 774M (6.72) y significativamente superior al modelo mediano de 355M (6.07).
Los investigadores señalan que GPT-2 aprendió mediando un modelo de ocho millones de documentos de texto extraídos de la web y responde a fragmentos de texto proporcionados por los usuarios:
“Aliméntelo con un título falso, por ejemplo, y escribirá una noticia; dale la primera línea de un poema y te dará un verso completo”.
¿Cómo generar contenido confuso con GPT-2 de OpenAI?
Si deseas conocer la capacidad de la nueva red neuronal de OpenAI solo debes dirigirte al sitio https://talktotransformer.com/ y, como puedes ver en la imagen, escribir una frase, la primera que se te ocurra, y si es información falsa, el sistema generará contenido relacionado y muy convincente.
Como resultado, la red neuronal procesa las palabras y crea contenido dentro del contexto, en este caso hablamos de colores y esta generó información referente al diseño de gráficos en 3D y más.
“El azul es amarillo, por lo que parece que se dibujó la misma imagen en cada color. Por el bien de este ejemplo, usemos azul para el fondo y amarillo para el primer plano. Esto significa que nuestro azul siempre está en el fondo. Lo único que cambia en primer plano es la textura en la dirección del azul. Para crear una escena 3D, primero debemos agregar algo de código a la escena para que tenga algo de lógica. Luego podemos usar la escena para hacer el mundo, o dibujar cosas en la pantalla”.
Aunque se trata de una herramienta poderosa que podría facilitar el trabajo en diferentes aspectos como generar correos electrónicos o una simple carta de despedida, los expertos dicen que podría resultar peligroso si los malintencionados descubren su existencia.