Hemos dejado que la inteligencia artificial se haga cargo de nuestras tareas poco a poco, porque se dice que es más precisa que el cerebro humano. Pero, aunque cueste creerlo, los algoritmos también se equivocan.
De hecho, modelos IA como ChatGPT o Midjourney a menudo experimentan alucinaciones.
Probablemente estés pensando: «¿No son los delirios un fenómeno humano?» Bueno, sí, lo eran hasta que aparecieron las máquinas con características humanas. Ahora también ocurren entre circuitos y redes neuronales.
Aunque cabe destacar que las alucinaciones de una inteligencia artificial (AI Hallucination) no son iguales a las de un humano.
¿Cómo y cuándo alucina la IA?
Si hablas a menudo con un algoritmo, puede que ya hayas sido testigo de este error. Se dice que una IA tiene alucinaciones cuando genera resultados diferentes a los esperados. Por ejemplo, imágenes que nunca se le pidieron o historias que se asemejan escenas reales pero que contienen detalles falsos.
Hay que tener en cuenta que todos los sistemas de inteligencia artificial son entrenados para generar resultados precisos, por lo que no es lógico que empiecen a decir que el mundial de Qatar 2022 nunca existió, por ejemplo.
Por lo general, estas alucinaciones ocurren debido a deficiencias en los algoritmos, modelos subyacentes o limitaciones en los datos de entrenamiento. Es un fenómeno puramente digital, a diferencia de las alucinaciones en humanos causadas por drogas o enfermedades mentales.
Es por eso que los principales generadores de arte, como DALL-E 2, crean espontáneamente imágenes que no se basan en el mundo real. También es por esto que los chatbots inventan hechos y los presentan como una certeza absoluta.
Tal vez el término “alucinación” no sea del todo apropiado, pero se usa como metáfora para describir lo inesperado y surrealista de los resultados.
Ejemplos de alucinaciones de IA
Todos los sistemas de inteligencia artificial son susceptibles a los delirios, desde modelos de visión por computadora a procesadores de lenguaje.
En la visión por computadora, las alucinaciones pueden ser de dos tipos: o bien el sistema produce imágenes falsas, o bien la IA percibe la imagen como algo completamente diferente.
Por ejemplo, el modelo Cloud Vision de Google vio esta imagen de dos hombres con esquís parados en la nieve y mencionó que había al menos un perro con un 91 % de certeza.
En los procesadores y generadores de lenguaje, como ChatGPT, las alucinaciones son simplemente declaraciones inventadas o mentiras. Como podemos ver en este ejemplo de un usuario que le preguntó a la IA dónde estaba la fábrica de Elon Musk en Brasil.
Si un modelo de lenguaje se entrenó con datos y recursos inexactos, acabará dando resultados igual de inexactos. Por lo mismo, si una IA de visión por computadora se entrenó usando datos difíciles de entender, como imágenes o videos, acabará interpretando la entrada de manera diferente o generando una salida incorrecta. Ese es el principal problema de la inteligencia artificial hoy en día, y la causa de alucinaciones como esta.
Cómo detectar alucinaciones en la IA
Ahora que ya vimos el error, debería ser fácil identificarlo en nuestras futuras interacciones con algoritmos. Detectar y reconocer las alucinaciones de la IA depende únicamente de los usuarios de tales aplicaciones.
Sin embargo, ten en cuenta lo siguiente para que la tarea sea más sencilla:
Ojo a la ortografía. Si notas un error gramatical o incoherencias en el contenido producido por un modelo de procesamiento, como ChatGPT o Bing Chat, piensa lo peor. La IA fue entrenada para tener una gramática envidiable por lo que salirse de ese perfil podría ser indicativo de una alucinación.
Patrones aleatorios. Si una computadora no reconoce una imagen o la cambia, entonces se ha producido una alucinación. Por ejemplo, hay modelos que alucinan cuando ven una pelota de tenis ya que la identifican como una navaja verde.
Desvíos en las órdenes. Si posees un auto operado con inteligencia artificial, puedes saber fácilmente cuando está alucinando pues frenara antes de tiempo o se desviara bruscamente sin ninguna razón. Aunque también es posible notar esto al darle órdenes a un chatbot.
En definitiva, para detectar alucinaciones IA solo necesitas usar el sentido común. Aunque no son delirios de una mente consciente o subconsciente, siguen siendo comportamientos inesperados.
