Un nuevo estudio del Laboratorio MIT Lincoln ha revelado que las personas no trabajan bien con inteligencias artificiales avanzadas, mientras que su relacion es mejor con las IA sencillas.

El experimento se llevó a cabo con decenas de jugadores expertos de Hanabi, un juego de cartas que consiste en comunicarse con tu compañero de equipo. Además, no puedes ver tu mano de cartas, sino la de tu compañero, por lo que cooperar es esencial para ganar.

IA en contra

Los expertos jugaron junto a las IA avanzada y la IA sencilla automatizada, sin embargo, no se les dijo cuál era cual. Se esperaría que los resultados con la IA avanzada fueran superiores, pero no fue el caso. En la mayoría de los casos los resultados fueron iguales desde un punto de vista objetivo y muy diferentes en el subjetivo.

Es decir que los expertos ganaron el mismo número de partidas con cada IA, pero se sintieron mucho mejor con la IA “tonta”. Esta era la que solo puede actuar de una manera predeterminada y no “aprende” de lo que sucede, ya que al menos la consideraban “confiable”. Todo lo contrario que la IA “inteligente”, que incluso a veces parecía que hacía jugadas contraproducentes para el objetivo de ganar.

De esta manera, los humanos describieron a esta última como “impredecible” y “poco confiable”. Nunca pudo haber una colaboración directa con esta y la mayoría se rindió después de varios intentos. Para los investigadores hay varios problemas relacionados, y uno de ellos es la imposibilidad de la IA para comunicarse y nuestra imposibilidad para comprenderla.

Problemas de comunicación

De hecho, las jugadas de la IA eran las correctas, pero eran tan “inteligentes” que el humano no podía comprender lo que intentó hacer. De esta manera, la calificaban de “poco confiable”, lo cual es normal dado que en primera instancia sus movimientos parecían malas jugadas.

Los resultados han sorprendido a los investigadores que ya habían puesto a colaborar a dos IAs distintas y estas dieron los mejores resultados de todo el experimiento. Por lo que las IAs pueden trabajar juntas, pero no con humanos. Lo cual es un problema si se planea aplicar las inteligencias artificiales a tareas más delicadas.

Supongamos que entrena a un asistente de guía de IA súper inteligente para un escenario de defensa antimisiles. No se lo está entregando a un aprendiz; se lo está entregando a sus expertos en sus barcos que han estado haciendo esto durante 25 años. . Entonces, si hay un fuerte sesgo de expertos en su contra en los escenarios de juego, es probable que se refleje en las operaciones del mundo real.

Hosea Siu, Investigador del Control and Autonomous Systems Engineering Group.

Puedes conseguir más información de la investigación siguiendo este enlace.

Escribir un comentario