ChatGPT no es la primera inteligencia artificial que se convierte en un fenómeno mundial, pero sí podría ser la única que ha logrado iniciar un debate en la comunidad científica.
¿Una IA debería aparecer en revistas científicas? ¿Es posible revisar documentos con un modelo de lenguaje? Estas y otras preguntas han salido a la luz a raíz del uso indiscriminado del ChatGPT.
Mientras que algunos investigadores están entusiasmados con la idea de tener un algoritmo como compañero, a otros les preocupan los textos académicos que son redactados por cualquier IA. Por lo tanto, es difícil saber cuál será el impacto de este último avance tecnológico en el mundo de las ciencias.
¿Qué representa ChatGPT?
La famosa herramienta de OpenAI es un modelo de lenguaje extenso (LLM) que, además, es gratuito y de fácil acceso. Esto significa que es una herramienta con la que cualquier persona podría ser más productiva, incluidos los investigadores.
Su capacidad para producir textos fluidos, poesía, códigos de computadora o trabajos de investigación es abrumadora. Con ChatGPT, los expertos seguramente podrían editar manuscritos en pocos segundos, generar ideas o escribir artículos detallados.
Entonces, ¿podríamos considerarlo un éxito dentro de las ciencias? No, ese es justamente el motivo de todo este debate.
Aunque su redacción es impecable, existen muchos otros factores que están distanciando a los investigadores de este modelo de lenguaje. Como por ejemplo, su propensión a generar falsedades.
ChatGPT, como cualquier IA generativa, aprende copiando e interpretando contenidos en línea. Por lo tanto, al redactar puede integrar accidentalmente una noticia falsa sobre el tema, sesgos o conocimiento obsoleto. Es muy difícil evitar que eso suceda, al igual que lo es impedir que las personas hagan pasar un texto generado por IA como propio.
Sin embargo, esta aversión hacia el modelo de OpenAI no es suficiente como para considerarlo un fracaso.
Posibles usos científicos de la IA generativa
Encuestando a varios investigadores, se determinó que ChatGPT y los modelos basados en inteligencia artificial podrían actuar como asistentes durante una investigación.
“Mucha gente ya lo está usando como su secretaria, para redactar correos, enviar mensajes o generar documentos. En los trabajos científicos podría desempeñar la misma función”.
Hafsteinn Einarsson, científico informático de la Universidad de Islandia en Reykjavik
La IA generativa es adecuada para acelerar tareas como escribir documentos. Por lo tanto, podría ayudar a los investigadores a redactar solicitudes, subvenciones o otro tipo de escrito. Eso sí, siempre que no se trate de “producir conocimiento”. En esos casos, la redacción debería ser completamente humana.
Con estas advertencias, ChatGPT y los otros LLM podrían ser asistentes útiles para los investigadores que tienen suficiente experiencia para detectar problemas directamente o para verificar fácilmente las respuestas. Sin embargo, mucho dependerá de cómo las futuras regulaciones limiten el uso de los chatbots basados en IA.
Un fracaso que podría ser todo un éxito
Todos sabemos que los modelos de lenguaje no son perfectos, incluso las empresas que los crean son conscientes de los problemas. Por lo tanto, ChatGPT todavía no está capacitado para escribir sobre temas técnicos o científicos. Después de todo, el objetivo de OpenAI era crear un redactor de contenido no un “científico virtual”.
Sin embargo, con algunas correcciones en el entrenamiento de la tecnología GPT-3, la IA generativa podría ser de gran ayuda para los científicos, investigadores, biólogos, físicos, astrónomos y paleontólogos.
Algunas firmas tecnológicas ya están capacitando chatbots en literatura científica especializada. Meta, el gigante tecnológico propietario de Facebook, lanzó este año un LLM llamado Galactica para producir contenido académico y responder preguntas de investigación. De igual forma, el año pasado un grupo de académicos lanzó un LLM llamado BLOOM, que puede evitar información falsa en los resultados de búsqueda.
La informática detrás de la IA generativa avanza tan rápido que cada mes surgen innovaciones. Así que tal vez uno de estos avancnes haga que los investigadores cambien su forma de trabajar y le den una oportunidad a la inteligencia artificial.
Referencias:
What ChatGPT and generative AI mean for science https://doi.org/10.1038/d41586-023-00340-6
