Instagram Inteligencia Artificial

Dos de las molestias más recurrentes que pueden encontrarse los usuarios de una red social provienen de los comentarios ofensivos, la mayoría de las veces inesperados, y del spam, ese contenido no deseado que muchas veces irrumpe con intención comercial. Instagram no escapa a esta realidad, y por eso está incorporando dos nuevos filtros para combatirlos.

El bloqueador de comentarios ofensivos se halla de momento, sólo disponible en idioma inglés, y se halla disponible en el menú, en la sección de comentarios. El sistema de bloqueo se llama DeepText, y basa su funcionamiento en algoritmos de Inteligencia Artificial para descifrar cómo funciona el idioma. De este modo es capaz de determinar y bloquear aquellos comentarios que contengan frases ofensivas.

Esta opción de bloqueo de expresiones ofensivas se halla activada por defecto, y funciona en todas las publicaciones, así como en el vídeo en vivo. A futuro, el filtro contra contenido ofensivo estará disponible en otros idiomas, según promete Instagram.

Otra herramienta, que funcionará tras bambalinas, usará también DeepText para filtrar el spam de las publicaciones y vídeos en vivo. En este caso, la herramienta funcionará en idioma inglés, pero también en español, portugués, árabe, francés, alemán, ruso, chino y japonés.

El algoritmo DeepText es el resultado del trabajo conjunto de Instagram y Facebook. Usando técnicas de Inteligencia Artificial, el algoritmo es capaz de descifrar el significado de conjuntos de palabras en función de su contexto y de las palabras circundantes. Fue desarrollado a partir de información recolectada por un equipo de trabajo que recolectó una gran cantidad de comentarios, clasificándolos según si eran o no spam.

Esta información sirvió para que DeepText aprendiera a discernir entre ellos. El sistema ha estado siendo usado por Instagram y Facebook para filtrar spam, y ahora los primeros la están usando también para bloquear el contenido ofensivo.