Los algoritmos informáticos han avanzado mucho estos años. Decimos esto porque cada vez más hay algoritmos de IA que están asumiendo roles importantes, por ello los científicos han estado planteándose qué significa controlar o gobernar el comportamiento de una IA.
Hay algoritmos de inteligencia artificial que toman decisiones sobre sentencias en juicios penales o fijan el precio del seguro. Todas esas áreas presentan leyes a las que los humanos que trabajan en tecnología deben adherirse. Por ello, no hay ninguna razón por la que una IA no deba seguir las mismas normas.
¿Qué tiene de diferente gobernar una IA?
Hablar de una entidad inteligente nos ayuda a normalizar el gobierno de la IA con el proceso político humano probado en el tiempo. Sin embargo, oculta las formas en que los algoritmos se diferencian de los humanos, he aquí algunas diferencias notables:
- Hiperracional: algunos algoritmos de IA son difíciles de entender para los humanos, pues en el fondo siguen siendo operaciones muy matemáticas. Operaciones que se implementan en máquinas que solo hablan en lógica.
- Gobernable: una IA puede entrenarse para seguir cualquier proceso de gobierno lógico construido con reglas lógicas. Si las reglas se pueden escribir, la IA las cumplirá sin problemas. Los problemas ocurren cuando las reglas no son perfectas o se piden resultados que no siguen las normativas.
- Repetible: los algoritmos de IA tomarán la misma decisión cuando se les presenten los mismos datos.
- Inflexible: como es «repetible», también significa que es inflexible e incapaz de adaptarse.
- Enfocado: los datos presentados a la IA controlan el resultado. Pero si no deseas que el algoritmo vea ciertos datos, puedes excluirlos fácilmente.
- Mentalidad literal: el algoritmo hará lo que se le pida, hasta cierto punto. Y si el entrenamiento presenta sesgos, el algoritmo los interpretará literalmente.
Los principales desafíos para la gobernanza de la IA
El trabajo que implica gobernar una IA todavía se está definiendo. Debemos señalar que el movimiento inicial está motivado en resolver algunos de los problemas más complicados cuando los humanos interactúan con la IA, y son estos:
- Explicabilidad: ¿Cómo pueden los desarrolladores y entrenadores de la IA entender cómo funciona? ¿Cómo se puede compartir este entendimiento con los usuarios a los que se les puede pedir que acepten las decisiones de la IA?
- Equidad: ¿el modelo satisface alguna de las demandas más amplias de equidad de la sociedad y las personas que deben vivir con las decisiones de la IA?
- Seguridad: ¿el modelo está tomando decisiones que protegen a los humanos y la propiedad?
- Colaboración humano-IA: ¿cómo pueden los humanos usar los resultados de la IA para guiar sus decisiones?
- Responsabilidad: ¿Quién debe pagar por los errores? ¿La estructura del negocio es lo suficientemente fuerte y bien entendida para asignar la responsabilidad de manera correcta y precisa?
¿Cómo abordan los principales líderes de la industria la gobernanza de la IA?
- Google: está trabajando en una » IA responsable » y la gobernanza es una parte importante de su programa. Las herramientas de la empresa, tales como la IA explicable, las tarjetas modelo y el kit de herramientas de código abierto TensorFlow, brindan un acceso más abierto al interior del modelo. Para, de este modo, promover una mayor comprensión y hacer posible la gobernanza.
- Microsoft: el enfoque de la empresa en la IA responsable se basó en varios equipos de toda la empresa que examinan cómo se desarrollan y utilizan las soluciones de IA, hecho que sugiere diferentes modelos de gobierno. Herramientas como Fairlearn e InterpretML pueden hacer un seguimiento del rendimiento de los modelos. Microsoft también ha creado herramientas específicas para gobiernos que tienen reglas más complejas.
- Amazon: la empresa se centra directamente en la gestión de los equipos que gestionan la IA. AWS Control Tower y AWS Organizations administran equipos que trabajan con todas las partes del entorno de AWS, incluidas las herramientas de IA.
- IBM: está creando herramientas para ayudar a las organizaciones a automatizar muchas de las tareas del gobierno de la IA. Los usuarios pueden rastrear la creación de modelos, seguir su implementación y evaluar su éxito.
Gobernar una IA representa todo un reto y todavía están investigándose formas efectivas para lograrlo, creemos que pronto se hallarán las respuestas adecuadas para lograr llevarlo a cabo.
