Hace unos días se presentó un interesante debate en Twitter entre los amantes de la Inteligencia Artificial y los escépticos, donde se discutía sobre los impactantes resultados de un estudio que fue publicado en la revista Nature.
En el mismo se reveló que es posible predecir factores de riesgo cardiovascular a través de una foto de la retina con la ayuda de la Deep Learning.
If an eye doctor looked at a retinal photo, the chance of getting gender correct would be 50-50.
But deep learning training led to an AUC of 0.97 @pearsekeane pointed out how striking this is @JeffDean at a recent #AI @GoogleAI meeting; data: https://t.co/3nbFj35myt @NatBME #OA pic.twitter.com/L8syEUjfmY— Eric Topol (@EricTopol) November 18, 2018
Este debate comenzó cuando Eric Topol, un famoso investigador médico estadounidense mencionaba que uno de los puntos más resaltantes de este estudio es que la IA puede superar al ojo humano en más del 90% y puede distinguir el género de una persona con solo observar la foto del interior del ojo.
Si un oculista echara un vistazo a la foto de una retina, la probabilidad de que vaticinara correctamente el género sería del 50%, pero el uso del ‘deep learning’ tuvo un éxito del 97%. Y no tenemos ni idea de qué características están ‘viendo’ las máquinas para que esto sea posible.
Esto puede deberse a que la Deep Learning que se caracteriza por el aprendizaje automático, el cual utiliza una serie de algoritmos que a través de las redes neuronales multi-capas permiten identificar, entrenar modelos y aprender con ellos, a partir de grandes cantidades de datos.
Dentro de esta discusión se plantearon varias interrogantes, propias de este tema donde, para los escépticos, la IA superará con creces a los humanos y tendremos en un futuro donde ni los mismos creadores podrán saber el comportamiento de estos algoritmos, una teoría llamada caja negra.
Una vez que una red neuronal ha aprendido una habilidad de este tipo, ¿es posible para un humano resolver exactamente cómo lo hizo? ¿o es demasiado complejo para nosotros?
Ante estas interrogantes el investigador menciona que: “deconstruir las ‘cajas negras’ de los algoritmos” es una tarea que hasta el momento se tiene pendiente, sin embargo, existen muchos casos donde se han tenido avances, aunque este no sea uno de ellos.
Como vemos un estudio muy interesante, pero que para el investigador es el resultado de una teoría nunca estudiada por los humanos, y es de la posibilidad de que la retina tuviera una diferencia de género.
Para ser justos, nunca hemos pensado en buscar diferencias de género en las retinas […] pero de todos modos me fascina que esto sea posible.