Un informe de NBC señala que las fotografías usadas por IBM para entrenar su sistema de reconocimiento facial fueron tomadas desde Flickr pero sin consentimiento de los usuarios. Es decir, todo parece indicar que las personas no fueron informadas acerca de que su rostro sería utilizado en el desarrollo del sistema de inteligencia artificial de la empresa de software.
IBM cuenta con amplios servidores de reconocimiento facial que implementa en sus diferentes productos, entre los que destaca IBM i2 Facial Recognition. Los servidores de la compañía cuentan con millones de imágenes que utilzan para entrenar el reconocimiento de patrones.
Sin embargo, según NBC muchas de estas imágenes fueron tomadas de Flick y aunque los fotógratos cuenten con derechoos de autor, algunos alegaron al medio que las personas retratadas no fueron informadas de que su imagen sería usada en entrenamiento de los algoritmos de reconocimiento facial.
Ninguna de las personas que fotografié tenía idea de que sus imágenes se estaban utilizando de esta manera.
Si bien, las fotos de Flickr son parte de una recopilación llamada YFCC100M, que comprende 99.2 millones de fotos destinadas a la investigación –iniciativa del propietario de Flickr, Yahoo–, no se puede descartar que la funcionalidad de los sistemas de reconomiento facial así como su utilidad es extensa. Como por ejemplo identificar el perfil étnico de una persona.
Ante el reporte de NBC, IBM se manifestó explicando lo siguiente:
Nos tomamos muy en serio la privacidad de las personas y hacemos lo posible por cumplir con los principios de privacidad.
IBM también señaló que no todo el mundo tiene acceso a estos datos, a menos que sean investigadores del proyecto. Sin embargo, no podemos olvidar que Ficker hace pocos meses liberó a disposición del público su extensa base de datos con estas fotografías para ayudar al entrenamiento de reconomiento facial de otras aplicaciones, con el fin de evitar graves fallos en el futuro de estos sistemas de reconocimiento.
Una de las bases de datos liberadas en su momento con licencia Creative Common cuenta con 36,000 imágenes faciales, que se distribuyen por igual en etnias, géneros y edades.