La policía se encargó de investigar por separado a dos padres, uno se encontraba en San Francisco y otro en Houston. Y ambos bajo la sospecha de abuso sexual infantil después de haber usado sus teléfonos Android para tomar fotos de los genitales de sus hijos con fines médicos. La policía, en ambos casos, determinó que los padres no habían cometido ningún delito. Pero Google no llegó a la misma conclusión. De acuerdo con un informe de The New York Times, la empresa desactivó permanentemente sus cuentas en todas sus plataformas.
Este incidente deja en claro que ningún sistema de detección automatizado es perfecto. Y que los informes falsos y las detecciones de abuso son inevitables. Por lo tanto, es probable que las empresas necesiten de un mejor mecanismo para lidiar con ellos.
¿Qué fue lo que hizo a Google decir que las fotos representaban abuso sexual?
Según el Times, esto ocurrió en el caso del hombre de San Francisco:
El sujeto tomó fotos de la ingle de su niño pequeño con el fin de documentar la hinchazón, pues notó que su hijo estaba experimentando dolor en la región. Después de ello, su esposa programó una videoconsulta de emergencia con un médico para la mañana siguiente. Era febrero de 2021 y, durante esa etapa de la pandemia, ir en persona a un consultorio médico era desaconsejable.
La enfermera solicitó que se enviaran fotos con anticipación, pues así el médico podría revisarlas con tiempo. La esposa del hombre de San Francisco envió un mensaje de texto con las fotos desde el teléfono de su esposo y luego las cargó desde un dispositivo al sistema de mensajes del proveedor médico. El médico le recetó antibióticos al niño y su condición mejoró.
Dos días después de haber tomado las fotos de su hijo, el padre recibió una notificación de que su cuenta había sido inhabilitada por «contenido dañino». Y que suponía una «violación grave de las políticas de Google y podría ser ilegal», informó el Times. El sujeto apeló dicha decisión, pero recibió un rechazo.
Pero Google también denunció las fotos a la policía
Google también denunció las fotos a la CyberTipline del Centro Nacional para Niños Desaparecidos y Explotados, esto elevó el informe a las fuerzas del orden. Diez meses después, el hombre de San Franciso recibió un aviso del Departamento de Policía de San Francisco de que lo habían investigado, según las fotos y un informe de Google. La policía emitió órdenes de registro a Google solicitando todo lo que había en la cuenta del sospechoso, incluidos mensajes, fotos y videos almacenados en la empresa, búsquedas en Internet y datos de ubicación.
Los investigadores concluyeron que no se había producido ningún delito. Mark intentó usar el informe policial para apelar a Google y recuperar su cuenta, pero su solicitud fue denegada nuevamente.
¿Cuáles fueron las consecuencias de todo esto?
Todo parece un pequeño inconveniente si pensamos en la posibilidad de abuso infantil, según los informes, pero la pérdida de la cuenta de Google del padre ha sido toda una gran molestia. De acuerdo con el Times:
No solo perdió correos electrónicos, información de contacto de amigos y antiguos colegas y documentación de los primeros años de vida de su hijo, sino que su cuenta de Google Fi se cerró, lo que significa que tuvo que obtener un nuevo número de teléfono con otro proveedor. Sin acceso a su antiguo número de teléfono y dirección de correo electrónico, no pudo obtener los códigos de seguridad que necesitaba para iniciar sesión en otras cuentas de Internet, lo que lo bloqueó de gran parte de su vida digital.
“Cuantos más huevos tenga en una canasta, es más probable que la canasta se rompa”, dijo.
Algo similar ocurrió en Houston, Texas
En Houston, Texas ocurrió algo similar y también fue informado por el Times. En dicho caso, un pediatra le pidió a otro padre que le tomara fotos de las «partes íntimas» a su hijo para diagnosticar una infección. Dichas imágenes se respaldaron automáticamente en Google Photos y el padre las envió a su esposa a través de Google Messenger. La pareja estaba en medio de la compra de una nueva casa en ese momento, y gracias a que las imágenes llevaron a que se deshabilitara la dirección de correo electrónico del padre, enfrentaron complicaciones adicionales.
Google sobre el material de abuso sexual
En una declaración enviada por correo electrónico, un portavoz de Google le dijo a Gizmodo lo siguiente:
“El material de abuso sexual infantil (CSAM, por sus siglas en inglés) es abominable y estamos comprometidos a evitar que se propague en nuestras plataformas. Seguimos la ley de los EE. UU. al definir lo que constituye CSAM y usamos una combinación de tecnología de comparación de hash e inteligencia artificial para identificarlo y eliminarlo de nuestras plataformas. Además, nuestro equipo de expertos en seguridad infantil revisa el contenido marcado para verificar su precisión y consulta con pediatras para ayudar a garantizar que podamos identificar los casos en los que los usuarios pueden estar buscando asesoramiento médico. Los usuarios tienen la capacidad de apelar cualquier decisión, nuestro equipo revisa cada apelación y restableceremos una cuenta si se ha cometido un error”.
Kate Klonick, abogada y profesora de derecho que se enfoca en la privacidad en la Universidad de St. John, señala: Es difícil «dar cuenta de las cosas que son invisibles en una foto, como el comportamiento de las personas que comparten una imagen o las intenciones de la persona que la toma. Esto sería problemático si fuera solo un caso de moderación y censura de contenido”, agregó Klonick. “Pero esto es doblemente peligroso porque también resulta en que alguien sea denunciado ante las fuerzas del orden”.
Google todavía no ha dicho nada sobre el caso de la eliminación de esas dos cuentas por abuso sexual o si serán restablecidas o no.
