Advertencia de Human Rights Watch sobre el uso de fotos de niños brasileños en herramientas de IA
Las fotos de niños brasileños, a veces abarcando toda su infancia, han sido utilizadas sin su consentimiento para potenciar herramientas de inteligencia artificial, incluyendo generadores de imágenes populares como Stable Diffusion, advirtió Human Rights Watch (HRW) el lunes.
Este acto plantea riesgos urgentes de privacidad para los niños y parece aumentar los riesgos de imágenes generadas por IA sin consentimiento que contienen sus semejanzas, dijo el informe de HRW.
Análisis del problema
Un investigador de HRW, Hye Jung Han, ayudó a exponer el problema. Analizó «menos del 0.0001 por ciento» del conjunto de datos LAION-5B, un conjunto de datos construido a partir de instantáneas de la web pública recogidas por Common Crawl.
El conjunto de datos no contiene las fotos reales, pero incluye pares de imagen-texto derivados de 5.85 mil millones de imágenes y subtítulos publicados en línea desde 2008.
Imagenes de niños brasileños
Entre esas imágenes vinculadas en el conjunto de datos, Han encontró 170 fotos de niños de al menos 10 estados brasileños. Estas eran principalmente fotos familiares subidas a blogs personales y de crianza, que la mayoría de los internautas no encontrarían fácilmente.
«Así como imágenes fijas de videos de YouTube con recuentos de visualizaciones pequeños, aparentemente subidos para ser compartidos con familiares y amigos»
Informó Wired.
Acciones tomadas y problemas continuos
LAION, la organización sin fines de lucro alemana que creó el conjunto de datos, ha trabajado con HRW para eliminar los enlaces a las imágenes de los niños en el conjunto de datos.
Sin embargo, esto puede no resolver completamente el problema. El informe de HRW advirtió que los enlaces eliminados
«Probablemente sean una subestimación significativa de la cantidad total de datos personales de los niños que existen en LAION-5B.»
Han dijo a Wired que teme que el conjunto de datos pueda seguir haciendo referencia a fotos personales de niños «de todo el mundo.»
Comentarios de los involucrados
Eliminar los enlaces tampoco elimina las imágenes de la web pública, donde aún pueden ser referenciadas y utilizadas en otros conjuntos de datos de IA, particularmente aquellos que dependen de Common Crawl, dijo Nate Tyler, portavoz de LAION, a Ars.
«Este es un problema mayor y muy preocupante, y como organización sin fines de lucro y de voluntarios, haremos nuestra parte para ayudar»
Dijo Tyler a Ars.
Según el análisis de HRW, muchas de las identidades de los niños brasileños eran «fácilmente rastreables», debido a los nombres y ubicaciones de los niños.
Riesgos de las Herramientas de IA para Niños y Adolescentes
El HRW sugirió que las herramientas de IA podrían generar clones de IA de niños cuyas imágenes están en datasets de IA. Las fotos incluyen momentos íntimos desde el nacimiento hasta la adolescencia.
Se dice…
Tyler indicó que hay menos riesgo de que las fotos de niños brasileños se utilicen actualmente en herramientas de IA desde que se retiraron las versiones públicas de LAION-5B en diciembre. Esto se debe a enlaces en el dataset que apuntaban a contenido ilegal incluido material de abuso sexual infantil.
HRW reportó que al menos 85 niñas en Brasil denunciaron ser acosadas por compañeros que usan herramientas de IA para crear «deepfakes sexualmente explícitos» basados en fotos de sus perfiles de redes sociales. Estos deepfakes pueden causar un daño duradero, permaneciendo en línea de por vida.
Medidas tomadas
LAION está colaborando con diversas organizaciones para eliminar contenido ilegal y espera republicar un LAION-5B revisado pronto. “Los niños no deberían vivir con miedo de que sus fotos puedan ser robadas y usadas en su contra,” advirtió HRW.
Protección de Datos de Niños contra el Mal Uso de la IA
El gobierno debe adoptar urgentemente políticas para proteger los datos de los niños del mal uso impulsado por la inteligencia artificial, según Han. Ars no pudo contactar de inmediato a Stability AI, creador de Stable Diffusion, para un comentario.
