La inteligencia artificial está convirtiendo fotos comunes e inocentes de niños en material espantoso de explotación sexual: una verdad impactante.
Proteja a sus hijos: la inteligencia artificial está convirtiendo sus fotos cotidianas en contenido sexualmente explícito. Comprenda este peligroso fenómeno y cómo combatirlo de inmediato.
Las cosas más importantes que necesitas saber
- Una investigación ha revelado 332 anuncios de explotación sexual infantil generados por inteligencia artificial en Facebook e Instagram, donde fotos de niños reales y corrientes fueron manipuladas para convertirlas en contenido abusivo.
- Los sistemas de IA de Meta no lograron detectar cientos de anuncios abusivos de pago, incluso después de supuestas mejoras, mientras que otros anuncios promocionan casi 50 aplicaciones abusivas de creación de imágenes disponibles en las tiendas de aplicaciones.
- Los padres no deben republicar imágenes abusivas de sus hijos generadas por IA, sino denunciarlas directamente a la plataforma correspondiente y recopilar los datos de la cuenta. Pueden usar el servicio "Eliminar" de NCMEC para crear un registro digital.
Una foto de mis hijos en la playa, mi hijo jugando al fútbol o incluso toda mi familia sonriendo frente a nuestra casa: todos estos son ejemplos de fotos que he compartido en redes sociales. Sé que no soy la única, ya que veo con frecuencia imágenes similares que capturan detalles de nuestra vida moderna.
Pero la inteligencia artificial ha creado un peligro nuevo y preocupante, al permitir que imágenes ordinarias y reales de niños, como las que acabo de mencionar, se conviertan en imágenes de explotación sexual sin el conocimiento del niño o de sus padres.
Dejemos algo claro: no se trata de una amenaza teórica.
Se transmitieron 332 anuncios con imágenes de explotación sexual infantil generadas por IA.
Una nueva investigación del Tech Transparency Project (TTP) ha descubierto cientos de anuncios de material de explotación sexual infantil (CSAM) generados por IA que circulan en Facebook e Instagram. Según WIRED , los investigadores identificaron a cuatro menores cuyas fotos cotidianas habían sido manipuladas. Entre ellos se encontraban dos jóvenes influencers, un preadolescente cuya imagen apareció en un banco de imágenes y un joven miembro de una familia real europea.
En total, TTP encontró 332 anuncios que contenían material de explotación sexual infantil generado por IA, o CSAM por sus siglas en inglés. La mayoría de estos anuncios mostraban a un niño cuya imagen había sido manipulada mediante IA para simular que estaba realizando un acto sexual.
Estos hallazgos sirven como un inquietante recordatorio de cómo la IA generativa ha alterado los riesgos relacionados con la difusión de imágenes infantiles en línea. Para crear imágenes falsas convincentes, ya no se necesita una fotografía real; una imagen común puede servir como materia prima.
Cómo convertir imágenes ordinarias en material ofensivo generado por IA.
Las herramientas de IA generativas de imágenes pueden tomar una imagen existente y modificar partes de ella, conservando al mismo tiempo los rasgos originales y reconocibles de la persona.
Esto es lo que, según los investigadores, les ocurrió a varios niños identificados en los anuncios de Meta.
Según WIRED, los investigadores lograron rastrear las imágenes de cuatro menores hasta sus fuentes originales. Dos de ellos eran jóvenes influencers con cuentas públicas en redes sociales. Otro era un preadolescente cuya imagen estaba disponible en un banco de imágenes. El cuarto era un joven miembro de una familia real europea.
Ninguna de esas imágenes originales necesitaba contener material sexual para ser mal utilizadas.
Emma Hardy, directora de comunicaciones de la Internet Watch Foundation, declaró a WIRED: "Las aplicaciones de IA facilitan enormemente la creación de imágenes realistas y delictivas de abuso sexual infantil, lo que genera un nuevo riesgo de que las fotos cotidianas de niños sean tomadas y convertidas en contenido sexual".
Una vez que una imagen común está disponible públicamente, cualquiera puede descargarla e introducirla en una herramienta de inteligencia artificial diseñada para editar imágenes.
La IA de Meta no logró detectar cientos de anuncios.
La magnitud de la reciente investigación también demuestra lo difícil que resulta detener el contenido resultante.
En agosto, los investigadores de TTP descubrieron inicialmente 53 anuncios que contenían material de abuso sexual infantil en las plataformas de Meta. Posteriormente, Meta declaró que muchos de esos anuncios aparecieron antes de que la empresa introdujera una nueva tecnología de IA diseñada para mejorar su capacidad de detectar anuncios inapropiados al momento de su publicación.
Sin embargo, los investigadores continuaron encontrándolos. De hecho, TTP afirma haber identificado finalmente 332 anuncios que contenían material de abuso sexual infantil generado por IA (CSAM, por sus siglas en inglés), cientos de los cuales aparecieron después de que Meta anunciara su tecnología de detección mejorada, lo que plantea dudas sobre la eficacia de la monitorización basada en IA.
Esto es especialmente importante porque no se trataba simplemente de publicaciones de Facebook o Instagram que pasaron desapercibidas. Eran anuncios pagados.
Meta afirma que los anuncios se revisan antes de que se autorice su publicación y que los sistemas automatizados desempeñan un papel clave en este proceso.
La portavoz de Meta, Tracy Clayton, declaró a WIRED que la compañía tiene tolerancia cero con las aplicaciones que "desnudan" o explotan a menores, ya sean imágenes de niños reales o generadas por IA. Meta afirmó que los delincuentes intentan deliberadamente eludir sus sistemas de detección y que algunos vídeos fueron más difíciles de detectar porque las imágenes de los niños aparecían solo brevemente o estaban borrosas.
La empresa afirmó que muchos de los anuncios identificados por los investigadores ya habían sido eliminados, que la mayoría tenía menos de 200 impresiones y que había recibido menos de 5000 dólares en pagos por dichos anuncios. Sin embargo, los investigadores documentaron casos en los que el alcance de los anuncios aumentó después de que se denunciaran.
TTP informó que un único anuncio dirigido a un adolescente real había llegado a cuatro cuentas europeas cuando se denunció a Meta. Varios días después, cuando Meta lo eliminó, el anuncio había llegado a más de 330 cuentas.
La investigación revela el uso generalizado de estas herramientas.
Los investigadores descubrieron anuncios que dirigían a los usuarios a casi 50 aplicaciones disponibles en la App Store de Apple y en Google Play. Según WIRED, aproximadamente 300 de los 350 anuncios analizados en la investigación más amplia promocionaban generadores de imágenes o vídeos con inteligencia artificial.
Apple declaró a WIRED que algunos desarrolladores ofrecieron inicialmente versiones compatibles de sus aplicaciones antes de añadirles funciones de eliminación de contenido prohibidas. Apple afirmó haber eliminado 17 de las 20 aplicaciones identificadas por los investigadores y haber tomado medidas contra las tres restantes, además de otras siete aplicaciones descubiertas por WIRED.
Por su parte, Google declaró que eliminó todas las aplicaciones mencionadas en el informe y suspendió cientos de otras aplicaciones por violar sus políticas.
Sin embargo, estos hallazgos revelan un problema que trasciende cualquier plataforma, ya que la inteligencia artificial puede utilizarse para crear estas imágenes ofensivas. La mayoría de las herramientas de IA no están reguladas, lo que pone en riesgo a las empresas. Una tienda de aplicaciones podría distribuir la herramienta utilizada para crearlas, y luego una plataforma publicitaria podría distribuir anuncios que las promocionen.
Cada capa de este sistema puede tener sus propios sistemas de seguridad, pero el material ofensivo solo necesita pasar por estos sistemas una vez para llegar a los usuarios.
¿Qué harías si encontraras una imagen de tu hijo generada por inteligencia artificial?
Si descubre imágenes sexuales de su hijo generadas por IA, no las vuelva a publicar ni las comparta ampliamente para intentar advertir a los demás.
En su lugar, guarda información que pueda ayudar a identificar dónde aparece este material, como el nombre de la cuenta, el título de la página y otros detalles relacionados, e informa del contenido directamente a la plataforma.
En Estados Unidos, los casos sospechosos de explotación sexual infantil también pueden denunciarse a la línea directa CyberTipline del Centro Nacional para Niños Desaparecidos y Explotados.
Los padres también pueden usar el servicio Take It Down de NCMEC , diseñado para ayudar a detener la difusión en línea de fotos o videos desnudos, semidesnudos o sexualmente explícitos de personas menores de 18 años. El sistema crea una huella digital, o hash, de la imagen sin necesidad de subir la imagen en sí.
Dado que las imágenes generadas por IA crean escenarios nuevos y más complejos, los padres que no estén seguros de si una imagen procesada cumple con los criterios de notificación deben informar lo que encuentren en lugar de intentar determinarlo por sí mismos.
Conclusión
Durante años se ha advertido a los padres sobre los peligros de "compartir" y la huella digital de sus hijos. El término "compartir", una combinación de "compartir" y "crianza", se refiere a la práctica de los padres de compartir fotos, videos y detalles personales de sus hijos en las redes sociales.
Si bien los padres no pueden eliminar por completo el riesgo de que la IA haga un mal uso de las fotos o videos que publican, reducir la cantidad de imágenes de sus hijos disponibles públicamente y ser más selectivos con lo que comparten puede disminuir la cantidad de material disponible para personas que podrían hacer un mal uso del mismo.
Los comentarios están cerrados.