Israel GómezGoogle ha sido identificado como el anfitrión de más de 100 videos en YouTube que promueven la pornografía deepfake, generada con inteligencia artificial.
Según una revisión realizada por Forbes, estos videos, que acumulan millones de visitas, anunciaban la capacidad de aplicaciones y sitios web de IA para desnudar imágenes de mujeres con rapidez, sin necesidad de herramientas específicas de «nudificación».
Algunos de estos videos proporcionaban tutoriales para una aplicación que, según se informa, ha sido utilizada por estudiantes de secundaria en España y Nueva Jersey para generar imágenes de desnudos de sus compañeras de clase. Estos actos han llevado a las víctimas a enfrentar intimidación, vergüenza pública y ataques de pánico.
Además, se encontraron referencias a otro sitio web en varios de estos videos de YouTube, relacionado con un caso judicial de 2023 en el que un psiquiatra infantil fue condenado a 40 años por abuso sexual infantil y explotación sexual de un menor. Este individuo fue acusado de utilizar inteligencia artificial para crear imágenes de abuso sexual infantil, incluyendo alteraciones de imágenes de su novia de secundaria.
La exposición de estas prácticas ha generado preocupaciones sobre el papel de Google en facilitar el uso de estas aplicaciones. Signy Arnason, directora ejecutiva asociada del Centro Canadiense para la Protección Infantil, considera «impensable» que Google permita la promoción de este tipo de aplicaciones en YouTube y en los resultados de búsqueda. Cada vez más, escuelas están reportando casos de estudiantes víctimas de imágenes generadas por IA.
Estos problemas no se limitan a YouTube. Forbes identificó tres aplicaciones de Android que ofrecen servicios similares, así como 27 anuncios en el Centro de Transparencia de Google Ads que promocionaban servicios de «desnudo profundo».
La proliferación de estas aplicaciones y servicios plantea serias preocupaciones sobre la privacidad y la seguridad en línea, así como sobre el consentimiento y el uso ético de la inteligencia artificial en la creación de contenido pornográfico.