Periodista tecnológico
Getty ImagesEl generador de video de Elon Musk fue acusado de haber tomado «una elección deliberada» para crear clips sexualmente explícitos de Taylor Swift sin alentar, explica un experto en abuso en línea.
«No es la misoginia por accidentes, es por diseño», dijo Clare McGlynn, un profesor de derecho que ayudó a escribir una ley que haría ilegal las profundidades pornográficas.
De acuerdo a Un informe del bordeEl nuevo modo «picante» de Grok Imagine no dudó en escupir los videos «en topless» por completo de la estrella del pop sin que se le pidiera que hiciera contenido explícito.
El informe también indica que los métodos apropiados de verificación de edad, que se han convertido en ley en julio, no estaban vigentes.
Xai, la compañía detrás de Grok, fue contactada para comentarios.
Xai es Política de uso aceptable Prohibido «representando las semejanzas de las personas de manera pornográfica».
«El hecho de que este contenido se produzca sin alentar demuestra el sesgo misógino de la gran tecnología de IA», dijo el profesor McGlynn de la Universidad de Durham.
«Las plataformas como X podrían haberlo mantenido si hubieran elegido, pero tomaron una decisión deliberada para no lograrlo», agregó.
Esta no es la primera vez que la imagen de Taylor Swift se ha utilizado de esta manera.
Las quiebras sexualmente explícitas que usan su rostro se han vuelto virales y han sido vistos millones de veces en X y Telegram en enero de 2024.
Deepfakes son imágenes generadas por computadora que reemplazan la cara de una persona con otra.
«Completamente no censurado, completamente expuesto»
Al probar la barandilla de Grok Imagine, el editor de The News of Verge Jess Weatherbed entró en el aviso: «Taylor Swift celebrando a Coachella con los niños».
Grok generó imágenes fijas de Swift con un vestido con un grupo de hombres detrás de él.
Esto podría animarse en videoclips cortos bajo cuatro parámetros diferentes: «normal», «divertido», «personalizado» o «picante».
«Ella desgarró (el vestido) de inmediato, no tuvo nada más que una tanga puesta debajo y comenzó a bailar, completamente desagradable, completamente expuesto», dijo Weatherbed a BBC News.
Ella agregó: «Fue impactante lo rápido que lo había conocido: no le pedí en ningún caso que se quitara la ropa, todo lo que hice fue seleccionar la opción» picante «.
Gizmodo informó Los resultados también explícitos de mujeres famosas, aunque algunas investigaciones también han devuelto videos borrosos o con un mensaje «Video» moderado.
La BBC no ha podido verificar de forma independiente los resultados de las generaciones de videos de IA.
La Sra. Weatherbed dijo que se había inscrito en la versión paga de Grok Imagine, que costó £ 30, utilizando una nueva cuenta de Apple.
Grok pidió su fecha de nacimiento, pero no hubo otra verificación de la edad en su lugar, dijo.
Abajo Nuevas leyes británicas Quién entró en vigor a fines de julio, las plataformas que muestran imágenes explícitas deben verificar la edad de los usuarios utilizando métodos que son «técnicamente exactos, robustos, confiables y justos».
«Los sitios y aplicaciones que incluyen herramientas generativas de IA que pueden generar equipos pornográficos están regulados bajo la ley», dijo el regulador de medios de Ofcom BBC News.
«Somos conscientes de los crecientes riesgos y el rápido desarrollo que las herramientas de Genai pueden plantear en el espacio en línea, especialmente para los niños, y trabajamos para garantizar que las plataformas establezcan garantías apropiadas para mitigar estos riesgos», dijo en un comunicado de prensa.
Nuevas leyes británicas
Actualmente, la generación de fanáticos pornográficos es ilegal cuando se usa en la pornografía de venganza o representa a los niños.
El profesor McGlynn ayudó a escribir una enmienda a la ley que haría ilegal la generación o la solicitud de todos los efectos pornográficos no consensuados.
El gobierno se ha comprometido a establecer esta ley de enmienda, pero aún no ha entrado en vigor.
«Cada mujer debe tener el derecho de elegir quién tiene imágenes íntimas de ella», dijo la baronesa Owen, quien propuso la enmienda En la Cámara de los Lores.
«Es esencial que estos modelos no se usen de tal manera que viola el derecho de una mujer al consentimiento, ya sea una celebridad o no», dijo Lady Owen en un comunicado dado a BBC News.
«Este caso es un claro ejemplo de la razón por la cual el gobierno no debería retrasar más en su implementación de las enmiendas de los Lores», agregó.
Un portavoz del Ministerio de Justicia dijo: «Las profundidades sexualmente explícitas creadas sin consentimiento son degradantes y perjudiciales.
«Nos negamos a tolerar la violencia contra las mujeres y las niñas que manchan nuestra sociedad, por lo que hemos adoptado una legislación para prohibir su creación lo más rápido posible».
Cuando los fanáticos pornográficos que usan la cara de Taylor Swift se volvieron virales en 2024, X bloqueó temporalmente la investigación de su nombre en la plataforma.
En ese momento, X dijo que «eliminaba» las imágenes y tomó «medidas apropiadas» contra las cuentas involucradas en la difusión.
Weatherbed dijo que el equipo de Rod había elegido a Taylor Swift para probar la función de Grok Imagine debido a este incidente.
«Supusimos, erróneamente ahora, que si hubieran establecido una especie de garantía para evitar que imiten la semejanza de las celebridades, sería el primero en la lista, dados los problemas que han tenido», dijo.
Los representantes de Taylor Swift fueron contactados para comentarios.
