Ashley St Clair, la madre de uno de los hijos de Elon Musk, ha demandado a su empresa xAI por sus deepfakes sexualizados creados en la plataforma de redes sociales X.
La demanda presentada el jueves en Nueva York alega que la herramienta Grok AI creó imágenes sexualmente explícitas de St Clair.
X y la empresa matriz de Grok, xAI, contrademandaron a St Clair por violar sus términos de servicio.
X no respondió directamente a las preguntas de BBC News sobre las demandas.
«Tenemos la intención de responsabilizar a Grok y ayudar a establecer límites legales claros en interés de todo el público para evitar que se haga un mal uso de la IA», dijo a BBC News la abogada de St Clair, Carrie Goldberg.
«Al fabricar imágenes sexualmente explícitas y no consensuadas de niñas y mujeres, xAI es una molestia pública y no un producto razonablemente seguro», añadió Goldberg.
El expediente judicial de St Clair alega: «Los usuarios de X desenterraron fotos de St Clair completamente vestida a los 14 años y le pidieron a Grok que la desnudara y la pusiera en bikini». Grok obedeció.
Afirma que las imágenes creadas de St Clair eran «de facto no consensuadas», pero que los desarrolladores de Grok también tenían «conocimiento explícito» de su falta de consentimiento.
También afirma que Grok generó una imagen que muestra a St Clair, que es judía, «en un bikini de hilo cubierto de esvásticas».
En respuesta a sus quejas, dice el documento, la compañía «tomó represalias contra ella, desmonetizando su cuenta X y generando una gran cantidad de imágenes adicionales de ella».
Algunos usuarios premium de X, que pagan una suscripción mensual, pueden recibir una parte de los ingresos publicitarios generados por las publicaciones que reciben mucha participación.
En una contrademanda, xAI dijo que St Clair violó sus términos de servicio al presentar la demanda en Nueva York.
Los términos de la empresa establecen que las disputas con xAI deben presentarse en Texas.
Goldberg le dijo a BBC News que la contrademanda de la compañía era «discordante».
“Nunca he oído hablar de un acusado que haya demandado a alguien por informarle de su intención de utilizar el sistema judicial”, dijo.
«Y el abuso que sufrió en línea está siendo emulado en su estrategia legal».
Añadió que St Clair “defendería vigorosamente” su caso en Nueva York y que “cualquier jurisdicción reconocería” el agravio.
Esto fue revelado por St Clair. en una publicación X el año pasado que había dado a luz al hijo del multimillonario tecnológico, uno de al menos 13 que se dice que engendró.
Según los informes, St Clair y Musk están inmersos en una batalla por la custodia de su hijo.
X ha sido objeto de un intenso escrutinio por parte de usuarios, políticos y reguladores de todo el mundo on Grok solía crear imágenes sexualizadas no consensuadas de personas.
Los usuarios podían etiquetar la cuenta de Grok en publicaciones o respuestas a publicaciones en la plataforma y pedirle que editara imágenes para desnudar a las personas.
Grok ha cumplido con muchas de estas solicitudes produciendo imágenes fotorrealistas de mujeres reales en bikini y ropa reveladora. Según los informes, también produjo imágenes sexualizadas de niños.
El miércoles, antes de su presentación ante el tribunal, St Clair le dijo a BBC Newsnight que su imagen había sido «despojada» para aparecer «básicamente desnuda, inclinada», aunque le dijo a Grok que no aceptaba imágenes sexualizadas.
Ella y otras mujeres cuyas imágenes fueron retocadas con Photoshop dijeron que el sitio no estaba haciendo lo suficiente para combatir el contenido ilegal, incluidas imágenes de abuso sexual infantil.
Tras la reacción violenta, X cambió sus reglas para que solo los usuarios pagos pudieran usar la función, lo que generó críticas. Los grupos de mujeres y el gobierno británico..
La empresa dijo el miercoles que todos los usuarios de X ya no podrán editar fotos de personas reales para mostrarlas con ropa reveladora en jurisdicciones donde esto sea ilegal.
Más tarde actualizó su publicación para decir que implementaría «medidas de bloqueo geográfico similares para la aplicación Grok», que es independiente de X.
Viernes, El guardián informó que todavía era posible utilizar la aplicación Grok independiente para generar deepfakes sexualizados de personas reales y publicarlos en X «sin ningún signo de moderación».
El gobierno del Reino Unido está poniendo en vigor una ley que ilegalizará la creación de imágenes íntimas no consentidas, y el regulador Ofcom está en proceso de hacerlo. Todavía estamos investigando si X violó las leyes existentes del Reino Unido..
