Elon Musk
X a annoncé mercredi avoir despleyé des mesures technologiques pour empêcher le compte Grok de permettre la edición de imágenes de personas reales portadoras de prendas de vestir reveladoras como los bikinis, aplicando la restricción a todos los usuarios, y comprende los pagos abonados. La compañía también confirmó que está bloqueando geográficamente la capacidad de generar este tipo de imágenes en jurisdicciones donde es ilegal.
«Seguimos comprometidos a hacer de X una plataforma segura para todos y seguimos teniendo tolerancia cero con cualquier forma de explotación sexual infantil, desnudez no consensuada y contenido sexual no deseado», dijo X Safety en un comunicado. publicado en su cuenta.
El regulador británico Ofcom calificó los cambios como un «acontecimiento bienvenido», pero destacó que su investigación sobre si X había violado las leyes británicas «sigue en curso». «Estamos trabajando día y noche para avanzar en este asunto y obtener respuestas sobre qué salió mal y qué se está haciendo para solucionarlo», dijo un portavoz de Ofcom. según noticias de la BBC.
El Primer Ministro británico, Sir Keir Starmer, se dirigió al Parlamento el miércoles y calificó las acciones de Grok y
«Si ese es el caso, es bienvenido, pero no vamos a dar marcha atrás», dijo Starmer. «X debe actuar. Tomaremos las medidas necesarias. Reforzaremos las leyes existentes y prepararemos legislación si es necesario ir más allá, y Ofcom continuará su investigación independiente».
Starmer también criticó
El anuncio de X se produjo horas después de que el fiscal principal de California dijera que el estado estaba investigando la propagación de deepfakes sexualizados de IA, incluidos niños, generados por el modelo de IA, según BBC News.
Elon Musk abordó el problema en una declaraciónafirmando que «no tenía conocimiento de ninguna imagen de menores desnudos generada por Grok. Literalmente cero».
«Obviamente, Grok no genera imágenes de forma espontánea, lo hace basándose únicamente en las solicitudes de los usuarios», dijo Musk. «Cuando se le pide que genere imágenes, se niega a producir nada ilegal, porque el principio operativo de Grok es obedecer las leyes de un país o estado determinado».
Musk reconoció la posibilidad de que un «pirateo adversario de los mensajes de Grok» provoque algo inesperado y agregó: «Si esto sucede, solucionamos el error de inmediato». »
Creación de imágenes y capacidad de editar imágenes a través de la cuenta Grok en el
X a souligné que toutes les invites d’IA et le contenu généré publiés sur la plate-forme doivent estricto respeto ses règles, el equipo de seguridad de la empresa se esfuerza « d’ajouter des garanties supplémentaires, de prendre des mesures rapides et decisives pour supprime les contenus in infraction et illégaux, de suspender définitivement les comptes le cas échéant et de collaborer avec les gouvernements locaux et les schools de l’ordre si nécessaire ».
«La rápida evolución de la IA generativa presenta desafíos para toda la industria», dijo X. «Estamos trabajando activamente con los usuarios, nuestros socios, órganos rectores y otras plataformas para resolver los problemas más rápidamente a medida que surgen».
Los acontecimientos se producen tras el anuncio de Ofcom el lunes de que había iniciado una investigación formal sobre
Malasia e Indonesia bloquearon el acceso a Grok el fin de semana pasado, convirtiéndose en los primeros países del mundo en prohibir la herramienta de inteligencia artificial por temor a que pueda usarse para crear imágenes pornográficas y no consensuadas que involucren a mujeres y niños, según BBC News.
Si la investigación de Ofcom determina que en casos graves de incumplimiento persistente, Ofcom puede solicitar una orden judicial para «medidas de interrupción del negocio», incluido exigir a los proveedores de servicios de Internet que bloqueen el acceso del Reino Unido a la plataforma.
Desde que los requisitos de la Ley de Seguridad en Línea entraron en vigor hace menos de un año, Ofcom ha iniciado investigaciones sobre más de 90 plataformas y ha emitido seis multas por incumplimiento.
