El regulador británico de medios Ofcom inició el lunes una investigación formal sobre la actuación de Elon Musk.
La investigación se centra en informes «profundamente preocupantes» de que el chatbot Grok AI de X se utilizó para crear y compartir imágenes íntimas no consensuadas e imágenes sexualizadas de niños que pueden constituir material de abuso sexual infantil (CSAM), según Ofcom.
La investigación surge tras la rápida presión del gobierno tras la condena generalizada del uso de Grok para crear deepfakes sexuales no consensuales. La semana pasada, el primer ministro británico, Keir Starmer, calificó la práctica de «vergonzosa» y «repugnante», y dijo a Greatest Hits Radio que la creación de imágenes explícitas que representan tanto a adultos como a menores es «ilegal» y «no debe ser tolerada». según noticias de la BBC.
«He pedido que todas las opciones estén sobre la mesa», dijo Starmer, destacando que Ofcom ha recibido el «pleno apoyo» del gobierno para las medidas de aplicación.
En respuesta a la reacción violenta, el viernes X trasladó las funciones de edición de imágenes de Grok detrás de un muro de pago, limitando la funcionalidad a los suscriptores de pago que proporcionan identificación e información de pago. La restricción significa que solo los titulares de cuentas verificadas con una marca de verificación azul pueden editar imágenes en la plataforma, aunque los usuarios gratuitos aún pueden acceder a funciones a través de la aplicación y el sitio web separados de Grok.
Ofcom se puso en contacto con X el 5 de enero y fijó como fecha límite el 9 de enero para que la empresa explicara sus medidas de cumplimiento en virtud de la Ley de seguridad en línea del Reino Unido. Después de recibir la respuesta de X y realizar una evaluación acelerada, el regulador anunció el lunes que había determinado que se justificaba una investigación formal.
La investigación examinará si
Ofcom también comprobará si X evaluó correctamente los riesgos para los niños y utilizó una «garantía de edad altamente eficaz» para evitar que los menores accedan a material pornográfico.
«Los informes de que Grok fue utilizado para crear y compartir imágenes íntimas ilegales y no consensuadas y material de abuso sexual infantil en X han sido profundamente preocupantes», dijo un portavoz de Ofcom. «Las plataformas deben proteger a los ciudadanos del Reino Unido del contenido que es ilegal en el Reino Unido, y no dudaremos en investigar cuando sospechemos que las empresas no cumplen con sus deberes, particularmente cuando existe un riesgo de daño a los niños».
El regulador enfatizó que avanzaría en la investigación «como una cuestión de máxima prioridad» mientras seguía el debido proceso para garantizar que la investigación fuera «legalmente sólida y decidida de manera justa».
Si la investigación determina que en casos graves de incumplimiento persistente, el regulador puede solicitar órdenes judiciales para «medidas de interrupción del negocio», incluido exigir a los proveedores de servicios de Internet que bloqueen el acceso del Reino Unido a la plataforma o eliminar los ingresos por publicidad y los pagos de los usuarios de X.
Aunque dicha intervención generalmente sigue un largo proceso de investigación, la ley permite una acción acelerada cuando las situaciones involucran amenazas graves al bienestar público, puesta en peligro de niños o patrones documentados de desafío regulatorio.
Ofcom también recibió una respuesta de xAI, la compañía detrás de Grok, el 9 de enero y está evaluando si problemas de cumplimiento separados justifican una investigación.
La ley británica prohíbe la distribución de imágenes deepfake que representen a adultos.
Desde que los requisitos de la Ley de Seguridad en Línea entraron en vigor hace menos de un año, Ofcom ha iniciado investigaciones sobre más de 90 plataformas y ha emitido seis multas por incumplimiento.
La Ley de Seguridad en Línea ha centrado la atención de la administración Trump en su impacto potencial en las empresas de tecnología estadounidenses. Actualmente, Ofcom está contratando un nuevo presidente que tendrá la tarea de adoptar estrategias de supervisión más contundentes a medida que crezcan las preocupaciones sobre las tecnologías emergentes y las estructuras de propiedad de plataformas.
Variedad se ha puesto en contacto con X para hacer comentarios.
