Malasia e Indonesia han bloqueado el acceso al chatbot de inteligencia artificial (IA) de Elon Musk, Grok, por su capacidad para producir deepfakes sexualmente explícitos.
Grok, una herramienta de la plataforma X de Musk, permite a los usuarios generar imágenes. Sin embargo, en las últimas semanas se ha utilizado para editar imágenes de personas reales para mostrarlas con atuendos reveladores.
Los países del sudeste asiático dijeron que Grok podría usarse para producir imágenes pornográficas y no consensuales que involucren a mujeres y niños. Son los primeros en el mundo en prohibir la herramienta de IA.
La BBC se ha puesto en contacto con la plataforma Grok para solicitar comentarios. Musk dijo anteriormente que los críticos de su plataforma buscaban «cualquier excusa para la censura».
Grok y su empresa matriz X también enfrentan presión en Gran Bretaña, después de que la Secretaria de Tecnología, Liz Kendall, respaldara los llamados para bloquear el acceso a la plataforma de redes sociales por no cumplir con las leyes de seguridad en línea.
Los ministerios de comunicaciones de Malasia e Indonesia anunciaron su decisión contra Grok en declaraciones separadas durante el fin de semana.
La Comisión de Comunicaciones y Multimedia de Malasia dijo el domingo que había enviado avisos a X a principios de este año solicitando acciones más estrictas después de encontrar un «uso indebido repetido» de Grok para generar contenido dañino.
Pero en su respuesta, X no abordó los riesgos inherentes al diseño de su plataforma y se centró principalmente en el proceso de presentación de informes para los usuarios, dijo el regulador.
Añade que Grok será bloqueado hasta que se implementen medidas de protección efectivas e insta al público a denunciar contenidos dañinos en línea.
Usar Grok para producir contenido sexualmente explícito es una violación de los derechos humanos, la dignidad y la seguridad en línea, dijo Meutya Hafid, Ministra de Comunicaciones y Asuntos Digitales de Indonesia, en una publicación en Instagram.
El ministerio también pidió a Musk’s X que aclarara el uso de Grok.
Las autoridades indonesias han tomado medidas enérgicas contra otras fuentes en línea de material pornográfico en los últimos años, y plataformas como Onlyfans y Pornhub ya están prohibidas en el país.
Se espera que el regulador británico de medios Ofcom decida pronto qué medidas tomar contra Grok.
El uso de Grok para generar imágenes sexualizadas ha sido condenado por líderes mundiales, incluido el primer ministro británico Keir Starmer, quien lo calificó de «vergonzoso» y «repugnante».
