X de Elon Musk dice que la herramienta de inteligencia artificial Grok ya no eliminará fotos de personas reales después de una furiosa reacción contra su creación de deepfakes sexualizados.
Según se informa, al chatbot se le ha impedido desvestir a la gente hasta el punto de «revelar la ropa», mientras Elon Musk cede ante las crecientes críticas de gobiernos y activistas.
Un anuncio de X decía: “Hemos implementado medidas tecnológicas para evitar que la cuenta de Grok permita la edición de imágenes de personas reales con prendas reveladoras como bikinis.
«Esta restricción se aplica a todos los usuarios, incluidos los suscriptores pagos».
Esto se produce en medio de un disgusto generalizado por una tendencia en la que se utilizaba Grok para quitar la ropa a mujeres e incluso a niños sin su consentimiento.
Muchas mujeres han informado que se sienten violadas por la capacidad de completos extraños de crear imágenes comprometedoras de ellas en contra de su voluntad, para que todos las vean.
El gobierno del Reino Unido, junto con otros, ha estado presionando a Musk para que ponga fin a esta repugnante tendencia, lo que generó un debate urgente sobre la seguridad en línea y las leyes de inteligencia artificial.
Sir Keir Starmer calificó las imágenes sexuales no consensuadas producidas como “repugnantes” y “vergonzosas” y el regulador de medios Ofcom inició una investigación.
Grok, el chatbot con IA adjunto a X, ya no podrá producir imágenes sexualizadas de personas reales sin su consentimiento
Musk ha cedido a la presión de gobiernos y activistas al limitar las capacidades de su herramienta de inteligencia artificial.
Parte de la actualización de Grok publicada el miércoles X por la noche
La semana pasada, la capacidad de crear imágenes con Grok estaba limitada sólo a los usuarios que pagaban una suscripción mensual, pero ni siquiera ellos ya podrán producir ediciones con poca ropa.
La caída total, anunciada anoche, también se produjo horas después de que el fiscal general de California dijera que el estado estaba investigando la reciente difusión de falsificaciones de IA.
Ayer, Grok comenzó a rechazar tales solicitudes y respondió: «Desafortunadamente, no puedo generar este tipo de imagen. »
Starmer acogió con satisfacción el avance de las Preguntas del Primer Ministro, pero insistió en que no iba lo suficientemente lejos.
Insistió en que continuaría la investigación de Ofcom, que tiene el poder de imponer multas de miles de millones de libras.
La secretaria de Tecnología, Liz Kendall, dijo esta semana que está proponiendo regulaciones para fortalecer la ley sobre el llamado «recuento digital».
Otros países actuaron de manera más decisiva, y Malasia e Indonesia bloquearon completamente a Grok en medio del fiasco.
Mientras tanto, el gobierno federal de Estados Unidos se negó a condenar la creación de Musk, y el secretario de Defensa, Pete Hegseth, dijo que Grok se uniría al motor de inteligencia artificial generativa de Google para operar dentro de la red del Pentágono.
Frente a los parlamentarios durante las preguntas del Primer Ministro el martes, Sir Keir dijo que era necesario tomar más medidas.
Después de que el Primer Ministro pidiera al multimillonario tecnológico estadounidense que actuara para detener la creación de deepfakes, la herramienta de redes sociales comenzó a negarse a cumplir con las solicitudes de los usuarios.
El Departamento de Estado de Estados Unidos incluso amenazó al Reino Unido, advirtiendo que «nada estaba fuera de discusión» si X era prohibido.
Después de los comentarios del Primer Ministro en las PMQ, Musk escribió en
Musk continuó: «Obviamente, Grok no genera imágenes espontáneamente, lo hace basándose únicamente en las solicitudes de los usuarios», dijo.
“Cuando se le pide que genere imágenes, se niega a producir nada ilegal, porque el principio operativo de Grok es obedecer las leyes de un país o estado determinado.
«Puede haber ocasiones en las que el pirateo de los mensajes de Grok por parte de adversarios produzca algo inesperado. Si esto sucede, solucionamos el error de inmediato.
Si
También tiene la facultad de solicitar el bloqueo del sitio ante los tribunales.
El exjefe de Meta, Sir Nick Clegg, ha pedido una regulación más estricta de las empresas de tecnología, calificando las redes sociales como un «cáliz envenenado» y el auge de la IA en línea como un «desarrollo negativo».
El ex viceprimer ministro advirtió que el uso de contenidos «automatizados» parece ser «mucho peor, en particular para la salud mental de los jóvenes», que las interacciones con otros seres humanos.
