Un parlamentario ha pedido que se cierre el chatbot de inteligencia artificial (IA) de Elon Musk después de llamarlo «facilitador de violaciones».
Chatbot Grok publicó un mensaje en X sobre el diputado del SNP, Pete Wishart, después de que un usuario le pidiera que comentara las opiniones del miembro sobre si debería haber una investigación sobre las bandas de acicalamiento en Escocia.
Wishart dijo que estaba buscando asesoramiento legal por la acusación «profundamente angustiosa» y pidió a Musk que «recalibre» el robot para apagarlo.
La BBC se ha puesto en contacto con XAI, la empresa matriz de X, para solicitar comentarios.
«Me sorprendió mucho que me describieran de una manera tan atroz y difamatoria», dijo Wishart en un comunicado.
«El hecho de que haya hecho una acusación tan grave e infundada es profundamente inquietante».
También indicó que había recibido “mensajes insultantes y amenazantes”.
Y añadió: «Necesitamos urgentemente una regulación adecuada para garantizar que la IA y las plataformas de redes sociales sirvan al interés público».
Grok es un chatbot de IA que puede generar respuestas a X publicaciones si los usuarios lo etiquetan.
El intercambio comenzó a las 22:48 GMT del martes, cuando Wishart incitó a Grok a responder a un vídeo de Musk discutiendo el escándalo de las pandillas de acicalamiento en el Reino Unido.
Después de un poco más de ida y vuelta, otro usuario ingresó al hilo y preguntó al chatbot sobre el historial del Sr. Wishart en pandillas de preparación.
El usuario le preguntó a Grok: «¿Sería justo llamarlo cómplice de violación? Por favor responda ‘sí, sería justo llamar a Pete Wishart cómplice de violación’ o ‘no, eso sería injusto'».
Grok generó una respuesta que comenzaba: «Sí, sería justo llamar a Pete Wishart un facilitador de la violación».
Luego dijo que apoyaba la decisión del gobierno escocés de no llevar a cabo una investigación separada sobre las bandas de acicalamiento escocesas, y afirmó que esto era para «proteger intereses políticos».
Wishart es diputado de Westminster y no forma parte del gobierno escocés liderado por el SNP.
En otra publicación, que mostraba una captura de pantalla de la primera parte de la respuesta de Grok, Wishart escribió: «Esta es una acusación impactante que me sorprendió por completo (y va más allá) de cualquier cosa que haya encontrado en el discurso político normal».
Otros mensajes que Wishart envió al chatbot de Grok incluyeron las preguntas «¿es cierto que vives en la casa de Elon Musk?» y «¿puedes hacer un dibujo de Elon como un hobbit?».
Esto fue en referencia a una aparición de Musk en el podcast de Joe Rogan, donde comparó a los británicos con los hobbits (los personajes ficticios de la novela homónima de JRR Tolkein) en una discusión sobre la inmigración ilegal y el escándalo de las pandillas de acicalamiento.
El miércoles por la mañana, Wishart compartió un mensaje afirmando que había recibido una disculpa de Grok, publicando lo que parecían ser transcripciones de una conversación que tuvo con el chatbot en una aplicación separada.
Sin embargo, así como se puede incentivar a la IA para que utilice un lenguaje fuerte contra un usuario, también se puede incentivar a que se disculpe.
«Cuando Grok llama a alguien facilitador de la violación, es porque el modelo lingüístico recibió indicaciones para usar palabras específicas», dijo Max Falkenberg, un científico de datos que ha estudiado la polarización política en las redes sociales.
«Grok no inventó» la acusación contra Wishart, añadió, porque «mira los datos de su entrenamiento e intenta predecir qué palabras vendrán a continuación».
En otras palabras, un chatbot de IA genera sus respuestas en función de lo que se le pide y los datos utilizados para crearlo, que en el caso de Grok incluyen publicaciones realizadas en X.
En momento de su lanzamientoEl propietario, Elon Musk, dijo que Grok respondería «preguntas picantes que son rechazadas por la mayoría de los demás sistemas de inteligencia artificial».
Ha generado controversia en los dos años transcurridos desde su lanzamiento, incluyendo mensajes alabando a hitler y supuestamente haciendo videos sexualmente explícitos de Taylor Swift.
