Cientos de miles de gatos de Grok expuestos en los resultados de Google

Cientos de miles de conversaciones de usuarios con la inteligencia artificial Grok Chatbot (AI) de Elon Musk han sido expuestas en los resultados de los motores de búsqueda, aparentemente sin conocimiento de los usuarios.

Se crean enlaces únicos cuando los usuarios de Grok presionan un botón para compartir una transcripción de su conversación, pero además de compartir el gato con el destinatario esperado, el botón también parece haber puesto a disposición gatos en línea.

Google Research reveló que había indexado casi 300,000 conversaciones de Grok.

Llevó a un experto a describir los chatbots de IA como un «desastre de confidencialidad actual».

La BBC se acercó a X para comentar.

La aparición de gatos de Grok en los resultados de los motores de búsqueda se informó por primera vez mediante la publicación de la industria tecnológica de Forbes, que tenía más de 370,000 Conversaciones de usuario en Google.

Entre las transcripciones de los gatos vistas por la BBC, hubo ejemplos de chatbot almizcleros invitados a crear una contraseña segura, proporcionar planes de comidas para perder peso y responder preguntas detalladas sobre condiciones médicas.

Ciertas transcripciones indexadas también han mostrado intentos del usuario para probar los límites de lo que Grok diría o hacer.

En un ejemplo visto por la BBC, el chatbot proporcionó instrucciones detalladas sobre cómo hacer un medicamento de clase A en un laboratorio.

Esta no es la primera vez que las conversaciones de las personas con los chatbots de IA han aparecido más ampliamente de lo que pueden hacerlo al usar funciones de «compartir».

Operai recientemente trajo una «experiencia» que vio que las conversaciones de ChatGPT aparecen en los resultados de los motores de búsqueda cuando los usuarios comparten.

Un portavoz le dijo a BBC News en ese momento que había «probado los medios para facilitar el intercambio de conversaciones útiles, mientras mantienen a los usuarios en control».

Dijeron que los gatos del usuario fueron privados de forma predeterminada y que los usuarios deberían optar explícitamente por compartirlos.

A principios de este año, Meta fue criticado después de las conversaciones de usuarios compartidos con su Meta Chatbot Ai apareció en un flujo público «descubrir» en su aplicación.

Aunque los detalles de la cuenta de usuario pueden ser anonimizados u oscurecidos en las transcripciones de chatbot compartidas, sus indicaciones siempre pueden contener, y arriesgar información personal y confidencial sobre alguien.

Los expertos dicen que esto destaca las preocupaciones de ensamblaje sobre la confidencialidad del usuario.

«Los chatbots de IA son un desastre de confidencialidad continuo», dijo el profesor Luc Rocher, profesor asociado en el Instituto de Internet de Oxford, a la BBC.

Dijeron que las «conversaciones reveladas» de los chatbots han revelado información de los usuarios que van desde nombres y ubicación completos con detalles confidenciales sobre su salud mental, operaciones comerciales o relaciones.

«Una vez divulgado en línea, estas conversaciones permanecerán allí para siempre», agregaron.

Mientras tanto, Carissa Veliz, profesora asociada de filosofía del Instituto de Ética de la Universidad de Oxford en IA, que los usuarios que compartieron los gatos aparecen en los resultados de la investigación son «problemáticos».

«Nuestra tecnología ni siquiera nos dice qué hace con nuestros datos, y eso es un problema», dijo.