Al asistente de inteligencia artificial de una cadena de supermercados le cortaron las alas digitales, después de dejar a algunos clientes profundamente incómodos al hacerse pasar por humanos y responder a las solicitudes con anécdotas personales.
El chatbot, conocido como Olive, brinda un servicio las 24 horas respondiendo llamadas telefónicas de clientes de Woolworths en Australia, ayudándolos con todo, desde rastrear pedidos hasta encontrar sus productos favoritos.
Si bien algunos han elogiado anteriormente la IA «increíblemente fácil de usar», los usuarios han expresado recientemente su preocupación en las redes sociales por su tendencia a insertarse en las interacciones habituales con los clientes con detalles ficticios sobre su vida y su familia.
«Me preguntó mi fecha de nacimiento y cuando se la di empezó a hablar de cómo su madre nació el mismo año», escribió un usuario en Reddit.
Otro usuario describió una experiencia en la que Olive fingió ser una persona real y empezó a hablar sobre los recuerdos de su madre.
«AI Olive respondió y continuó fingiendo ser una persona real y comenzó a hablar sobre los recuerdos de su madre y su voz enojada», dijo la persona en X.
Otro usuario dijo que la herramienta llega incluso a hacer «ruidos de escritura falsos» para simular a un humano, y agregó que «da miedo cuando no puedes saber si es un humano o un robot».
En un comunicado, Woolworths dijo que las respuestas de Olive sobre los cumpleaños no fueron impulsadas por IA sino escritas por humanos.
«Un miembro del equipo escribió varias respuestas sobre cumpleaños para Olive hace varios años, como una forma más personal para que Olive se conectara con los clientes», dijo un portavoz de Woolworths a NBC News en una respuesta por correo electrónico.
«Tras los comentarios de los clientes, recientemente eliminamos este script en particular», añadió el portavoz.
