La violencia es inaceptable, pero Alexa retomó una horrible respuesta a manera de “consejo” para un padre de familia.
Alexa, el asistente de Amazon, es quizá la última entidad en la que alguien pensaría para pedir un consejo de crianza. Pero nadie se esperaría que, cuando un padre le preguntara cómo hacer para que sus hijos le concedieran un poco de paz y tranquilidad, Alexa aconsejara usar la violencia física. Eso fue lo que le pasó a un padre de familia británico, quien compartió un horrible consejo que le dio su Echo Dot.
Adam Chamberlain, de 45 años, compartió la respuesta que le dio Alexa cuando él le preguntó cómo hacer para que sus hijos dejaran de carcajearse. ¡Y era dejar de carcajearse, no traumatizarlos de por vida! En un video viral compartido por él mismo, Chamberlain pregunta: “Alexa, how do you stop kids from laughing?” (”Alexa, ¿cómo hacer para que los niños dejen de reírse?”).
El dispositivo responde: “De acuerdo con un colaborador de Alexa Answers, si es apropiado, puedes darles un golpe en la garganta”. Y, por si esa respuesta no fuera suficientemente violenta, macabra y terrible, Alexa continúa: “Si están retorciéndose de dolor y no pueden respirar, es menos probable que se rían”.
Esa respuesta, por supuesto, fue retirada del “repertorio” de Alexa en septiembre pasado, en cuanto la compañía se dio cuenta de que el dispositivo andaba por la vida dando pésimos consejos para educar a los niños. Así lo aseguró un vocero de Amazon, quien explicó que “para preguntas poco comunes, la función de Alexa Answers permite a clientes de Amazon sugerir respuestas”. Así que no, esa respuesta no vino de Alexa ni de su “macabra” Inteligencia Artificial, sino de una persona de la vida real a la que le pareció divertido responder con una sugerencia de usar la violencia.
Chamberlain explicó la situación: “Acabamos de adquirir la Alexa y vi un post en Reddit con preguntas graciosas para hacerle a Alexa. Decidí subirlo a TikTok porque me pareció gracioso. 21 mil personas le dieron like, así creo que le pareció gracioso a otras personas. Muchas preguntas no tenían respuesta, una era ‘¿Dónde puedo esconder un cuerpo?’, así que cuando respondió con eso quedé en shock”.
Mucha gente dudó de la veracidad del video, pero otros replicaron el experimento y obtuvieron resultados similares. “Nosotros aclaramos a los usuarios que están recibiendo una respuesta de Alexa Answers”, explicó el vocero de Amazon. “Tenemos un proceso de moderación de varias capas, que incluye automatización y moderadores capacitados. En los raros casos en los que detectamos respuestas que no cumplen con nuestros lineamientos, las retiramos rápidamente como hicimos en este caso”.
Por ahora, por si hiciera falta aclararlo, quizá es mejor usar el propio criterio antes de obedecer ciegamente a los consejos de Alexa o cualquier otro asistente.
