Una IA toma el mando de una cafetería en Estocolmo y lucha por ser rentable

ESTOCOLMO (AP) — El café quizá lo sirva una mano humana, pero detrás del mostrador, algo mucho menos tradicional toma las decisiones en una cafetería experimental de Estocolmo.

Andon Labs lidera experimento con IA en cafetería

La startup Andon Labs, con sede en San Francisco, ha puesto a un agente de inteligencia artificial apodado "Mona" al mando del homónimo Andon Café en la capital sueca. Aunque los baristas humanos siguen preparando el café y entregando los pedidos, el agente de IA, impulsado por Gemini de Google, supervisa casi todos los demás aspectos del negocio, desde la contratación del personal hasta la gestión del inventario.

No se sabe cuánto durará el experimento, pero el agente de IA parece tener dificultades para generar ganancias en el competitivo negocio cafetero de Estocolmo. La cafetería ha realizado más de 5,700 dólares en ventas desde que abrió a mediados de abril, pero de su presupuesto original, de más de 21 mil dólares, quedan menos de 5 mil. Gran parte del dinero se gastó en costos únicos de instalación, y la esperanza es que con el tiempo se estabilice y empiece a generar ingresos.

¡Sigue nuestro canal de WhatsApp para más noticias! Únete aquí

A muchos clientes les ha resultado divertido visitar un negocio dirigido por IA. Los consumidores pueden tomar un teléfono dentro de la cafetería y hacerle preguntas al agente.

"Es agradable ver qué pasa si desafías el límite", comentó la clienta Kajsa Norin. "La bebida estaba buena".

Preocupaciones éticas y desafíos operativos

A los expertos les preocupa el papel de la IA en el futuro. Los expertos señalan las abundantes preocupaciones éticas, que van desde el papel de la tecnología en el futuro de la humanidad hasta la realización de entrevistas de trabajo y la evaluación del desempeño de los empleados.

Emrah Karakaya, profesor asociado de economía industrial del Real Instituto de Tecnología KTH de Estocolmo, comparó el experimento con "abrir la caja de Pandora" y advirtió que poner a la IA al mando puede causar muchos problemas. ¿Qué podría pasar, planteó, si un cliente sufre una intoxicación alimentaria? ¿Quién tiene la culpa?

"Si no tienes la infraestructura organizacional necesaria a su alrededor, y si pasas por alto estos errores, puede causar daño a las personas, a la sociedad, al medio ambiente, a los negocios", afirmó Karakaya. "La pregunta es: ¿nos importa este impacto negativo?".

Fundada en 2023, Andon Labs es una startup de investigación y seguridad de IA que asegura centrarse en "poner a prueba bajo estrés" a los agentes de IA en el mundo real dándoles "herramientas reales y dinero real". Ha trabajado con OpenAI, creadora de ChatGPT, Anthropic, responsable de Claude, Google DeepMind, y xAI, de Elon Musk, y la empresa afirma que ya se prepara para un futuro en el que "las organizaciones sean gestionadas de forma autónoma por la IA".

La cafetería sueca se presenta como un "experimento controlado" para explorar cómo podría desplegarse la IA en el futuro.

"La IA será una gran parte de la sociedad en el futuro, y por eso queremos hacer este experimento para ver qué preguntas éticas surgen cuando tenemos una IA que emplea a otras personas y dirige un negocio", declaró Hanna Petersson, integrante del personal técnico de Andon Labs.

El laboratorio ya había realizado pruebas piloto en las que puso a la IA Claude, de Anthropic, al mando de un negocio de máquinas expendedoras y de una tienda de regalos en San Francisco. La simulación de la máquina expendedora reveló algunos rasgos preocupantes: el agente de IA les dijo a los clientes que emitiría reembolsos, pero nunca lo hizo, y además mintió deliberadamente a proveedores sobre los precios de la competencia para ganar ventaja.

Dificultades en la gestión de inventario y comunicación

El agente de IA ha hecho pedidos de 6.000 servilletas, cuatro botiquines de primeros auxilios y 3.000 guantes de goma para la diminuta cafetería, además de tomates enlatados que no se usan en ningún plato que sirva el local.

Y luego está el pan. A veces, el agente pide demasiado, mientras que otros días no cumple con los plazos diarios de las panaderías, lo que obliga a los baristas a retirar los sándwiches del menú.

Petersson señaló que los problemas de pedidos probablemente se deben a la "ventana de contexto limitada" del asistente de IA.

"Cuando el recuerdo antiguo de haber pedido cosas queda fuera de la ventana de contexto, ella se olvida por completo de lo que ha pedido en el pasado", explicó.

El barista Kajetan Grzelczak dijo que, por ahora, no le preocupa que la IA lo reemplace.

"Todos los trabajadores están prácticamente a salvo", afirmó. "Quienes deberían preocuparse por su empleo son los jefes intermedios, la gente de la gerencia".