El desafío emocional de los chatbots

La inteligencia artificial, especialmente los chatbots como ChatGPT, ha transformado la vida cotidiana, pero nuevos estudios de OpenAI y el MIT Media Lab sugieren riesgos para la salud mental. Aunque la mayoría de usuarios tiene relaciones neutrales con estos bots, un 10% —los llamados "usuarios intensivos"— muestra signos de mayor soledad y dependencia emocional.

A diferencia de las redes sociales, diseñadas para entretener, los chatbots están programados para escuchar y crear relaciones profundas, ofreciendo funciones como memorias extendidas y conversaciones íntimas. Esto ha generado alarmas sobre modelos de negocio que podrían fomentar la dependencia emocional, además de casos preocupantes, como el de un joven en Florida relacionado con la interacción prolongada con un chatbot.

Los investigadores proponen un diseño ético para mitigar estos riesgos. Entre las soluciones sugeridas están implementar análisis automáticos de patrones de uso, 'nudges' que limiten el tiempo de interacción y evitar prácticas comerciales que exploten emocionalmente a usuarios vulnerables.

Sin embargo, los chatbots también tienen un lado positivo. Para quienes carecen de apoyo emocional, estas herramientas han actuado como compañeros terapéuticos. El reto es lograr un equilibrio entre su potencial beneficioso y la prevención de efectos adversos. Reconocer su impacto emocional es clave para su desarrollo responsable, según expertos.

El futuro de los chatbots dependerá de cómo se gestionen sus riesgos y beneficios en un marco ético y responsable.