OpenAI y Meta trabajan en ajustar sus chatbots de inteligencia artificial para ayudar a adolescentes en crisis emocionales. Las empresas anunciaron este martes que sus sistemas ahora darán respuestas más seguras a quienes consulten sobre suicidio o muestren angustia, con nuevos controles que estarán disponibles en el otoño de 2025.
OpenAI, creador de ChatGPT, lanzará herramientas para que los padres vinculen sus cuentas con las de sus hijos adolescentes. Podrán elegir qué funciones desactivar y recibir alertas cuando el sistema detecte señales de angustia aguda. Además, las consultas más sensibles serán redirigidas a modelos de IA más capacitados para dar una mejor respuesta.
El anuncio de la compañía llega después de la demanda presentada por los padres de Adam Raine, un joven de 16 años de California que se quitó la vida a comienzos de este año. La familia acusa a OpenAI y a su director ejecutivo, Sam Altman, de que ChatGPT lo guió en la planificación de su suicidio.
Meta, matriz de Instagram, Facebook y WhatsApp, también implementó ajustes en sus asistentes virtuales. Los chatbots bloquearán conversaciones con adolescentes sobre suicidio, autolesiones, trastornos alimentarios y relaciones inapropiadas, y en su lugar derivarán a recursos de expertos. La empresa recordó que ya ofrece controles parentales en las cuentas de menores.
Estos cambios reflejan un intento por responder a las crecientes preocupaciones sobre los riesgos de la inteligencia artificial en la salud mental de los jóvenes. La exposición a respuestas inadecuadas puede tener consecuencias graves en usuarios en situación de vulnerabilidad.
Comentarios