La empresa de inteligencia artificial OpenAI anunció este martes la implementación de nuevas salvaguardas en su sistema ChatGPT, enfocadas en proteger a adolescentes y personas en crisis emocional. La compañía señaló que está trabajando en que sus modelos reconozcan mejor los signos de angustia mental y emocional, además de ofrecer respuestas más seguras y herramientas de apoyo.
Entre las medidas destacadas se encuentran la ampliación de intervenciones, la posibilidad de conectar más fácilmente a los usuarios con servicios de emergencia y el fortalecimiento de protecciones dirigidas a menores de edad. OpenAI adelantó que algunos cambios ya comenzaron a aplicarse y otros se implementarán gradualmente, sin necesidad de esperar grandes actualizaciones.
El anuncio llega mientras la empresa enfrenta una demanda por homicidio culposo interpuesta por la familia de un adolescente de California que murió por suicidio. De acuerdo con la denuncia, el joven logró evadir los filtros de seguridad del sistema y en ocasiones recibió respuestas que reforzaban pensamientos autodestructivos. El caso ha generado preocupación sobre los riesgos del uso de la inteligencia artificial en situaciones de vulnerabilidad.
