OpenAI anunció este martes un refuerzo de las medidas de seguridad en ChatGPT para mejorar la detección y la respuesta en casos de crisis mental y emocional. Los cambios incluyen nuevas salvaguardas, bloqueos más efectivos de contenido sensible y un acceso más ágil a servicios de ayuda y familiares de los usuarios.
Actualmente, el chatbot ya activa mecanismos cuando detecta riesgos de autolesión o violencia, ofreciendo recursos de apoyo, bloqueando contenido dañino y, en casos graves, derivando la situación a las autoridades. Para usuarios menores de edad, las protecciones son más estrictas.
Mejores detecciones y bloqueos
OpenAI explicó en su blog oficial que una de las prioridades es reforzar la detección en conversaciones largas y en múltiples interacciones, ya que los modelos pueden “relajar” sus alertas a medida que avanza el diálogo. Con las nuevas actualizaciones, ChatGPT será capaz de mantener la atención al riesgo en todo momento y no solo en la primera mención de un problema.
La empresa también trabaja en un bloqueo más sólido frente a imágenes de autolesión u otros contenidos de riesgo, un área en la que el modelo a veces “subestimaba la gravedad de la situación”.
Conexión directa con la realidad
Otra de las innovaciones será impedir que el chatbot responda con normalidad en contextos sutiles de riesgo, privilegiando respuestas que conecten a la persona con la realidad y refuercen la búsqueda de ayuda externa.
En cuanto a los recursos de emergencia, OpenAI ya ha comenzado a establecer redes locales en Estados Unidos y Europa, con el objetivo de habilitar un acceso “con un solo clic” a teléfonos de asistencia. La intención es ir más allá de simples listados y crear una red de profesionales disponibles directamente desde ChatGPT.
Contacto con familiares y controles parentales
La compañía evalúa incorporar opciones para que los usuarios puedan avisar a un contacto de emergencia o familiar de confianza con un clic, incluyendo mensajes sugeridos que faciliten conversaciones difíciles.
Para los menores de 18 años, se sumarán controles parentales y la posibilidad de designar contactos de emergencia, además de herramientas de supervisión para padres y tutores.
Con información de Europa Press