Meta anunció una nueva función de seguridad para Meta AI que notificará a los padres cuando detecte que un adolescente mantiene conversaciones relacionadas con el suicidio, las autolesiones u otros temas sensibles con el asistente de inteligencia artificial.
La medida amplía las herramientas de protección que la compañía ya aplica en Instagram y busca reforzar el apoyo a los menores que puedan estar atravesando una situación de riesgo.
Hasta ahora, cuando un adolescente expresaba pensamientos relacionados con el suicidio o las autolesiones, Meta AI respondía mostrando información de contacto de líneas de ayuda y recomendando hablar con un adulto de confianza.
Con la nueva actualización, además de esos recursos, el sistema podrá enviar una notificación proactiva a los padres si identifica indicios de que el menor podría necesitar ayuda.
Detección de señales directas y sutiles
Según explicó Meta, las alertas no solo se activarán cuando el adolescente mencione de forma explícita el suicidio o las autolesiones, sino también cuando el chatbot detecte señales más sutiles que puedan indicar que está atravesando un momento difícil.
Antes de enviar una notificación, las conversaciones marcadas como sensibles serán revisadas por un equipo de moderadores humanos.
La empresa indicó que, si la intención del adolescente resulta ambigua, optará por actuar con cautela y alertar igualmente a los padres.
Primero en cuatro países
La nueva herramienta estará disponible inicialmente para las familias que ya utilizan la supervisión parental de Instagram en Estados Unidos, Reino Unido, Australia y Canadá.
Meta adelantó que su objetivo es extender esta función al resto de los países antes de que finalice el año.
Más controles para adolescentes
La compañía también recordó que los padres disponen de la opción de contenido limitado, que restringe el acceso de los adolescentes a determinados contenidos considerados para mayores de 13 años.
Esa configuración ahora también se aplicará a las conversaciones que los menores mantengan con Meta AI, con el objetivo de ofrecer una experiencia adaptada a su edad.
Con información de Europa Press.