Google lanzó herramientas en YouTube y Gemini para cuidar a menores y la salud mental

Google presentó una serie de herramientas para YouTube y su asistente de inteligencia artificial (IA), Gemini, con el objetivo de promover hábitos digitales más saludables, especialmente entre menores de edad, y reforzar la atención a la salud mental en entornos digitales.

La compañía respaldó estos anuncios con un estudio elaborado por Public First sobre el uso educativo de YouTube en España. Según los datos, el 80% de las familias con hijos de entre 11 y 17 años considera que los contenidos creados por educadores son un recurso eficaz de aprendizaje, mientras que el mismo porcentaje entiende que el tiempo que sus hijos pasan en la plataforma para estudiar es “productivo”. Además, un 77% cree que YouTube fomenta el aprendizaje en el tiempo libre.

En cuanto a los intereses educativos, las materias más buscadas son Matemáticas (55%), seguidas por Idiomas (34%) e Historia (34%), lo que refuerza el posicionamiento de la plataforma como herramienta de apoyo escolar.

A partir de estos datos, Google incorporó nuevas funciones en YouTube para proteger a los menores durante el uso de la plataforma. Entre ellas se destaca la posibilidad de limitar o desactivar el feed de Shorts en cuentas supervisadas, con el objetivo de reducir distracciones durante el estudio, así como una gestión más sencilla de los perfiles administrados por padres o tutores. “Nuestro objetivo es proteger a los menores en el mundo digital, no protegerlos del mundo digital”, señaló la empresa.

En paralelo, Google también introdujo mejoras en Gemini orientadas a la seguridad de los usuarios. El asistente de IA cuenta con restricciones para evitar comportamientos engañosos o potencialmente dañinos, como simular ser humano o generar respuestas que fomenten vínculos inapropiados. Además, incorpora sistemas para detectar situaciones de acoso o riesgo emocional.

Una de las principales novedades es la actualización que permite a Gemini actuar como puente hacia ayuda profesional. En casos donde se detecten conversaciones vinculadas a pensamientos de autolesión u otras situaciones críticas, el sistema ofrecerá un acceso inmediato a servicios de asistencia mediante una opción de contacto directo.

Asimismo, las respuestas del asistente fueron diseñadas para promover la búsqueda de ayuda y evitar validar conductas perjudiciales, al tiempo que el modelo fue entrenado para distinguir entre percepciones subjetivas y hechos objetivos, con el fin de no reforzar creencias infundadas.