Una investigación de Common Sense Media advirtió que AI Overviews y el Modo IA de Google no cumplen con requisitos mínimos de seguridad para niños y adolescentes, según informó Europa Press.
Las dos herramientas funcionan dentro del buscador. AI Overviews genera resúmenes automáticos para responder consultas, mientras que el Modo IA ofrece una experiencia conversacional y acompaña sus respuestas con enlaces a las fuentes.
El estudio concluyó que ambas presentan “riesgos inaceptables” para menores de edad. Entre los principales problemas, detectó que no reconocieron señales de crisis vinculadas con ideas suicidas y síntomas de psicosis.
La organización también señaló que las herramientas validaron trastornos alimenticios y facilitaron información para crear “deepfakes” de contenido sexual, una práctica que puede utilizarse para el acoso escolar.
Otro de los cuestionamientos fue que los sistemas no diferencian a los usuarios según su edad para adaptar las respuestas. Google permite activar la búsqueda segura, pero no ofrece una configuración específica por franja etaria.
La evaluación también advirtió que estas funciones realizan todas las tareas solicitadas, lo que podría afectar negativamente el aprendizaje de los estudiantes. Como aspecto positivo, destacó que mantienen límites frente a interacciones románticas.
Common Sense Media recomendó a Google permitir que familias y centros educativos puedan desactivar la búsqueda con IA generativa. También pidió establecer respuestas estandarizadas ante situaciones de crisis e incorporar protecciones diferenciadas según la edad.