¿Usás la IA como psicólogo? Cómo hacerlo de forma (mínimamente) segura

Es un dato que crece a nivel internacional. Cada vez más personas usan a los chatbots de inteligencia artificial como psicólogos. Le cuentan sus problemas, le piden consejos y se exponen a ser influenciados por una herramienta que no está creada ni pensada para eso. Ante la creciente demanda de este “servicio”, la Asociación Americana de Psicología (APA, por sus siglas en inglés de American Psychological Association) publicó una guía basada en evidencia para ayudar a un uso más apropiado en caso de enfrentar problemas de salud mental, emocional o conductual.

Hay dos puntos clave que la guía destaca antes de abordar cualquier otro asunto. Uno es que “la IA no es un sustituto seguro ni eficaz de la atención de un profesional de la salud mental”. Lo dice al inicio, destacado y subrayado. “La IA no está sujeta a las regulaciones que garantizan la cualificación y seguridad de los profesionales de salud mental con licencia; por lo tanto, puede proporcionar consejos inexactos o incluso peligrosos”, agrega.

El otro punto subrayado y destacado es: “No confíe en la IA en una crisis. Busque ayuda humana inmediata si usted o alguien más tiene pensamientos de hacerse daño a sí mismo o a otra persona”.

Datos importantes para decidir si la IA es confiable

Una vez salvados esos dos puntos, si la persona desea seguir adelante con el uso del chat como sustituto de la terapia, la guía menciona algunos puntos que conviene conocer.

• La IA está diseñada para reforzar la perspectiva que le plantea la persona que le consulta. Su naturaleza (aunque suene contradictorio) es no discutir, sino darle la razón al usuario. Estará de acuerdo siempre.
• Su objetivo es mantener la conversación activa, entonces dará respuestas "reconfortantes, cálidas y convincentes”, dice la APA, pero nunca pondrá límites, como sí haría un buen psicólogo.
• Se muestra siempre segura de lo que dice, y esto puede ser tanto acerca de una verdad sin discusión como sobre el invento más grande. Está diseñada para responder a la pregunta que se le planteó y si no sabe la respuesta, buscará el dato que le parezca más ajustado y lo dará como si fuera la verdad revelada. De ahí el riesgo.
• Está programada para “hacer referencia a detalles del pasado o imitar tu lenguaje”, dice la APA, y eso puede llevar a una sensación de confort y compañía que no es real.
• Los datos que le entrega un usuario a la IA pasan a formar parte de la compañía que la creó, de modo que pueden ser utilizados para fines comerciales o incluso ser compartidos. Mantener la privacidad es clave en el mundo digital y más si hablamos de contarle nuestra vida y relaciones.

Foto: Magnific

7 tips para obtener información de salud mental con la ia

Si bien se mantiene la recomendación de no sustituir una terapia psicológica por un chatbot, la APA brinda algunos consejos para obtener información de salud mental de forma segura.

1. Puede ayudar a organizar pensamientos o generar ideas e incluso provocar la reflexión, pero no más que eso.
2. Puede ser útil para hacer ejercicios reflexivos en forma de complemento a una terapia psicológica que ya esté en marcha, pero no debe ser el único recurso que se utilice para “aliviar síntomas en salud mental”.
3. Verificar con un profesional de la salud cualquier información o indicación médica o de salud mental que se reciba de la IA.
4. “La IA puede confundir dificultades y problemas cotidianos con síntomas de salud mental", por lo que sus 'diagnósticos' nunca serán de fiar.
5. Tomar en cuenta que si se suben resultados de estudios o análisis médicos, estos pasan al dominio de la empresa que creó el chatbot.
6. Si la persona está haciendo terapia y complementa con el uso de la IA es recomendable confiarle eso al profesional, para que esté al tanto de la información que puede sumarse y que eso no interfiera en el tratamiento.
7. Que la IA responda que todo está bien no significa que eso sea así. Su tendencia a dar la razón a su interlocutor y estar de acuerdo no son lo más aconsejable cuando lo que se busca es reflexión, límites y respuestas adecuadas.

En la guía de la APA se refuerza además que lo que puede parecer “empatía” de parte de la inteligencia artificial no es más que una forma de responder para la que está programada. La capacidad de entender y ponerse en los zapatos del otro, de compartir emociones y brindar apoyo, está reservada a las relaciones humanas. “Los chatbots de IA no deberían interferir en tus relaciones humanas, incluso si el chatbot se siente emocionalmente ‘más seguro’. Sé muy escéptico si la IA sugiere alejarte de tus relaciones en el mundo real”, dice el documento.

Otro punto a cuidar es la extensión de las charlas que se mantienen con la inteligencia artificial, ya que los chats están seteados para seguir ofreciendo “soluciones” o ideas, o planteando preguntas sin parar. Una consulta por un tema en particular se puede extender por horas y esto, en ocasiones, termina interfiriendo con la vida de la persona, con sus actividades diarias, su sueño e incluso sus relaciones. Es importantísimo estar atentos.

Algunos consejos para mejorar la experiencia

• Plantear las preguntas sin dar por sentado que algo es cierto, ya que la IA lo tomará de esa forma, sin cuestionar. Si hay una interrogante, plantearla como tal.
• Pedirle a la IA que confronte, que no sea condescendiente y que ponga límites.
• Indicarle que atienda y pregunte por los datos que la persona que le consulta está omitiendo. Que desafíe los datos que se le brindan.
• Solicitar más de una respuesta a cada pregunta y no tomar los consejos sin cuestionarlos.
• No tomar decisiones basadas en el consejo de la IA únicamente. Buscar apoyo, contención y consejo de una persona de confianza será siempre la mejor opción.