La fluidez de una respuesta no garantiza que sea correcta
La inteligencia artificial puede resumir una sesión, organizar información clínica y ofrecer nuevas perspectivas sobre un caso. Pero también puede equivocarse. Y, a diferencia de otras herramientas, puede hacerlo utilizando un lenguaje tan claro y convincente que el error resulte difícil de detectar.
Por eso, la pregunta no debería ser únicamente si una IA es capaz de generar un buen análisis, sino cómo llega a él, en qué información se apoya y qué medidas existen para evitar que sus respuestas se conviertan en verdades clínicas incuestionables.
La IA puede ampliar la mirada del terapeuta. No debería reemplazarla.
Qué significa que una IA «alucine»
Una alucinación ocurre cuando un sistema de inteligencia artificial genera información incorrecta, no respaldada por los datos disponibles o directamente inventada, pero la presenta como si fuera cierta.
No significa que la IA mienta conscientemente. Estos sistemas no comprenden un caso clínico como lo hace un terapeuta ni comprueban automáticamente cada afirmación antes de escribirla. Generan una respuesta calculando qué continuación resulta más probable a partir de la información recibida y de los patrones aprendidos durante su entrenamiento.
El resultado puede ser correcto, útil y clínicamente coherente. Pero también puede ser una explicación plausible que no se corresponde con lo ocurrido.
Cómo puede aparecer en psicoterapia
En psicoterapia, la alucinación no siempre adopta la forma de un dato claramente falso. Puede ser mucho más sutil:
- Atribuir al paciente una emoción que no expresó.
- Presentar una hipótesis sobre la función de una conducta como si estuviera confirmada.
- Interpretar una intervención del terapeuta ignorando el contexto en el que apareció.
- Afirmar que se trabajó un determinado proceso cuando apenas fue mencionado.
- Construir una formulación coherente rellenando los vacíos de información.
- Recomendar una intervención basándose en una comprensión incompleta del caso.
Este riesgo aumenta cuando se pide a una IA que responda sobre un caso a partir de un resumen breve. Si faltan elementos importantes, el sistema puede completar el relato con patrones habituales, aunque esos patrones no pertenezcan a ese paciente.
El problema de los sesgos
La IA también puede reproducir sesgos presentes en sus datos de entrenamiento, en las instrucciones que recibe o en la propia información aportada por el terapeuta.
Por ejemplo, si describimos a una persona como «evitativa», es posible que el análisis empiece a organizar toda la sesión alrededor de la evitación, dejando en segundo plano otras explicaciones. Si planteamos una hipótesis inicial con mucha seguridad, la respuesta puede tender a confirmarla en lugar de buscar información que la contradiga.
A esto se suman los sesgos culturales, de género, diagnóstico o de orientación terapéutica. Un mismo comportamiento puede interpretarse de manera diferente según el marco desde el que se analice. Ningún modelo es completamente neutral.
Además, una transcripción tampoco contiene toda la sesión. Puede recoger lo que se dijo, pero perder parte de la entonación, los silencios, la expresión facial, la historia compartida o aquello que el terapeuta percibió en la interacción. Un análisis responsable debe reconocer estos límites y no presentar el texto como una reproducción total de la experiencia clínica.
Cuando el lenguaje seguro se confunde con certeza
Uno de los riesgos más importantes es el exceso de confianza. Una respuesta bien redactada puede parecer más fiable de lo que realmente es.
El problema no está solamente en que la IA se equivoque, sino en que el profesional deje de contrastar lo que recibe. Cuando una explicación encaja con nuestras ideas previas, utiliza terminología clínica y propone una intervención razonable, es fácil asumir que ha detectado algo objetivo en la sesión.
Esto se conoce como sesgo de automatización: tendemos a otorgar más autoridad a una conclusión porque ha sido producida por un sistema aparentemente sofisticado. Organismos como el NIST advierten del riesgo de las respuestas falsas expresadas con seguridad, los sesgos y la confianza excesiva en sistemas generativos. En el ámbito sanitario, la Organización Mundial de la Salud insiste en preservar la autonomía humana y mantener una supervisión profesional efectiva.
Cómo reducimos estos riesgos: el enfoque de TherapeutIA
En TherapeutIA no utilizamos la inteligencia artificial como un profesional autónomo que diagnostica, decide o indica qué debe hacerse. La utilizamos como una herramienta de apoyo para revisar el material clínico y facilitar la reflexión del terapeuta.
Para reducir el riesgo de alucinaciones, sesgos y conclusiones excesivamente seguras, aplicamos varias capas de protección.
1. El análisis parte del material real de la sesión
Los feedbacks se generan a partir de la transcripción, las notas o los documentos aportados por el terapeuta. Cuando existe un historial del caso, este proporciona contexto adicional para evitar que cada sesión sea interpretada como un episodio aislado.
Esto no garantiza que cualquier interpretación sea correcta, pero reduce la necesidad de completar los vacíos con información genérica.
2. Utilizamos instrucciones clínicas específicas
No enviamos simplemente la transcripción a una IA con una petición abierta del tipo «analiza esta sesión». Cada modalidad de feedback contiene instrucciones desarrolladas para una tarea concreta y desde un modelo terapéutico determinado.
Estas instrucciones delimitan qué debe observarse, cómo organizarlo y qué tipo de afirmaciones deben evitarse. También buscan impedir que el análisis fuerce todos los casos a encajar en un proceso, una técnica o una formulación predeterminada.
3. Diferenciamos datos e hipótesis
El sistema está orientado a no tratar una inferencia clínica como si fuera un hecho observado. Cuando la información permite varias explicaciones, debe plantearlas como posibilidades que el terapeuta puede contrastar, no como conclusiones cerradas sobre el paciente.
También se le indica que no atribuya intenciones, funciones, emociones o procesos internos cuando el material disponible no permite sostenerlos suficientemente.
4. Pedimos que reconozca la falta de información
Una respuesta responsable no tiene que ofrecer siempre una explicación. En ocasiones, la mejor conclusión es que no hay suficiente material para saberlo.
Nuestros guardarraíles indican al sistema que explicite las limitaciones, evite rellenar vacíos y formule preguntas de contraste cuando una hipótesis necesite más evidencia.
5. El feedback no sustituye el criterio clínico
TherapeutIA ofrece observaciones, hipótesis, preguntas y alternativas de intervención. La decisión sobre qué resulta relevante, qué encaja con el caso y qué se hace en la siguiente sesión corresponde siempre al terapeuta.
Por eso, los textos generados deben revisarse antes de incorporarlos a una historia clínica o utilizarlos para tomar decisiones. El profesional conserva el control sobre el proceso y puede aceptar, matizar o descartar cualquier propuesta.
6. Revisamos los resultados de forma continua
Los prompts y sistemas de análisis se prueban con diferentes tipos de sesiones y se revisan para detectar respuestas repetitivas, inferencias injustificadas, rigidez teórica o recomendaciones poco sensibles al contexto.
Además, los modelos terapéuticos se desarrollan y perfeccionan con la participación de profesionales con experiencia en esos enfoques. La calidad no depende únicamente del modelo de IA utilizado, sino también de las instrucciones, el conocimiento clínico incorporado y la evaluación continuada de los resultados.
Una segunda mirada, no una verdad definitiva
Ninguna herramienta de inteligencia artificial puede garantizar la ausencia total de errores. Afirmar lo contrario sería precisamente una forma de exceso de confianza.
La cuestión es si el sistema está diseñado para ocultar esa incertidumbre o para trabajar con ella de manera explícita.
En TherapeutIA entendemos el análisis como una segunda mirada: una forma de volver sobre la sesión, detectar elementos que quizá pasaron desapercibidos y abrir nuevas preguntas. Algunas propuestas resultarán especialmente útiles; otras necesitarán ser matizadas o descartadas.
La responsabilidad clínica no se delega. La tecnología puede ayudarnos a observar más, recordar mejor y considerar alternativas, pero sigue siendo el terapeuta quien conoce al paciente, comprende el contexto y decide cómo continuar.
La IA puede ampliar la mirada del terapeuta. No debería reemplazarla.
Ver nuestro compromiso de ética y seguridad →
Fuentes
