Inteligencia Artificial en Salud Mental: Seguridad del paciente, ética y derecho

Síntesis

Los asistentes conversacionales pueden ofrecer información, organizar contenidos o apoyar ciertas tareas profesionales, pero no reproducen por sí mismos la relación terapéutica. El trabajo analiza por qué una respuesta aparentemente empática no equivale necesariamente a comprender la historia, el contexto cultural o los matices de una persona que busca ayuda psicológica.

Examina sesgos algorítmicos, errores de interpretación y riesgos particulares para adolescentes y otras personas vulnerables, además de cuestiones de privacidad, consentimiento informado y responsabilidad profesional. Distingue usos complementarios, como la psicoeducación y el apoyo a procesos de derivación, de la pretensión de sustituir una intervención clínica por un chatbot.

La investigación es una revisión crítica e interdisciplinaria con casos hipotéticos ilustrativos, no un ensayo clínico que mida la eficacia de una herramienta concreta. Su propuesta es incorporar tecnología con evaluación independiente, límites claros y supervisión profesional, preservando el vínculo humano como componente central de la atención.

Una respuesta conversacional puede parecer adecuada por su tono y, sin embargo, omitir información decisiva, mostrar una seguridad injustificada o interpretar mal una situación de vulnerabilidad. El trabajo invita a valorar por separado la calidad lingüística, la fiabilidad de la información y la seguridad de la utilización prevista. La supervisión profesional no se reduce a revisar mensajes aislados: también exige definir cuándo una herramienta debe dejar de intervenir y facilitar el acceso a atención humana.