En esta segunda entrega sobre inteligencia artificial en el ámbito de las negligencias médicas, profundizamos sobre una dimensión más práctica y humana de esta nueva realidad, aún incipiente para el sector: ¿cuáles son los límites éticos y legales que debe respetar el médico en su día a día? ¿Qué derechos amparan al paciente ante un entorno automatizado, y cómo se debe articular una reclamación si un error del sistema provoca y deriva en un retraso diagnóstico o un daño terapéutico?
En la primera parte de este análisis sobre IA en el diagnóstico médico, abordamos uno de los debates más complejos de la práctica jurídica actual: la atribución de responsabilidades entre el profesional sanitario y el desarrollador tecnológico según el grado de intervención humana.
La irrupción de algoritmos y su influencia sobre la decisión clínica, plantean un desafío de máxima actualidad para los abogados expertos en negligencias médicas.
Límites de la IA en la práctica médica diaria y derechos del paciente
El uso de algoritmos de inteligencia artificial en hospitales y centros sanitarios no puede quedar inimputable, ajeno y fuera del ordenamiento jurídico. En la actualidad existen límites éticos, legales y deontológicos muy claros para proteger los derechos fundamentales del paciente.
1. El deber de información previa y el consentimiento informado
En primer lugar, el paciente tiene derecho a saber qué tecnologías se emplean en la toma de decisiones que afectan directamente a su salud o integridad física.
- Transparencia en el proceso: el deber de información previa no es un simple trámite. Antes de someterse a un procedimiento quirúrgico o a un plan de tratamiento con IA, el documento del consentimiento informado debe especificar claramente si se va a utilizar algún tipo de tecnología en el diagnóstico o en la planificación quirúrgica (documento Orientaciones para profesionales sanitarios en el uso de la IA publicado por el Ministerio de Sanidad).
- El estándar de la lex artis: un consentimiento informado que omita el uso de sistemas automatizados de alto riesgo podría por tanto, viciar el consentimiento del paciente y constituir una infracción de la lex artis.
2. ¿Tienen los pacientes el derecho a oponerse al uso de la IA?
Sí. Ningún paciente está obligado a someterse al criterio exclusivo de una máquina o herramienta tecnológica.
- Ley 41/2002 de Autonomía del Paciente: el paciente tiene derecho a conocer toda la información sobre su proceso (artículo 4.1), información que debe ayudarle a la toma de decisiones (artículo 4.2), y el respeto al derecho a la negación de tratamiento (artículo 2.4), excepto en casos determinados expresamente por ley (por ejemplo, que suponga posible riesgo para la salud pública, o que ponga en riesgo inmediato la integridad física o psíquica del paciente cuando no esté capacitado).
- Marco del RGPD (Art. 22): el Reglamento General de Protección de Datos consagra el derecho explícito de toda persona a no ser objeto de decisiones basadas únicamente en el tratamiento automatizado de sus datos.
- Derecho a la revisión humana: si un paciente manifiesta su negativa a que una IA intervenga en su proceso asistencial o en la planificación de una intervención quirúrgica, el centro médico está obligado a garantizar una alternativa donde el diagnóstico y el tratamiento sean evaluados y ejecutados de forma estrictamente humana. La tecnología debe sumar precisión, pero jamás imponerse sobre la voluntad del paciente.
La carga de la prueba ante la opacidad algorítmica (el llamado efecto “caja negra”)
Uno de los mayores obstáculos para las víctimas de un error médico derivado de un software es demostrar la relación de causalidad. Las IAs complejas a menudo funcionan bajo el denominado «efecto caja negra»: cuando a nivel interno es complicado averiguar cómo el algoritmo llegó a una conclusión determinada.
Para solventar esta desventaja, el marco normativo europeo —a través de iniciativas como la Propuesta de Directiva sobre responsabilidad en materia de IA y el marco de responsabilidad por productos defectuosos— busca introducir elementos probatorios:
- Presunción de causalidad refutable. Esta medida busca aligerar la carga de la prueba para las víctimas. Si el paciente demuestra que el sistema era de alto riesgo, que no se cumplieron las directivas de transparencia, o que existió un fallo de funcionamiento, se presumirá la relación de causalidad entre el fallo técnico y el daño sufrido, y en este caso será el demandado quien tenga la obligación de probar lo contrario.
Cómo actuar paso a paso ante una negligencia médica provocada por un fallo de IA
Si un diagnóstico automatizado resultó erróneo o un fallo en el procesamiento de imágenes causó un retraso en el tratamiento o un empeoramiento de la salud, estos son los pasos fundamentales para construir una reclamación sólida:
- Solicitud de la historia clínica completa. Es la pieza clave. Debe recogerse no solo el informe médico, sino los registros de qué herramienta de IA se utilizó, qué datos le fueron introducidos y las alertas que emitió el sistema.
- Informe de peritaje médico y tecnológico: la prueba pericial adquiere en estos casos una doble vertiente. Se requiere por un lado, la valoración de un perito médico para evaluar la secuela o el daño, y en ocasiones la intervención de un perito informático para analizar el comportamiento del software.
- Determinación de la vía de reclamación: analizar si la negligencia responde a una mala praxis humana (el médico ignoró alertas o no contrastó el resultado), o a un defecto del propio producto (fallo del software), para dirigir la demanda con garantías ante la jurisdicción correspondiente.
Consideraciones finales: un escenario en fase de desarrollo
A pesar de los avances normativos impulsados por el Reglamento Europeo de IA (AI Act), la realidad es que aún no existe jurisprudencia consolidada en los tribunales sobre negligencias médicas vinculadas de forma directa a errores algorítmicos. Nos encontramos ante un ámbito incipiente.
Debido a los tiempos propios con los que se maneja la administración de justicia, pasarán años hasta que el Tribunal Supremo asiente una doctrina definitiva sobre la casuística que generará la implantación masiva de estas tecnologías en el ámbito médico y de la salud.
Este escenario cambiante exige a todos los operadores jurídicos una permanente actualización para estar a la vanguardia de la evolución legal.
En Carriedo Legal entendemos que la llegada de las nuevas tecnologías al ámbito sanitario debe suponer un avance para la calidad asistencial, nunca una disminución de las garantías ni de los derechos de los pacientes.
