En este artículo y como temática en tendencia en el ámbito del derecho sanitario, analizamos la responsabilidad y el panorama legal actual de la IA en España y Europa.
La incorporación de la inteligencia artificial (IA) en el campo de la medicina para la evaluación y análisis de diagnóstico, se ha convertido en una realidad habitual dentro de los protocolos de salud. En especialidades como la radiología, los algoritmos llevan a cabo la labor de análisis con una precisión asombrosa.
Sin embargo, la irrupción de estos procesos automatizados no es infalible. Cuando el algoritmo comete un error de diagnóstico en una radiografía que deriva por ejemplo en un retraso terapéutico, ¿a quién es atribuible la responsabilidad: al médico o al desarrollador y fabricante del software?
El debate de la responsabilidad civil ¿del médico o del desarrollador?
La respuesta está en el grado de responsabilidad y en el contexto del momento en que se ha producido el error o negligencia médica. Bajo la nueva legislación y las directivas europeas, algunas de ellas aún, en fase de desarrollo, no se trata de un “todo o nada”, sino que el origen de la responsabilidad se debe dividir según el grado de autonomía de la IA y el nivel de intervención humana en un proceso de diagnóstico y tratamiento.
El grado de responsabilidad es escalable: todo depende del nivel de intervención
Para determinar quién responde ante el error, los tribunales analizan el nivel de autonomía que se le otorgó durante la intervención o el tratamiento a la tecnología en cada caso concreto, y el nivel de responsabilidad legal del médico.
El grado de intervención de una parte u otra es determinante, e incluso la responsabilidad puede ser concurrente. No es lo mismo utilizar la IA como herramienta de apoyo a la decisión clínica, que delegar en ella la identificación de un problema o la toma de decisiones.
En este sentido, con la IA clínica, es muy importante el elemento operativo que determina el grado de intervención o no de una persona humana, en este caso el médico o profesional de la salud. Por ello se establecen 3 niveles o grados de intervención.
1. El concepto “human in the loop” (humano dentro del proceso)
En este supuesto la IA funciona como un asistente. Siguiendo con el mismo ejemplo de la radiografía, el algoritmo señala o indica una posible microcalcificación sospechosa, pero el médico analiza desde cero y decide si incluirla o no en su informe.
En un posible caso por negligencia médica, la decisión del facultativo le implica directamente y le convierte en responsable principal.
Aunque los sistemas de IA son capaces de procesar miles de datos en segundos, legalmente se consideran herramientas de apoyo a la decisión clínica (Clinical Decision Support System “CDSS”, por sus siglas en inglés). La IA propone, pero el profesional sanitario dispone.
La herramienta solo hace una sugerencia, y el profesional conserva el control. Si el médico asume el dato sin contrastarlo, la lex artis le exigirá responsabilidad legal a él.
2. Human on the loop (el humano supervisando el proceso)
En estos supuestos el médico ya no analiza cada parte desde cero, sino que supervisa los resultados de diagnóstico que genera la IA, interviniendo solo en caso de que detecte una anomalía o una alerta del sistema.
Entramos en el terreno de la responsabilidad compartida o concurrente:
- Si el algoritmo falló debido a un problema o error en los datos, algo que queda completamente al margen del médico, la responsabilidad se deriva al desarrollador tecnológico (por la Ley para la Defensa de los Consumidores y Usuarios y otras normas de protección del usuario, que en un futuro abordará la Directiva de Responsabilidad por IA, propuesta para facilitar las demandas de indemnización por daños causados por IA, así como la IA Act, Ley de Inteligencia Artificial, que se está aplicando por fases actualmente).
- Si el sistema emitió una alerta en su diagnóstico y el médico la ignoró por dejadez de atención o exceso de confianza, la responsabilidad será del facultativo o del hospital.
3. Human out of the loop (El humano fuera del proceso)
Aquí el sistema es totalmente autónomo. El software va a recibir la imagen, la va a interpretar, va a emitir el diagnóstico y lo va a enviar directamente al sistema, sin que el médico valide ni participe directamente. Esto es un supuesto cada vez más frecuente, como en el caso de cribados masivos de salud pública, con el objetivo de agilizar listas de espera).
Ante un posible fallo, la responsabilidad recae de forma directa y principal en el fabricante de la IA (por defecto del producto) y también recae de forma solidaria sobre la institución sanitaria o el hospital por negligencia de gestión y organizativa (por elegir un sistema totalmente automatizado que no contaba con las debidas garantías o que también pudiera ser, tenga falta de mantenimiento.
Consideraciones finales sobre la IA clínica: un escenario en fase de construcción
A pesar de los avances normativos como el Reglamento Europeo de IA y algunas de las normas que hemos citado anteriormente en fase de desarrollo, la realidad legal es que aún no existe jurisprudencia consolidada de los tribunales españoles sobre negligencias médicas derivadas del uso de algoritmos.
Por tanto, estamos ante un ámbito sumamente incipiente. Teniendo en cuenta los tiempos habituales con los que se maneja nuestra justicia, pasarán años hasta que se puedan empezar a ver las primeras sentencias del Tribunal Supremo que clarifiquen el panorama legal y establezcan una doctrina definitiva ante esta casuística.
Este escenario, que por definición es cambiante y avanza estrepitosamente, obligará a todos los operadores jurídicos —jueces, fiscales y abogados— a mantenernos en constante actualización y conocimiento en la materia.
Entendemos que cada nueva regulación y cada caso que llegue a los juzgados sobre negligencias médicas en el ámbito de la IA, funcionará como una especie de laboratorio legal que determinará los límites de la responsabilidad médica y tecnológica, o concurrente, en cada caso concreto.
