El necesario debate sobre la utilización de la Inteligencia Artificial en la justicia contencioso-administrativa

Share on facebook
Share on twitter
Share on linkedin

Compartimos interesante y actual artículo de Luz Ruibal Pereira, Profesora Titular de Derecho Financiero y Tributario en la Universidad de Santiago de Compostela.

I.-La inteligencia artificial ya es una realidad en nuestra sociedad

Durante años hemos sido testigos de cómo la Inteligencia Artificial (en adelante, IA) ha ido impregnando paulatinamente distintos sectores de nuestra sociedad y lo ha hecho de forma silenciosa, alentada por un “dejar hacer” del hombre, que nos ha llevado en buena medida a no ser conscientes de hasta qué punto ya forma parte de nuestra cotidianeidad; aspecto que se ha acrecentado en el actual contexto de pandemia mundial, frente al cual los sistemas de IA se han mostrado inmunes a los efectos, en muchos aspectos devastadores, de la COVID-19.

Por todos es sabido que el Derecho en sus múltiples facetas también ha recibido la impronta de la IA y, en lo que aquí queremos destacar, ha desembarcado en el mundo de la justicia, ofreciéndose ya, tanto a nivel internacional como nacional, ejemplos de estas nuevas herramientas tecnológicas.

Estos proyectos de IA nos permiten comprobar que el avance en estos años ha sido exponencial; de sistemas expertos en recopilación y procesamiento de datos hemos pasado a sistemas completados con métodos de aprendizaje externo y posteriormente ampliados con métodos de aprendizaje automático (machine learning), técnicas LPN (procesamiento de lenguaje natural), aprendizaje interno (deep learning) y redes neuronales que permiten, en lo que aquí interesa, disponer de sistemas con capacidad técnica para elaborar modelos de resolución y desarrollar argumentaciones sobre un tema con una calidad nada desdeñable.

Esta intromisión, que parece imparable en una justicia del siglo XXI, preocupa sin embargo a las instituciones nacionales, supranacionales e internacionales. Y preocupa, no por entender que la IA debiera quedar excluida totalmente de este ámbito de nuestra sociedad sino porque, partiendo de los beneficios que su utilización pueda acarrear, su implantación debe estar precedida de un análisis profundo y detenido de los riesgos y las implicaciones que ello supone, y debe ir acompañada de las garantías necesarias que aseguren el respeto a la tutela judicial efectiva.

II.-La inteligencia artificial en el derecho

En España el avance se ha producido especialmente en el ámbito más procesal o procedimental de nuestro sistema judicial y en el terreno de la digitalización, destacando las herramientas de gestión y tramitación procesal, así como de notificaciones electrónicas con un claro enfoque hacia la consecución de una e-Justicia y, amén de problemas como la interoperabilidad entre los distintos sistemas estatal y autonómicos, han demostrado su eficacia, especialmente en la reducción de tiempos (control de cumplimiento de plazos y de requisitos formales, presentación de documentos, etc).

Sin embargo, el reto de futuro o quizás sea más exacto hablar ya de presente, es analizar las posibilidades para una implementación de sistemas de IA con una finalidad analítica y predictiva; es decir, como herramienta de elaboración de resoluciones judiciales.

Las experiencias existentes parecen encontrar su hábitat más favorable en algunos sectores del derecho civil (reclamaciones de cantidad de pequeña cuantía como los jueces robot de Estonia o las Cortes online de British Colombia o en España el proyecto BIDARACIV de análisis de la argumentación jurídica en el campo de la custodia en el derecho civil de Aragón) y penal (riesgo de reincidencia con el programa COMPAS en algunos Estados de EEUU), pero ello no debe llevarnos a excluir el ámbito del proceso contencioso-administrativo (en Argentina se ha utilizado el programa Prometea en el campo de la ejecución judicial de deudas tributarias).

III.-La inteligencia artificial en el contencioso – administrativo

Centrándonos en el ámbito contencioso-administrativo, la posibilidad y oportunidad del uso de IA con finalidad predictiva en el ámbito jurisdiccional, debe, como punto de partida, ser objeto de delimitación en función de diversos criterios o parámetros.

En primer lugar, en función de la fase del proceso en la que nos situemos: La actual configuración de la fase de admisión del recurso contencioso-administrativo se ofrece como un campo favorable a la utilización con éxito de la utilización de sistemas de IA que elaboren una resolución de admisión o inadmisión del recurso, sometida en todo caso a supervisión por el Juez o Letrado de la Administración de Justicia.

Sin embargo, la implantación de estos sistemas inteligentes en otras fases del proceso y, especialmente en la fase decisoria, presenta mayor complejidad. En este marco debe realizarse nuevamente una diferenciación que atienda tanto a la función (analítica o predictiva) que se le otorgue al sistema de IA como al tipo de “tarea” (asistencial o sustitutoria) que se le quiera atribuir.

Desde el punto de vista de la función, como herramienta analítica de apoyo al juez, el sistema de IA se muestra como una herramienta que puede aportar importantes ventajas, facilitando todo el estudio preparatorio del caso por parte del órgano judicial. En estos casos, estos sistemas de IA ofrecen fundamentalmente una gran capacidad de análisis en tiempos muy reducidos. No es discutible que en el análisis y procesamiento de datos la máquina ha demostrados ser más eficiente que el humano y la IA se muestra como una herramienta idónea para la reducción de los tiempos a lo largo de un proceso de resolución de conflictos.

Ahora bien, mucho mayor es la repercusión que puede tener en nuestro sistema jurídico un sistema de IA que tenga una función predictiva, de tal forma que pueda elaborar propuestas de resolución que, bien con una finalidad asistencial puedan ser tomadas como borradores por parte del órgano judicial o bien con una finalidad sustitutiva, dicten la resolución judicial en lugar del Juez o Tribunal.

En este último campo (función predictiva), un sistema de IA con función sustitutiva total del juez debe ser rechazada en el proceso contencioso con carácter general. Así se señala también desde el Parlamento Europeo dónde en la Resolución de 20 de enero de 2021 recuerda a los Estados que la utilización de sistemas de IA en sus sistemas judiciales “no puede ocupar el lugar de un ser humano a la hora de dictar sentencia o tomar decisiones”. La esencia de la labor jurisdiccional, juzgando y haciendo ejecutar lo juzgado, lleva implícita una tarea de hermenéutica jurídica que no resulta posible atribuir a la máquina. En otras palabras, la labor de interpretación jurídica y su aplicación al caso no debe desligarse de la condición humana del juzgador.

Ahora bien, el hecho de defender que la hermenéutica jurídica es un campo en el que la voluntad humana no debe ser sustituida por la IA, no implica que esta no sea una herramienta útil de ayuda para el Juez. ¿Cuál sería, entonces, la respuesta ante la utilización de un sistema de IA con función predictiva y asistencial, es decir, que elabore una resolución que sirva de base al Juez o Tribunal en su labor jurisdiccional a la hora de dictar la resolución? Negar todo campo de actuación a la IA en este marco se representa cada día más como una lucha contra molinos. Por ello, el jurista, desde su respectiva faceta profesional, debe estar atento y mostrar una actitud proactiva señalando a quienes corresponda adoptar las decisiones en este campo cuáles son las garantías que necesariamente deben acompañar a dicha implementación; garantías que, entre otras cosas: (i) impidan que se produzca una delegación de la función decisoria en la máquina, (ii) eviten que el sistema conduzca a una petrificación del ordenamiento jurídico o (iii) procedan a implementar en un entorno cerrado y seguro la utilización de la IA sobre supuestos en los que inicialmente exista una previsión de resultados beneficiosos y plenamente respetuosos con los derechos de defensa, procediendo a verificar resultados antes de su adopción de forma más amplia.

Ciertamente podemos determinar que existen campos en los que la utilización de un sistema de IA no resulta posible como, por ejemplo, aquellas situaciones en las que el litigio parte de una discrepancia sobre los hechos que se consideran probados o a aquellas otras en las que el recurso tiene por objeto fijar el alcance general de un precepto.

Pero más allá de estas parcelas de exclusión, el debate sobre la utilización de sistemas de IA supone tanto apostar por los beneficios que éstos nos “venden” (uniformidad en la aplicación de la norma, ausencia de sesgos que están presentes en los jueces, reducción de tiempos de respuesta) como asumir los riesgos de una justicia estandarizada (alejamiento de la justicia del caso concreto, aparición de sesgos en los algoritmos, petrificación de la jurisprudencia). Por ello, si en algunas parcelas dichos riesgos se quisieran asumir, deberán aparecer como barreras infranqueables determinadas exigencias como, por ejemplo, la prohibición de una recepción acrítica de la resolución generada por el sistema de IA por parte del juez, la prohibición de utilizar el razonamiento de encadenamiento hacia atrás por parte de estos sistemas de IA o la exigencia de un mayor esfuerzo de motivación causal de las resoluciones judiciales.

Y no me resisto a mencionar, por ser el campo al que dedico mi atención profesional, las dificultades que se añaden cuando el proceso contencioso-administrativo tenga por objeto un acto de carácter tributario, con respecto al cual, además de las precauciones que hemos señalado, habrá que evitar que se produzca una superposición de sistemas de IA (en fase administrativa y en fase judicial) que conduzcan a un encadenamiento de decisiones automatizadas que dificulten o impidan el análisis del caso concreto y la elaboración de una motivación real y suficiente que sea garantía de la tutela judicial efectiva reclamada.

IV.-Conclusión

Para concluir con estas reflexiones, solo me resta aclarar que con ellas no pretendo denostar el uso de la IA en el ámbito de la justicia en general y de los procesos contencioso-administrativos en particular. Muy al contrario, considero que debemos aplaudir los avances que se producen en este campo y explorar sus efectos beneficiosos, pero sin olvidar que es a nosotros, como sociedad, a quien nos corresponde decidir y asumir la responsabilidad vinculada a la capacidad de actuación que confiramos a la IA, sobre todo cuando su implantación se realice en áreas especialmente sensibles como puede ser la Justicia. Por ello, es nuestro deber evitar esa especie de laissez faire en la que parece nos hemos instaurado, dejándonos arrastrar hacia un sistema dónde la tecnología va impregnando de manera silenciosa y bajo un pretendido paraguas de eficiencia y seguridad, nuestro ordenamiento jurídico, y lo es también alentar un debate pausado y profundo entre todos los agentes implicados en lograr el mayor nivel de calidad en la justicia, reflejo esencial de un sistema democrático.

Sigue leyendo Administrativando

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Autorizo el tratamiento de mis datos con la finalidad de publicar una opinión en los post o noticias editados en el blog, más info.

Suscríbete a nuestro canal de YouTube

Vídeos sobre infinidad de temáticas relacionadas con el derecho administrativo y contencioso-administrativo.

Adela Merino León

Abogada

Tras su paso por otras firmas, se incorpora a Administrativando Abogados, participando en la defensa de expedientes relacionados con derecho de aguas, funcionarios, responsabilidad patrimonial, sanciones administrativas, contratación pública y recursos contenciosos de toda índole, entre otros. 

Asimismo, ha intervenido en la elaboración de cursos de experto en Derecho Administrativo.

José Cortés Bermúdez

Abogado

Durante más de una década de ejercicio profesional, ha formado parte de firmas reconocidas como el despacho Martínez Echevarría. Participa en todo tipo de asuntos de Derecho Administrativo con especial práctica e incidencia ante los Juzgados y Tribunales de lo Contencioso – Administrativo.

María José Amo Gago

Asociada

Tras obtener premio extraordinario a su paso por la Universidad de Córdoba y preparar las oposiciones a la carrera judicial y fiscal, se incorporó a Aguayo Abogados, como firma especialista en Derecho Administrativo (hoy integrada en Ejaso ETL Global). Posteriormente, formó parte del equipo de Garrigues. 

Fruto de su dilatada experiencia profesional de más de diez años, participa en la orientación y defensa de aquéllos procedimientos administrativos y contenciosos – administrativos de especial dificultad técnica. Asimismo, se ocupa de abordar recursos de casación contenciosos – administrativos, de amparo e impugnaciones ante instancia supranacionales como el Tribunal Europeo de Derechos Humanos.

Ostenta el cargo de coordinadora académica en Administrativando Business School.

Natalia Montero Pavón

Asociada

Tras preparar las oposiciones a la carrera judicial y fiscal, se incorporó al Departamento de Derecho Administrativo de la conocida firma Sanguino Abogados.

Ha participado en la defensa de procedimientos de suma relevancia en la totalidad de áreas que configuran el Derecho Administrativo interviniendo periódicamente ante la jurisdicción de lo Contencioso – Administrativo. 

Asimismo, puntualmente, imparte máster class sobre derecho público en la Universidad Loyola Andalucía

También ha asumido la dirección y orientación de infinidad de cursos de experto en Derecho Administrativo

Ostenta el cargo de coordinadora académica en Administrativando Business School.

 

Antonio Pérez Valderrama

Director

Es profesor en Derecho Administrativo y contratación pública en el Instituto Superior de Derecho y Economía de Madrid.

Con anterioridad, ha formado parte de firmas jurídicas internacionales con cargos de dirección en el Área de Derecho Administrativo

Recientemente ha intervenido como coautor en el «Manual sobre el contrato menor», publicado por la Editorial Aranzadi. 

Asimismo, ha participado en la sección de Derecho Administrativo de Economist & Jurist y Administrativando, impartiendo formación sobre la posible nulidad de las sanciones administrativas impuestas durante los estados de alarma a consecuencia de la Covid-19. 

Ha defendido todo tipo de procedimientos de Derecho Administrativo y Contencioso – Administrativo.

Ostenta el cargo de Director Ejecutivo en Administrativando Business School.

En AB Legal International S.L.P. utilizamos cookies propias y de terceros que permiten al usuario la navegación a través de una página web (técnicas), para el seguimiento y análisis estadístico del comportamiento de los usuarios (analíticas),  que permiten la gestión de los espacios publicitarios que, en su caso, el editor haya incluido en una página (publicitarias) y  cookies  que almacenan información del comportamiento de los usuarios obtenida a través de la observación continuada de sus hábitos de navegación, lo que permite desarrollar un perfil específico para mostrar publicidad en función del mismo elaboración de perfiles web ( hay que poner la información genérica sobre el tipo de datos que se van a recopilar y utilizar en caso de que se elaboren perfiles) (análisis de perfiles) (si hubiera otras finalidades debería incluirse la información). Si acepta este aviso consideraremos que acepta su uso. Puede obtener más información, o bien conocer cómo cambiar la configuración, en nuestra política de cookies.

Puedes suscribirte a Administrativando dejando tu e-mail a continuación y recibirás semanalmente los últimos artículos en tu bandeja de entrada.