Inteligencia artificial y derecho, un reto social

Horacio Roberto Granero

• Editorial: elDial.com
• Año: 2021
• ISBN:
  9789878343341
• Categoría: Derecho
• Categoría: Derecho científico y tecnológico

¿La Inteligencia Artificial responde correctamente al reto social que implica su irrupción en la sociedad contemporánea, a las dudas de su real aplicación y a los beneficios y perjuicios que genera? ¿Y en el caso de los sistemas de AI aplicados al Derecho? O, lo que es lo mismo, ¿son realmente útiles para que los humanos podamos pedir o impartir mejor Justicia?En un paradigma de computación cognitiva, los usuarios humanos son los principales responsables de personalizar su propia solución utilizando una aplicación legal, pero la tecnología de servicio legal estandarizada debe informar a los humanos de la necesidad de personalización y brindarles acceso personalizado a información legal relevante para ayudarlos a construir una solución. Es decir, la aplicación legal no solo seleccionará, ordenará, resaltará y resumirá la información de una manera adaptada al problema específico de un usuario humano, sino que también explorará la información e interactuará con los datos de formas nuevas que antes no eran posibles.Para que este enfoque tenga éxito, será necesario que la tecnología tenga cierta "comprensión" de la información a su disposición y de la relevancia de la información en el proceso de resolución de problemas del ser humano y que la información esté disponible convenientemente en los momentos adecuados y en los contextos adecuados, para que la computadora puede realizar mejor las tareas dirigidas a la experiencia de los usuarios humanos.En la presente obra especialistas de distintas áreas del derecho, ofrecen su aporte y visión en esta materia de creciente interés y desarrollo.

D. INTELIGENCIA ARTIFICIAL Y DERECHO PÚBLICO

Capítulo 15

El acto administrativo automático y el presupuesto voluntad

Gustavo Sá Zeichen

Abogado (UBA), Especialista en Derecho de la Alta Tecnología (UCA)
Máster en Derecho Administrativo (Universidad Austral)

La forma no desaparecerá jamás, permítame

que se lo asegure; ¿pero qué es, en el fondo, la forma?

Fedor Dostoiesvski. Crimen y castigo.

Abstract

El derecho administrativo está cambiando, en sintonía con la evolución del propio Estado. Y el Estado está mutando porque la sociedad vive una transformación global profunda y vertiginosa a raíz de las denominadas tecnologías de la información y las comunicaciones (TICs).

En nuestro país, en un corto periodo de tiempo se ha producido una modificación profunda en la materia, con reformas relevantes de la normativa y modificaciones sustanciales en la relación del Estado con el ciudadano, habiéndose iniciado un “cambio de época” marcado por el paso del antiguo modelo del “formato papel” al nuevo –y por eso, todavía plagado de incógnitas- “paradigma digital”, que viene con un amplio espectro de interrogantes, en especial para el Derecho Administrativo.

Una de las construcciones más afectadas por estas reformas es, sin dudas, el procedimiento administrativo. Las tecnologías lo transforman profundamente, pasando de ser un mecanismo ritualista y formal –destinado a ordenar el accionar estatal, pero también (implícitamente) a servir de filtro al acceso a la Administración-, a ser un sistema de gestión eficiente de documentos y de procesamiento de información. Cambia completamente el paradigma.

Pero también es dable advertir que otros institutos del Derecho Administrativo, además del procedimiento, se encuentran impactados por la tecnología.

En el presente trabajo queríamos enfocarnos en el impacto producido sobre el acto administrativo, y en particular en una figura de la que aún no existen extensos análisis, pero que implica en cierto modo, una conmoción en algunos de las tradicionales pautas regulatorias de esta figura, y que requerirán de un re análisis de varios conceptos: nos referimos al acto administrativo automático.

En el presente, entonces, dado el estrecho marco de extensión sugerido, nos dedicaremos a intentar dar un concepto de ese tipo de actos, y analizaremos en particular cómo juegan los elementos del acto en este nuevo caso, y en particular nos detendremos en el presupuesto “voluntad”.

En cuanto a las modificaciones que el nuevo entorno digital trae a las diversas instituciones del derecho administrativo, y en particular, del acto ¿se trata de una mera reforma de su forma y trámite o estamos ante una modificación sustancial?

Entendemos que la esencia conceptual del acto es la misma, ya se trate del digital como el que se concreta tramita en formato papel. El acto siempre será una declaración emitida por un órgano estatal, o un ente público no estatal, en ejercicio de función administrativa, bajo un régimen jurídico exorbitante, productora de efectos jurídicos directos e individuales respecto de terceros (1). Sus objetivos también se mantienen inalterados: que la función administrativa pueda expresarse del modo más eficiente para cumplir su propósito de satisfacer el bien común con inmediatez, en forma directa, concretando los mandatos legislativos, judiciales o en su caso, directamente constitucionales (2).

Sin embargo, como desarrollaremos, este nuevo “ecosistema” digital provoca una modificación tan determinante en lo formal y en su conformación que genera algunos interrogantes de compleja resolución. Uno de los temas que nos presenta es el relativo a la viabilidad y, en su caso, regulación de los actos administrativos automáticos, a los que nos dedicaremos a continuación.

I. El acto administrativo automático

I.1 Concepto y elementos

De modo amplio, la actuación administrativa automatizada es el ejercicio por parte de la Administración de una potestad administrativa por medio de un sistema de información programado y no por una persona física. (3)

Acto administrativo automático es, entonces, el realizado por el computador, donde éste no se limita a materializar una voluntad externa sino que determina el contenido de esa voluntad, decidiendo en el caso concreto (4). En estos casos, no interviene una persona física en cada caso singular sino que el sistema informático produce la decisión (5).

Con relación a los tradicionales elementos del acto (arts. 7 y 8 de la LPA), esta nueva figura nos convoca a releerlos para determinar cómo juegan en este nuevo contexto, y generan nuevos interrogantes, que no responderemos aquí. Brevemente; la competencia debe ser analizada en el acto automático, pensando si es factible sostener que en ese tipo de actos la “competencia” fue puesta –directamente por la norma, o por delegación- en manos de un software que es el encargado de determinar el contenido del acto y expresarlo en la realidad. Ese acto ¿es emitido “por el sistema” o debe imputarse al órgano con competencia primaria para emitirlo? ¿Es factible sostener que se delega una competencia en un software, o que la norma le asigna la misma? ¿Podría el funcionario exculparse de responsabilidad señalando que el defecto o daño producido fue “por el sistema”?

El elemento causa también trae interesantes cuestiones a resolver: ¿los antecedentes de hecho y de derecho que el sistema toma para resolver, son los correctos? ¿Es posible determinar esto? ¿Es posible establecer sistemas denominados “de caja negra” que impidan determinar el modo de “razonar” del algoritmo para poder evaluar su razonabilidad y justicia?

Respecto del objeto no existen mayores variaciones, aunque si con los procedimientos. En ese caso ¿garantizan estos el debido derecho de defensa, el debido proceso adjetivo y las demás garantías del ciudadano? ¿Cómo debe ser la revisión administrativa de esos actos? ¿Permiten llevar a la Administración ante un juez que pueda garantizar los derechos del administrado?

La motivación también se conmueve con este nuevo tipo de actos. ¿Es posible explicitar en los considerandos de esos actos la causa y la motivación que sostienen ese dictado? ¿Qué ocurre si el sistema es de los llamados “de caja negra”? ¿Sería fundamentación razonable remitir como fundamento a que la resolución la adoptó “el algoritmo”?

La finalidad como elemento también cobra relevancia. ¿Puede sostenerse que “el sistema” tenga una jerarquía de fines diferentes que el funcionario “humano”? ¿Podría sostenerse que el sistema incurra en “desviación de poder”?

En cuanto a la forma, ésta se ve conmovida son respecto al tradicional acto “papel”, aunque no es mayor medida que con lo que ocurre con los actos que ya se dictan en formato digital (6).

I.2 Clases

Es posible distinguir al acto administrativo efectuado “de forma electrónica” y el “emanado mediante soporte informático”. El primero es el acto emanado mediante soporte informático, expresado electrónicamente, donde lo electrónico prima en la forma y no en el contenido que continúa siendo expresado por el funcionario. Estos actos son estructuralmente como los tradicionales, pero elaborados y expresados mediante tecnologías digitales.

El segundo –objeto de análisis en el presente- refiere a una total automaticidad del acto, supuesto donde el contenido es electrónico, donde es la computadora, mediante un programa informático, la que determina y emite el acto. Aquí la actividad humana se limita a realizar el software. A partir del sistema, es la computadora la que evalúa los presupuestos para emitir el acto (7), elabora la “respuesta jurídica”, y emite el acto de modo automático, manifestando una “voluntad”. Queda ver de quién es esta voluntad.

I.3 Viabilidad en la Argentina

Con cita de autores italianos, Lacava sostiene que “la doctrina autoral no tiene reparos en aceptar que la decisión administrativa sea automatizable, siempre que la disposición normativa resulte clara y unívocamente codificada” (8). Señala que esta aceptación es unánime en materia de actos reglados, aunque más discutible en materia de actos discrecionales.

Se señala que “la doctrina no circunscribe la viabilidad jurídica de automatizar las manifestaciones unilaterales de voluntad de la Administración productoras de efectos jurídicos a la emanada de la actividad reglada, pues también los actos que son producto de actividad discrecional es posible su automatización, a través de la implementación de sistemas expertos, capaces de emular la conducta de un experto humano” (9).

En nuestro sistema la normativa no regula específicamente este tipo de actos. La LPA y el RLPA (conf. Dec 894/17) nada dicen de modo expreso. De la gran cantidad de normas emitidas en materia de gobierno electrónico puede derivarse que no habría trabas jurídicas para su existencia. De modo amplísimo, por ejemplo, el art. 1 del Decreto 733/18 señala que “la totalidad de los documentos, comunicaciones, expedientes, actuaciones, legajos, notificaciones, actos administrativos y procedimientos en general, deberán instrumentarse en el sistema de Gestión Documental Electrónica –GDE- permitiendo su acceso y tramitación completa, remota, simple, automática e instantánea…”. La referencia a la “tramitación automática de actos administrativos” podría interpretarse sin dudas que significa la habilitación –muy genérica- de dicho tipo de actos.

II. El presupuesto “voluntad” en el acto administrativo automático

II.1 El presupuesto “voluntad” del acto administrativo

El acto administrativo consiste básicamente en una “declaración”, es decir, es una exteriorización de una idea (10), la “exteriorización intelectual –no material- que toma para su expresión una comprensión datos simbólicos”. (11) Esa declaración puede ser de voluntad -en sentido estricto, como decisión-, de cognición o certificación y de valoración o juicio, y es derivada de un proceso intelectivo previo del órgano o ente que despliega la función administrativa (12).

Como señalan Comadira y Scola, “el empleo genérico del término declaración permite incluir en su alcance tanto a los actos que traducen una manifestación de voluntad, como a los que exteriorizan un juicio de valor u opinión, o una simple constatación de los hechos” (13), agregando que la consideración del acto como sólo como manifestación de voluntad es discutible. Sin embargo, dichos autores, extraen del texto de la LPA que ésta erige a la voluntad del agente como un presupuesto indispensable para la existencia y validez del acto (14). Otros autores como Balbín también consideran a la voluntad –es decir, el consentimiento, elección o asentimiento libre del Estado por medio de sus agentes en el marco de los actos administrativos-, como un presupuesto del acto, “que debe integrarse con un componente objetivo (norma atributiva de competencia que dice que el Estado debe obrar y en su caso, cómo debe hacerlo) y otro de contenido subjetivo (voluntad psíquica del agente)” (15).

Este autor entiende con parte de la doctrina, que muchas veces, en particular tratándose de actos reglados, es posible prescindir del componente subjetivo en términos de decisión del agente, siendo en esos casos el componente volitivo, en principio, irrelevante “ya que aún si el acto es dictado por un agente demente o que actúe bajo presión o amenazas, el acto es igualmente válido”, lo que no ocurre en el caso de los actos discrecionales donde el presupuesto volitivo es sumamente relevante (16).

Sin ser el núcleo del presente escrito, aunque de algún modo vinculado a él, no puedo no dar mi opinión contraria a la idea de que en los actos reglados la voluntad es irrelevante y que no posee efectos en la conformación del acto. En efecto, entiendo que en un Estado de Derecho Constitucional y Republicano no es posible otorgar validez a un acto extraído, por ejemplo, por la fuerza, aún en el caso en que sea emitido en ejercicio de competencias regladas y que su contenido hubiese sido similar de todos modos. Esto así ya que el sistema jurídico no puede ser forzado a conservar en su plantel de normas a un acto afectado en su origen por un elemento completamente contario a la paz social y al orden social justo como lo es el dolo o la violencia. En ese caso, ese acto estatal padecería de un defecto constitutivo.

Cassagne también entiende a la voluntad como “una condición esencial para la validez” del acto, rechazando que se la entienda como un elemento (17).

Ya sea entonces que entendamos al acto como una “declaración de voluntad” (18) o, además, también de “juicio de conocimiento o de deseo” (19), lo cierto es que el componente volitivo representa un eje central en tanto es preciso que el Estado se manifieste a través de sus agentes componentes –funcionarios-, en un acto de transferencia de la voluntad a la realidad en que consiste la expresión de la idea.

Voluntad es una potencia o facultad de obrar o abstenerse (20). Entendemos entonces que la voluntad en sentido amplio es la capacidad del órgano – persona de decidir con libertad lo que desea y lo que no, y puede referir tanto al contenido, a la forma o al tiempo de dicha decisión, dependiendo de la competencia del emisor.

En este sentido amplio, la voluntad es un presupuesto del acto. Para que haya “declaración” algo debió ser querido: una decisión, una manifestación de cognición o certificación, o una expresión de valoración o juicio. En todos los casos, la voluntad del órgano es indispensable para entender que detrás de la manifestación, de la declaración, el Estado expresó una intención.

En mi opinión, la voluntad se despliega en tres movimientos: intención, decisión y resolución. La primera es el propósito, la segunda es el acto volitivo a través del cual la intención se representa en idea ejecutable, y la resolución es el acto externo visible de manifestación. Estos tres movimientos pueden coincidir en el tiempo o pueden diferir y ser asíncronos.

Ahora bien: centrados en que la voluntad es un presupuesto del acto administrativo y qué ésta debe estar presente en el origen del mismo, resta analizar si es posible en nuestro sistema que existan válidamente los actos “automáticos”, es decir, emitidos sin expresión de voluntad de órgano competente al momento genético del acto, en nuestros términos, al momento de la resolución.

II.2 El presupuesto voluntad y el acto automático

La cuestión de la voluntad y su incidencia sobre los actos automáticos es relevante. En tanto actualmente la voluntad hu...