Alejandro Cárcamo Righetti, Licenciado en Ciencias Jurídicas, Abogado, Magíster en Derecho Constitucional y Derechos Humanos, Doctor en Derecho por la Universidad de Talca.
La inteligencia artificial (IA) ha dejado de ser una cuestión propia de la ciencia ficción para convertirse, paulatinamente, en una útil herramienta de gestión pública. La Administración del Estado, progresivamente, está comenzando a incorporar sistemas automatizados para procesar información, detectar patrones, priorizar solicitudes, fiscalizar y gestionar recursos y apoyar la toma de decisiones.
No obstante, lo anterior presenta un desafío jurídico que el derecho administrativo no puede eludir: cuando un algoritmo interviene en una decisión administrativa ¿cómo se controla y quién responde por ella?
Desde ya, consideramos que la utilización de tecnología por parte de la Administración Pública no es un problema en sí mismo. Por el contrario, su buen empleo puede redundar en una gestión más eficiente y eficaz de los asuntos de interés general. Así, la dificultad se presenta cuando la incorporación de sistemas algorítmicos desplaza la decisión humana que tradicionalmente se encuentra detrás del acto administrativo.
En nuestra opinión, los principios de juridicidad, control y responsabilidad -bases esenciales de nuestro ordenamiento jurídico administrativo- no desaparecen frente a las decisiones automatizadas, puesto que igualmente, se trata del ejercicio de poder público. El algoritmo puede colaborar y facilitar las tareas administrativas, no obstante, en caso alguno, puede reemplazar la decisión humana del órgano administrativo.
De este modo, si un sistema automatizado recomienda rechazar una solicitud, asignar una determinada prioridad, identifica a una persona como potencial infractor o influye en la adjudicación de un contrato público, resulta indispensable, en virtud del principio de publicidad y transparencia, saber qué criterios utilizó, qué información procesó y quién asumió finalmente la decisión. De lo contrario, estaremos sustituyendo la determinación de un órgano administrativo por la decisión de una herramienta tecnológica.
En este contexto, la Administración debe poder explicar las razones jurídicas y fácticas que justifican la decisión o la actuación de que se trate, ámbito en el cual la motivación -la explicitación de los fundamentos de hecho y de derecho- cobra especial relevancia. En otras palabras, resulta insuficiente sostener que una determinada decisión fue adoptada porque “el sistema la recomendó”.
Desde esta perspectiva, el control sobre la decisión no debe disminuirse, sino que, por el contrario, intensificarse. Por su parte, la responsabilidad continuará radicada, incluso con mayor énfasis, en los órganos que tienen atribuida la competencia, ya que no podría aceptarse el planteamiento de que, ante una decisión antijurídica, la responsabilidad recaiga sobre el algoritmo.
Por ello, el desafío no consiste en escoger entre Administración tradicional y Administración tecnológica. La cuestión es otra: ¿cómo incorporar inteligencia artificial sin renunciar a las garantías propias del Estado de Derecho?
En esta dimensión, el derecho administrativo ha construido durante décadas mecanismos destinados a evitar que el ejercicio de las potestades públicas quede entregado a decisiones arbitrarias. Instituciones jurídicas como la competencia, el procedimiento, la motivación, la probidad, la desviación de fin, la transparencia, el control, la responsabilidad, entre otras, no desaparecen con la inteligencia artificial, sino que, probablemente, las hace más necesarias.
En definitiva, el algoritmo puede ayudar a decidir, pero no puede sustituir la decisión del órgano administrativo, ni tampoco puede hacerse responsable de la resolución adoptada. El verdadero desafío actual de la Administración del Estado no es simplemente utilizar inteligencia artificial, sino lograr que, aun cuando en la decisión influyan o intervengan algoritmos, siga siendo posible identificar quién decidió, por qué decidió y quién responde por ello. ¿Están nuestros organismos de control conscientes y preparados para asumir los nuevos desafíos que representa el uso de la inteligencia artificial en el funcionamiento de la Administración del Estado?
