Sala de lo Constitucional establece estándares éticos y legales para uso de IA en la función pública

La Sala de lo Constitucional de la Corte Suprema de Justicia (CSJ) de El Salvador ha emitido una resolución que establece estándares éticos y legales para la utilización de la inteligencia artificial (IA) en instituciones estatales, particularmente en los ámbitos de la administración pública y la justicia. Esta decisión surge a partir de un proceso de inconstitucionalidad que abordó los desafíos y riesgos asociados con la implementación de tecnologías automatizadas en funciones públicas.

Contexto y motivación de la resolución

El caso que motivó el pronunciamiento se originó cuando ciudadanos emplearon inteligencia artificial para redactar una demanda, lo que llevó a la CSJ a analizar el funcionamiento y las implicaciones legales de esta tecnología. En este marco, la Sala revisó tanto las normativas nacionales vigentes, incluyendo la Ley de Fomento a la Inteligencia Artificial y Tecnologías (LFIAT),como los estándares internacionales aplicables al desarrollo y uso de la IA, con el fin de armonizarlos con los derechos fundamentales garantizados en El Salvador.

Marco ético y legal en la administración de justicia

Uno de los puntos centrales de la resolución es la regulación del uso de IA en el ámbito jurídico. La Sala advierte que, pese a las potenciales ventajas tecnológicas, la inteligencia artificial no debe reemplazar las funciones esenciales de los operadores jurídicos, como los abogados, fiscales y jueces. En particular, se establece que las tareas de fundamentación de peticiones y la emisión de resoluciones deben ser realizadas por personas humanas, garantizando así el respeto a derechos fundamentales como el acceso a un tribunal independiente e imparcial.

La resolución enfatiza que el derecho a la defensa implica el acceso a un abogado humano, mientras que el derecho a un juicio justo requiere la intervención de un juez humano. La utilización de sistemas automatizados no puede sustituir estas funciones, ya que un uso indiscriminado de la IA podría afectar la imparcialidad y la equidad del proceso judicial.

Principios rectores para el uso de IA en justicia

• Transparencia: debe garantizarse claridad en el uso de la IA y en los procesos automatizados.
• Privacidad y protección de datos: los sistemas deben respetar la confidencialidad de la información personal.
• No discriminación: se deben erradicar sesgos algorítmicos que puedan generar desigualdades o injusticias.
• Responsabilidad: las decisiones deben estar sujetas a supervisión y rendición de cuentas por parte de autoridades humanas.
• Consentimiento informado e inclusión: el uso de IA debe contemplar la participación y el conocimiento de los afectados.

Uso de inteligencia artificial en la administración pública

En cuanto a la administración pública, la Sala reconoce que la IA puede mejorar la eficiencia y reducir errores en procesos administrativos, siempre que estos no sean susceptibles de manipulación por intereses personales. Sin embargo, subraya la importancia de que toda actuación automatizada esté bajo supervisión humana efectiva.

Esta supervisión puede realizarse tanto en la etapa previa, durante el diseño y programación de los sistemas, como en la etapa posterior, mediante la revisión y verificación de las decisiones adoptadas con apoyo de IA. El objetivo es garantizar la fiabilidad de los resultados y la conformidad con el marco legal vigente.

Riesgos y recomendaciones

Los magistrados alertan sobre diversos riesgos derivados del uso de IA en la función pública, entre ellos:

• La posible presencia de sesgos en los algoritmos que afecten la equidad.
• La opacidad en la toma de decisiones automatizadas, que dificulta la rendición de cuentas.
• La afectación a la independencia judicial cuando la IA interviene en procesos legales sin supervisión humana.
• La necesidad de mecanismos claros para identificar cuándo se usa IA y para permitir la revisión de sus resultados.

En este sentido, la Sala exhorta a que siempre exista la posibilidad de escrutinio sobre las actuaciones y decisiones en las que se empleen herramientas de inteligencia artificial, asegurando el acceso a la debida información y la utilización de recursos legales que deben ser resueltos por autoridades humanas.

Implicaciones para el Estado salvadoreño

El pronunciamiento de la Sala de lo Constitucional implica un llamado a las instituciones públicas para adoptar una regulación responsable y ética del uso de la inteligencia artificial, que contemple la vigilancia estatal y el respeto irrestricto a los derechos humanos. La integración de tecnologías avanzadas debe hacerse con criterios claros y mecanismos de control que eviten perjuicios a la ciudadanía y garanticen la transparencia y legalidad en la función pública.

Este enfoque busca equilibrar los beneficios de la innovación tecnológica con la protección de derechos fundamentales, un desafío relevante en el contexto actual de digitalización creciente en El Salvador.

Conclusión

La decisión de la Sala de lo Constitucional representa un hito en la regulación del uso de inteligencia artificial en El Salvador, aportando un marco jurídico y ético que orienta el empleo de estas tecnologías en sectores clave como la justicia y la administración pública. La supervisión humana, la transparencia y la protección de derechos son pilares fundamentales de esta normativa, que busca aprovechar las ventajas de la IA sin sacrificar los principios democráticos y constitucionales.

En un mundo donde la automatización y la inteligencia artificial avanzan de manera acelerada, El Salvador establece un ejemplo de cómo integrar estas herramientas con responsabilidad, garantizando que el progreso tecnológico esté al servicio de la justicia y el bienestar social.