LA INTELIGENCIA Artificial es una de las herramientas que más se está extendiendo en todo el planeta. Prácticamente no hay actividad ni escenario en donde este avance tecnológico no esté incursionando, razón por la cual, así como día tras día sus aplicaciones logran un mayor impacto, a esa misma velocidad se urge una reglamentación que evite que los usos sean desbordados o peligrosos.

En Colombia, al igual que en todo el mundo, hay varios proyectos de ley en el Congreso sobre la materia, en tanto que se está esperando un documento Conpes al respecto. Varios ministerios y el Departamento de Planeación Nacional están encargados de fijar la política pública al respecto.

Uno de los servicios en donde la IA puede tener una utilización clave es en la administración de justicia. Sin embargo, ya se abrió un debate sobre las reglas del juego que se deben fijar para que el apoyo en la inteligencia regenerativa digital no se lleve a extremos o ponga en peligro los principios básicos de los operadores judiciales, ya se trate de fiscales o jueces.

No es un asunto menor, prueba de ello es que, en un fallo del pasado 12 de agosto. La Corte Constitucional empezó a fijar algunos lineamientos al respecto. La Sala Segunda de Revisión conoció la acción de tutela presentada por la madre de un menor de edad contra una EPS. En dicho recurso se solicitó el amparo de los derechos fundamentales a la salud y a la vida del menor en condiciones dignas debido a la negativa de la entidad de exonerar al niño del pago de cuotas moderadoras y copagos, cubrir los gastos de transporte, con el fin de que el niño pueda asistir a sus terapias, y garantizarle un tratamiento integral.

Según se informó, los magistrados dividieron el estudio del caso en dos grandes temáticas. La primera consistió en la verificación de una posible vulneración del derecho fundamental al debido proceso en razón del uso de la inteligencia artificial IA por parte del juez de tutela de segunda instancia. Esto porque el operador judicial empleó la herramienta ChatGPT para formular interrogantes jurídicos sobre el derecho fundamental a la salud de menores de edad diagnosticados con trastorno de espectro autista y, acto seguido, incorporó las preguntas y respuestas en la motivación de la sentencia.

“En relación con el debido proceso en un sistema de administración de justicia que haga uso de herramientas de inteligencia artificial IA, la Sala de Revisión señaló que debía respetarse el derecho a un juez natural, el cual implica como elemento esencial, la condición de ser humano del juzgador, ya que el diseño institucional y normativo actual no contempla la posibilidad de un juez máquina. En ese sentido, resaltó que la IA no puede reemplazar al juez en la toma de decisiones judiciales, sin importar la complejidad del asunto sometido a estudio de la jurisdicción”, consideró la Corte.

Sin embargo, el Alto Tribunal consideró que es admisible “emplear estas tecnologías con fines de gestión administrativa y documental; apoyo a la función judicial en actividades que no suponen una labor de creación de contenido, interpretación de hechos o textos ni solución de casos; y corrección y síntesis de textos, siempre y cuando estos sean supervisados por el operador jurídico para determinar su precisión, coherencia y correcta aplicación”.

Finalmente, la Corte agregó que, en el marco del respeto del derecho al debido proceso, la implementación de la IA también debe garantizar la independencia e imparcialidad judicial lo que, en este contexto, supone que ningún poder, ya sea estatal, particular o de cualquier otra índole, como, por ejemplo, una IA, pueda influir en la consideración del caso.

Advirtió que tampoco es admisible que las decisiones judiciales estén determinadas por sesgos o prejuicios particulares que puedan estar presentes en la herramienta de IA, lo que produciría irregularidades por discriminaciones y decisiones parcializadas.

Llamado de la procuradora

En este debate también terció tanto la Procuraduría como el Ministerio de Justicia.

En el marco del “Congreso Internacional Inteligencia Artificial (IA) aplicada a la Justicia y Derechos Humanos”, realizado a finales de agosto, la jefa del ente de control disciplinario, Margarita Cabello Blanco, aseguró que, frente al uso de estas nuevas tecnologías, se debe vigilar que no se vulneren los derechos fundamentales de los ciudadanos, como la privacidad y la igualdad.

En el evento académico organizado por la Defensoría del Pueblo y la Universidad Sergio Arboleda, la procuradora reiteró el rol fundamental del ente de control para que las normas y regulaciones que rigen la IA en el sector público, cumplan los estándares legales y éticos establecidos haciendo que su uso sea justo y transparente.

“En casos donde se identifiquen violaciones de derechos a causa del uso indebido de la IA, la Procuraduría puede tomar acciones preventivas y correctivas, incluyendo la apertura de investigaciones disciplinarias.” agregó.

Finalmente, hizo un llamado para que tanto las autoridades como la sociedad en general, estén atentos al impacto de estas tecnologías para mitigar posibles efectos negativos, como la desigualdad, el sesgo en decisiones automatizadas y los desafíos a la privacidad.

“Esto tiene implicaciones profundas en todos los aspectos de la vida, desde la economía y el empleo hasta la ética y la gobernanza, marcando una nueva era en la historia humana”.

Desafíos, según minjusticia

A su turno, la ministra de Justicia, Ángela Buitrago, en el marco del XXX Encuentro Jurisdicción de lo Contencioso Administrativo, realizado en la segunda semana de agosto en Villavicencio, aportó a la discusión sobre la inteligencia artificial y el uso de nuevas tecnologías.

La alta funcionaria destacó que estas herramientas tecnológicas ofrecen grandes ventajas en el campo jurídico, ya que les permite a los sistemas judiciales globales analizar datos y mejorar su eficiencia. Sin embargo, también reconoció que estas nuevas tecnologías traen consigo grandes desafíos como la necesidad de integrarlas de manera ética.

“La inteligencia artificial ofrece grandes oportunidades, pero también plantea una serie de preocupaciones dentro del marco de justicia. Los sistemas judiciales a nivel mundial utilizan la inteligencia artificial para analizar grandes cantidades de datos jurídicos. También ayuda a identificar antecedentes de la jurisprudencia y ver caminos que, quizás, el ojo humano no ve de manera tan rápida. Pero, sin lugar a duda, permite reducir procesos. Sin embargo, hoy en día hay una preocupación por las consecuencias que puede traer el uso de la inteligencia artificial. Incluso, podemos ver cómo se está hablando de la responsabilidad frente a los sistemas, de la discriminación algorítmica y de una serie de elementos que implican también la necesidad de utilizar la ética en el tema de la inteligencia artificial”, explicó la jefa de esta cartera.

Finalmente, la ministra resaltó la importancia de fortalecer a los jueces y abogados, y recordó que, aunque la inteligencia artificial es una herramienta valiosa, el papel del ser humano en la justicia sigue siendo indispensable.

Como se ve, en materia de utilización de la IA por parte de la justicia el debate apenas comienza, con la ventaja de que en Colombia ya se está pasando de la teoría a la necesidad de ir fijando lineamientos en el día a día de la administración judicial.

De hecho, ya a comienzos de este año, con el objetivo de construir de manera colaborativa la hoja de ruta de regulación en IA para la justicia en Colombia, el Consejo Superior de la Judicatura realizó la primera sesión de la mesa multiactor para la “Inteligencia Artificial en la Justicia”, que contó con la participación de representantes de las tres ramas del sector público del país (Ejecutivo, Legislativo y Judicial), la academia (universidades Externado y de Los Andes) y la cooperación internacional, a través del Banco Interamericano de Desarrollo.