Juez de tutela usó ChatGPT para extender argumentos y citó leyes de forma errónea

Una madre interpuso una tutela contra una EPS para obtener servicios de salud y transporte para su hijo con autismo. En la segunda instancia, el juez utilizó ChatGPT 3.5 para generar argumentos jurídicos que incluyó en la sentencia. Sin embargo, la herramienta citó leyes de manera errónea, lo que generó un debate sobre los límites de la inteligencia artificial en la justicia. La Corte Constitucional determinó que la IA no puede reemplazar el razonamiento humano de los jueces.

El caso inició por una acción de tutela presentada por la madre de un menor con Trastorno del Espectro Autista (TEA), quien solicitaba exoneración de copagos y transporte para el tratamiento de su hijo frente a una EPS. Durante el trámite de la segunda instancia, el despacho judicial consultó a la inteligencia artificial ChatGPT 3.5 para complementar la motivación del fallo, incorporando las respuestas obtenidas directamente en la providencia.

El problema central radicó en establecer si el uso de estas herramientas tecnológicas por parte del juez vulneraba el debido proceso y la garantía del juez natural. Se observó que el uso de la IA resultó en la inclusión de referencias legales imprecisas o incorrectas que el funcionario no verificó debidamente antes de emitir su decisión.

La Corte Constitucional decidió confirmar parcialmente el amparo a la salud del menor, pero aprovechó la oportunidad para sentar un precedente sobre el uso ético de la IA. Ordenó al Consejo Superior de la Judicatura emitir guías claras para el uso de estas tecnologías, enfatizando que su rol debe ser únicamente de apoyo y nunca sustitutivo del criterio judicial humano.

El juez formuló preguntas jurídicas a la IA e incorporó las respuestas para expandir la argumentación del caso sin advertir que la herramienta generó alucinaciones, citando erróneamente la Ley 1753 de 2015. La Corte Constitucional estableció que la IA carece de conciencia y sensibilidad jurídica, por lo que su uso sin revisión humana rigurosa vulnera los principios de transparencia y responsabilidad judicial.

• Debido Proceso (Art. 29 C.P.). Motivación de decisiones (Art. 228 C.P.)