En Colombia, un juez utilizó ChatGPT para resolver un caso de salud. La Corte Constitucional intervino y dejó claro hasta dónde puede llegar la inteligencia artificial en la justicia.
El caso: Sentencia T-323 de 2024
En esta tutela, un juez de primera instancia usó ChatGPT para redactar parte de su decisión sobre un paciente que pedía acceso a un servicio de salud. La situación generó polémica: ¿puede una IA decidir sobre derechos fundamentales?
La Corte Constitucional, en la Sentencia T-323 de 2024, revisó el caso y estableció reglas claras sobre el uso de inteligencia artificial en el sistema judicial colombiano.
¿Qué dijo la Corte?
La Corte no prohibió el uso de IA, pero fijó límites estrictos bajo cuatro principios clave:
- Complementariedad: la IA puede apoyar al juez, pero nunca reemplazarlo.
- Transparencia: el juez debe informar si usó IA y con qué propósito.
- Proporcionalidad: la IA solo puede intervenir en lo necesario, no en el núcleo de la decisión.
- Temporalidad: los jueces deben evaluar permanentemente los riesgos de depender de sistemas de IA.
Derechos fundamentales en juego
La Corte recordó que el uso de herramientas como ChatGPT impacta directamente en:
- El derecho al debido proceso: las partes deben saber cómo se tomó la decisión.
- La libertad de información: las fuentes de la IA no siempre son verificables.
- La igualdad de armas: ninguna parte puede quedar en desventaja por decisiones opacas.
¿Por qué es importante este precedente?
Con este fallo, Colombia se convierte en pionero en regulación judicial de la inteligencia artificial en América Latina. El mensaje es claro: la IA puede ser una herramienta útil, pero nunca puede sustituir el criterio humano ni los estándares constitucionales.
Preguntas frecuentes
No. La Corte estableció que la IA solo puede ser un apoyo, no la fuente principal de la decisión.
Se podría alegar vulneración al debido proceso por falta de transparencia.
No. Aunque el caso fue en la justicia, las reglas sirven como guía para otras autoridades y empresas que usan IA en decisiones que afectan derechos.
En Nieto Lawyers acompañamos a empresas, entidades públicas y startups en la implementación responsable de inteligencia artificial, asegurando cumplimiento normativo y protección de datos.
¿Tu organización usa IA para tomar decisiones? Agenda una cita con nosotros y blindemos juntos tu proyecto frente a riesgos legales.
return false; // Previene comportamiento por defecto
});
});
WhatsApp
¿Necesita asesoría legal especializada?
Nuestro equipo de expertos está listo para orientarle en su caso.
