La inteligencia artificial (IA) está transformando rápidamente diversos sectores, y el sistema de justicia no es la excepción. En México, el debate sobre su implementación en los procedimientos judiciales ha cobrado relevancia, especialmente a la luz de documentos como la revista del Poder Judicial de la Ciudad de México (PJCDMX), que aborda los fundamentos jurídicos y los desafíos prácticos de esta tecnología [web:92].
Este artículo explora los principales retos identificados por expertos y magistrados, desde la falta de comprensión ética de la IA hasta los sesgos algorítmicos y la diversidad lingüística, proponiendo un marco de reflexión para abogados, jueces y legisladores.
¿Justicia artificial o herramienta de apoyo?
Uno de los puntos centrales del debate es si la IA puede realmente impartir justicia o si debe limitarse a ser una herramienta de apoyo para los operadores jurídicos. Según Héctor Nebot García, la función básica de los tribunales es la impartición de justicia, un concepto intrínsecamente humano que involucra consideraciones éticas, morales y sociales que van más allá de los patrones matemáticos [web:92].
La IA, en cambio, se basa en modelos de lenguaje que predicen la siguiente palabra más probable en un contexto dado, sin una comprensión real de lo que es "justo" o "injusto" [web:92]. Esto plantea un dilema fundamental: los datos que nutren a la IA son el reflejo de la sociedad, y en ese reflejo pueden existir prejuicios, desigualdades y sesgos que la tecnología podría perpetuar [web:92].
El problema de la "caja negra" y la transparencia
Los sistemas de IA a menudo se consideran "cajas negras" debido a la complejidad de sus procesos, lo que dificulta entender los motivos detrás de las decisiones o argumentos que generan [web:92]. Esta opacidad puede afectar la transparencia y el derecho a un juicio justo, erosionando la confianza en el sistema judicial [web:92].
Un caso emblemático que ilustra los riesgos de confiar ciegamente en la IA es el litigio de Roberto Mata contra la aerolínea Avianca, donde los abogados citaron precedentes judiciales inventados por ChatGPT [web:92]. El tribunal descubrió que casos como Varghese vs. China Southern Airlines y Shaboon vs. Egypt Air nunca existieron [web:92]. Este episodio subraya que todo abogado, juez o magistrado que utilice IA debe hacerlo bajo su completa responsabilidad, sin delegar decisiones cruciales a sistemas automatizados [web:92].
¿Puede la IA reducir la corrupción judicial?
Una pregunta provocadora que plantea el artículo del PJCDMX es si el uso de la IA podría disminuir los actos de corrupción dentro del Poder Judicial [web:92]. En principio, utilizada correctamente como herramienta de predicción y optimización, la IA podría aumentar la transparencia al dificultar el ocultamiento de información y reducir las oportunidades para la manipulación [web:92].
Sin embargo, el mismo análisis advierte que sería ingenuo pensar que la simple aplicación de la IA lograría equidad y seguridad por sí misma [web:92]. El estricto acompañamiento humano a lo largo de los procedimientos resulta imperativo en todo momento, ya que la corrupción también podría encontrar nuevas formas de expresarse mediante la manipulación de algoritmos [web:92].
Diversidad lingüística: un reto monumental para México
México es un país con una riqueza lingüística extraordinaria, pero la mayoría de las aplicaciones de IA están diseñadas para entender y comunicarse en lenguas ampliamente habladas, como el inglés o el español [web:92]. Esto crea barreras para quienes hablan lenguas indígenas, limitando su acceso a la información y a los servicios impulsados por la IA [web:92].
La falta de modelos de lenguaje y tecnologías de procesamiento de voz en lenguas indígenas puede excluir a estas comunidades de los beneficios de la tecnología [web:92]. Por ello, el documento del PJCDMX sugiere que son necesarias políticas públicas que incluyan, desde este momento, a participantes de todas las etnias del territorio nacional para elaborar los cimientos de una inteligencia artificial basada en la diversidad de lenguas y visiones específicas de nuestro país [web:92].
¿Qué se debe legislar en materia de IA?
La introducción apresurada de tecnologías sin una supervisión adecuada puede conducir a resultados no deseados. El ejemplo de los vehículos autónomos es ilustrativo: la ausencia de una regulación sólida ha llevado a desafíos legales y éticos en casos de accidentes [web:92].
A pesar de la incertidumbre sobre qué se debe legislar, la inacción no es una opción viable. Los legisladores y las instituciones gubernamentales tienen la responsabilidad de abordar los desafíos emergentes y proteger los intereses de la sociedad [web:92]. En ese sentido, resulta de revisión obligada la Recomendación sobre la Ética de la Inteligencia Artificial, aprobada el 23 de noviembre de 2021 por la UNESCO, que señala que los gobiernos tienen la responsabilidad de implementar un marco regulatorio que establezca procedimientos para realizar análisis de los efectos éticos de los sistemas de IA [web:92].
Conclusiones para el abogado mexicano
La inteligencia artificial en los procedimientos judiciales no es una pregunta de "si" sino de "cómo". Para el litigante mexicano, esto implica:
- Responsabilidad profesional: No delegar criterios jurídicos a la IA sin verificación humana rigurosa.
- Actualización constante: Comprender los límites y capacidades de las herramientas de IA disponibles.
- Defensa de derechos: Vigilar que el uso de IA no vulnere el derecho a un juicio justo, la transparencia y la igualdad lingüística.
- Participación en el debate: Contribuir a la construcción de marcos regulatorios que equilibren innovación y protección de derechos humanos.
La IA es nuestro espejo: está alimentada con lo mejor y lo peor del ser humano [web:92]. Su desarrollo e implicaciones, para bien o para mal, dependerán de cómo decidamos utilizarla en la búsqueda de una justicia más eficiente, transparente y equitativa.
Fuentes de consulta
- Nebot García, Héctor. "El uso de la inteligencia artificial en los procedimientos judiciales". Revista PJCDMX, núm. 4, noviembre-diciembre 2023. Tribunal Superior de Justicia de la Ciudad de México. [web:92]
- UNESCO. Recomendación sobre la Ética de la Inteligencia Artificial. 23 de noviembre de 2021. [web:92]
- Weiser, Benjamin. "Here's What Happens When Your Lawyer Uses ChatGPT". The New York Times, 27 de mayo de 2023. [web:92]
