¿Podrá la inteligencia artificial mejorar la administracion de la justicia?
Las oportunidades, retos y desafíos de la Inteligencia Artificial (IA) están indisolublemente ligados al desarrollo asimétrico que suele ser inherente a los países de la región de América Latina y el Caribe. Resulta muy difícil desarrollar un ecosistema inclusivo y sostenible de automatización y aplicación masiva de sistema de IA, mientras las organizaciones trabajan con procesos y tecnologías de hace 70 años. Pobreza estructural, problemas de acceso a servicios esenciales, falta de infraestructura, conviven con ecosistemas muy embrionarios de digitalización, conectividad e interoperabilidad.
Si bien las nuevas tecnologías constituyen valiosas herramientas para poner fin a la "burocracia imprenta", y de ese modo iniciar el camino hacia un Estado inteligente 4.0 muchos de los avances de la región se ven obstaculizados por los desafíos que enfrenta la digitalización de los procesos en las organizaciones públicas. A pesar de estos desafíos, la justicia latinoamericana ha desarrollado soluciones de IA, que buscan superar estos retos y problemas.
Para entender el posible impacto de la adopción de la IA en la aplicación de justicia en América Latina, la Dirección de Innovación Digital del Estado de la Vicepresidencia de Conocimiento de CAF - banco de desarrollo de América Latina-, lidera una iniciativa regional para analizar el uso de la Inteligencia Artificial aplicada al sector justicia y evaluar su potencial para reducir y gestionar tres grandes características de nuestras sociedades: complejidad, incertidumbre e imprevisibilidad.
Uso estratégico de datos e inteligencia artificial en el sector público
La gobernanza de datos es el “oxígeno de la automatización” y la base misma para la aplicación de todos los sistemas de IA El objetivo, a fin de cuentas, es procesar de forma automática los datos para resolver problemas, asistir a los funcionarios para complementar y mejorar las competencias humanas.
En el sector público el potencial de la IA puede brindar soluciones de alto impacto en los ámbitos sanitario, educativo y judicial, asi como en el empleo público, la seguridad y, en general, en la gestión de las relaciones con los ciudadanos. Además, permite una mayor accesibilidad a los servicios públicos, reduciendo sustancialmente sus costos, al posibilitar la automatización de procesos y procedimientos públicos, ofreciendo a los ciudadanos la oportunidad de interactuar con el Estado de una manera más ágil, efectiva y personalizada.
La introducción de la IA a partir de una adecuada gobernanza de datos, no solo tiene el potencial de optimizar los tiempos de la justicia, sino que permite mitigar daños colaterales, aumentar la eficiencia de los demás poderes y organismos vinculadores al poder judicial, en la medida que permite alcanzar el objetivo de tratar de una manera más imparcial y equitativa los asuntos que afectan a los administrados.
Desafíos éticos de la aplicación de inteligencia artificial en el sector público
El uso de la IA en los procesos de toma de decisiones en el sector publico requiere de una reflexión exhaustiva en términos de ética y, más ampliamente, de gobernanza. Las tecnologías de IA pueden incrementar las posibilidades de discriminación, los sesgos negativos y pueden perjudicar desproporcionadamente a comunidades marginadas. Por este motivo, debe evitarse que los conjuntos de datos utilizados por los algortimos de los sistemas de IA —durante las fases de entrenamiento, pruebas y funcionamiento— contengan sesgos involuntarios, inexactitudes o errores, por estar incompletos o por modelos gobernanza deficientes. Para ello, es esencial que en la etapa de gobernanza de datos se garantice el cumplimiento de los criterios cuantitativos y cualitativos, así como la integridad de los datos.
La Organización para la Cooperación y el Desarrollo Económicos (OCDE y el Grupo de Expertos de Alto Nivel sobre IA de la Comisión Europea reconocen requisitos esenciales que los sistemas de IA deben cumplir para ser considerados confiables: i) intervención y supervisión humana; ii) robustez y seguridad; iii) privacidad y gobernanza/gestión de datos; iv) transparencia y explicabilidad; v) diversidad, no discriminación y equidad; vi) bienestar social y medioambiental; y vii) responsabilidad y rendición de cuentas.
Experiencias de IA en América Latina
La investigación llevada adelante pone especial acento en las experiencias de uso de tecnologías emergentes en la Justicia de América Latina y el Caribe. En esta región se advierte una creciente demanda de asistencia de este tipo de tecnologías, debido a la asimetría entre la cantidad de demandas y las personas destinadas a atenderlas. A su vez, se advierte que la celeridad y agilidad de la Justicia es uno de los principales requerimientos de la ciudadanía.
El estudio sobre el uso estratégico de datos e inteligencia artificial (IA) en el sector público para generar valor social y económico, próximo a ser publicado por la CAF bajo la Dirección de Innovación Digital del Estado (DIDE) de la Vice Presidencia de Conocimiento, permitió identificar una serie de buenas prácticas y lecciones aprendidas que deben ser tenidas en cuenta a la hora de diseñar, desarrollar o implementar soluciones de IA en el sector público: 1) tener claros que los objetivos deben estar orientados a que las tecnologías sean inclusivas, 2) que, de manera previa al diseño o desarrollo del sistema de IA, exista un diagnóstico de la organización en cuestión, 3) que los trabajadores desarrollen nuevas competencias y capacidades digitales específicas y desaprendan técnicas, formatos y enfoques usados bajo el paradigma anterior, 4) que el sistema sea diseñado pensando en el usuario, en formato intuitivo y amigable, en un lenguaje claro y comprensible al alcance de todos, 5) que el control humano esté presente durante todo el ciclo de vida del sistema y, finalmente, que recetas o fórmulas de otros países con realidades, culturas, economías y ecosistemas diferentes, solo podrían generar un efecto contrario al deseado.
En conclusión, en el sector Justicia la automatización de tareas y documentos y la simplificación de procesos y procedimientos públicos, podrá ayudar a que los juicios sean resueltos en un periodo más corto de tiempo, haciendo que la justicia sea más eficiente y efectiva. De esta manera, la democratización de los beneficios de la IA contribuirá a una capacidad más justa del Estado para responder a las crecientes demandas de los ciudadanos.
El próximo 15 de septiembre se llevará a cabo el Foro; ExperiencIA, datos e inteligencia artificial en el sector público donde se discutirá en profundidad éste y otros casos, de la mano de los responsables de ésta y otras experiencias
