Desde al menos 2016, China ha estado creando un sistema de “tribunal inteligente”, con la intención de mejorar la “justicia, eficiencia y credibilidad” de sus jueces. Ahora, China está utilizando IA para corregir fallos judiciales que obligan a los jueces a presentar una explicación por escrito a la máquina si no están de acuerdo.

Al sugerir leyes, redactar documentos y alertar a los jueces sobre “errores humanos percibidos” en los veredictos, China está empleando inteligencia artificial para “mejorar” su sistema judicial.

En un informe sobre el sistema publicado esta semana, la Corte Suprema de Beijing declaró que los jueces ahora deben consultar formalmente a AI en cada caso, y si eligen desviarse de su decisión, deben proporcionar una justificación por escrito.

Además, a la IA se le ha dado acceso a las bases de datos de la policía y al sistema de crédito social orwelliano de China, lo que le otorga la autoridad para penalizar a las personas, incluida la lista inmediata de la propiedad de un ladrón para la venta en línea.

Beijing ha elogiado la nueva tecnología por «una contribución significativa al avance judicial de la civilización humana», pero los críticos afirman que corre el riesgo de marcar el comienzo de una época en la que las máquinas gobiernan el planeta.

Desde que el presidente del Tribunal Supremo, Qiang Zhou, pidió el uso de la tecnología para mejorar la “justicia, la eficiencia y la credibilidad” del sistema legal al menos desde 2016, China ha comenzado a construir un sistema de “tribunal inteligente”.

Esto requirió la instalación de recepcionistas robóticos en los juzgados para brindar asistencia legal en línea, grabadoras automáticas de reconocimiento de voz en las salas de audiencias para eliminar las necesidades de transcripción y «salas de audiencias virtuales» donde los casos se podían escuchar en línea.

Incluso se ha establecido en China un “tribunal de Internet” altamente especializado que solo maneja casos relacionados con el mundo virtual, como préstamos en línea, disputas de nombres de dominio y problemas de derechos de autor.

Ha resultado en el desarrollo de bases de datos considerables en las que se cargan los datos de cada caso a un ritmo de aproximadamente 100.000 por día.

Para aprender de estos casos y luego generar juicios y sugerencias para nuevas leyes basadas en lo que descubre, la inteligencia artificial ahora se ha integrado en dichas bases de datos.

Esto implica que la IA ahora está tomando decisiones en nombre de los jueces, quienes deben explicarse si quieren anularlo en lugar de simplemente recopilar datos.

El South China Morning Post dice que un fiscal de AI incluso ha comenzado a acusar a personas en Shanghái de delitos de los que cree que son responsables.

Además, al integrar la IA con el sistema de crédito social de China, podrá castigar a los infractores, como evitar que compren boletos de tren o avión si se niegan a pagar una multa.

El profesor de derecho de la Universidad de Ciencias Políticas y Derecho de China, Zhang Linghan, advirtió que el rápido desarrollo de la IA plantea la posibilidad de un futuro en el que las máquinas gobiernen sobre las personas.

En un documento que se publicó recientemente en línea, afirmó que «los humanos perderán gradualmente el libre albedrío con una dependencia cada vez mayor de la tecnología».

Continuó, “debemos estar alerta ante la erosión del poder judicial por parte de las empresas de tecnología y el capital”.