El presidente del Tribunal Supremo, Roberts, ve la promesa y el peligro de la inteligencia artificial en los tribunales

El presidente del Tribunal Supremo, John G. Roberts Jr., dedicó su informe anual de fin de año sobre el estado del poder judicial federal, publicado el domingo, al papel positivo que la inteligencia artificial puede desempeñar en el sistema legal y las amenazas que plantea.

Su informe no aborda el año difícil de la Corte Suprema, incluida la adopción de un código de ética que muchos han calificado de ineficaz. Tampoco habló de los casos inminentes derivados de los procesos penales contra el expresidente Donald J. Trump ni de las dudas sobre su aptitud para ocupar el cargo.

Sin embargo, el informe del presidente del Tribunal Supremo llegó oportuno, ya que llegó pocos días después de la revelación de que Michael D. Cohen, el ex mediador de Trump, había proporcionado a su abogado citaciones legales falsas creadas por Google Bard, un programa de inteligencia artificial.

Refiriéndose a un incidente similar anterior, el presidente del Tribunal Supremo Roberts dijo que “cualquier uso de la inteligencia artificial requiere precaución y humildad”.

“Una de las aplicaciones de IA más notables llegó a los titulares este año por un defecto conocido como ‘alucinación’”, escribió, “que provocó que los abogados que utilizaban la aplicación presentaran escritos citando casos inexistentes. (Siempre es una mala idea)”.

El presidente del Tribunal Supremo, Roberts, reconoció la promesa de la nueva tecnología al tiempo que destacó sus peligros.

“Los profesores de derecho informan con asombro y angustia que la IA aparentemente puede obtener calificaciones de B en tareas de la facultad de derecho e incluso aprobar el examen de la abogacía”, escribió. “La investigación jurídica pronto será inimaginable sin ella. Obviamente, la IA tiene un gran potencial para aumentar drásticamente el acceso a información clave tanto para abogados como para no abogados. Pero igualmente obviamente corre el riesgo de invadir los intereses de privacidad y deshumanizar la ley».

El juez principal, citando formularios de quiebra, dijo que algunas solicitudes podrían agilizar el trámite legal y ahorrar dinero. «Estas herramientas tienen el bienvenido potencial de suavizar cualquier discrepancia entre los recursos disponibles y las necesidades urgentes en nuestro sistema de justicia», escribió.

El presidente del Tribunal Supremo, Roberts, lleva mucho tiempo interesado en la intersección del derecho y la tecnología. Escribió opiniones mayoritarias en decisiones que generalmente requieren que el gobierno obtenga órdenes judiciales para buscar información digital en teléfonos celulares incautados a personas que han sido arrestadas y para recopilar datos de ubicación de clientes de compañías de telefonía celular.

En su visita de 2017 al Instituto Politécnico Rensselaer, se le preguntó al presidente del Tribunal Supremo si podía “prever un día en el que las máquinas inteligentes, guiadas por inteligencias artificiales, ayudaran a establecer hechos en los tribunales o, lo que es aún más controvertido, en la toma de decisiones judiciales”.

El presidente del Tribunal Supremo dijo que sí. “Ha llegado el día”, dijo, “y está desafiando la forma en que opera el poder judicial”. Parecía referirse al software utilizado para dictar sentencias.

Esta tensión no ha hecho más que aumentar, escribió el domingo el presidente del Tribunal Supremo.

“En casos penales, el uso de inteligencia artificial para evaluar el riesgo de fuga, la reincidencia y otras decisiones en gran medida discrecionales que involucran predicciones ha generado preocupaciones sobre el debido proceso, la confiabilidad y el posible sesgo”, escribió. «Al menos en la actualidad, los estudios muestran una percepción pública persistente de una ‘brecha de equidad entre humanos e IA’, lo que refleja la idea de que los juicios humanos, con todos sus defectos, son más justos que cualquier cosa escupida por una máquina».

El presidente del Tribunal Supremo, Roberts, concluyó que “las determinaciones legales a menudo implican áreas grises que aún requieren la aplicación del juicio humano”.

«Los jueces, por ejemplo, miden la sinceridad de las palabras del acusado durante la sentencia», escribió. “Los matices son importantes: mucho puede depender de una mano temblorosa, de una voz temblorosa, de un cambio de inflexión, de una gota de sudor, de un momento de vacilación, de una fugaz interrupción del contacto visual. Y la mayoría de la gente todavía confía más en los humanos que en las máquinas para percibir y sacar las inferencias correctas de estas pistas”.

Los jueces de apelación tampoco serán reemplazados pronto, escribió.

“Muchas decisiones de apelación giran en torno a si un tribunal inferior abusó de su discreción, un estándar que por su naturaleza involucra áreas grises de hechos específicos”, escribió el presidente del Tribunal Supremo. “Otros se centran en cuestiones abiertas sobre cómo debería evolucionar la ley en nuevas áreas. La IA depende en gran medida de la información existente, que puede informar pero no tomar tales decisiones”.