Jueces de Azul volvieron a advertir sobre el mal uso de la Inteligencia Artificial
La advertencia es parte de una sentencia dictada en la Sala I de la Cámara de Apelaciones en lo Civil y Comercial de Azul. Los mismos jueces habían detectado el avance de la IA en al menos otras dos resoluciones. Qué dijeron en este caso.
La Sala I de la Cámara de Apelaciones en lo Civil y Comercial de Azul volvió a poner el foco sobre el uso de herramientas de inteligencia artificial en la actividad profesional de los abogados y realizó una encomendación específica a una letrada al advertir la posibilidad de que hubiera recurrido a ese tipo de sistemas para la elaboración de un recurso judicial.
La observación fue incorporada en una sentencia firmada por las juezas Lucrecia Comparato y Yamila Carrasco junto al juez Esteban Louge Emiliozzi, en el marco de una causa por desalojo proveniente del Juzgado de Paz de Rauch.
En ese expediente, la Cámara resolvió declarar la nulidad de una sentencia de primera instancia por considerar que había vulnerado el principio de congruencia procesal, al haber ordenado un desalojo sobre una base jurídica distinta a la planteada por las partes.
Sin embargo, además de resolver la cuestión de fondo, los magistrados dedicaron un apartado específico al posible uso de inteligencia artificial en la presentación recursiva.
“Se advierte la posibilidad de que la apelante haya utilizado inteligencia artificial (IA) en la búsqueda de argumentos y citas jurisprudenciales”, señalaron en la sentencia.
Los integrantes de la Sala recordaron además criterios que ya habían expuesto en anteriores pronunciamientos sobre el tema y describieron algunos de los riesgos que presenta el uso de estas herramientas en el ámbito jurídico.
En ese sentido, explicaron que uno de los problemas más relevantes son las denominadas “alucinaciones”, fenómeno mediante el cual los sistemas de inteligencia artificial generan respuestas falsas o inexactas presentadas de manera convincente.
“Este fenómeno se produce cuando el modelo inventa respuestas falsas o inexactas, pero presentadas de manera convincente. Ocurre cuando el algoritmo carece de información suficiente y la completa con inferencias plausibles pero erróneas”, indicaron.
Los jueces agregaron que ese tipo de situaciones ya ha generado inconvenientes concretos en distintos países.
“En el ámbito judicial, esto ha derivado en la citación de jurisprudencia y normas inexistentes, como se ha documentado en casos de Brasil, Estados Unidos y Argentina”, remarcaron.
A partir de esa advertencia, la Cámara formuló una recomendación directa a la profesional interviniente para evitar eventuales consecuencias procesales derivadas de información incorrecta.
“A los efectos de evitar eventuales sanciones que pudieran perjudicar los intereses de las partes representadas, tales como la declaración de deserción recursiva o nulidades, entre otras consecuencias, derivadas del uso inadecuado o negligente de las herramientas que provee la Inteligencia Artificial”, sostuvieron.
Por ese motivo, en los fundamentos de la sentencia encomendaron expresamente a la letrada “verificar la veracidad de la información citada, como editar el ‘diálogo’ mediante el cual la IA formula sugerencias ante los requerimientos del usuario”.
No es la primera vez que la Sala I aborda esta cuestión. De hecho, en la propia sentencia los magistrados citaron un antecedente reciente de ese mismo tribunal, donde analizaron los alcances y riesgos del uso de inteligencia artificial generativa dentro de la actividad judicial y profesional.
En esta oportunidad, más allá de la decisión adoptada sobre el litigio, la Cámara volvió a dejar asentada una postura que empieza a repetirse en distintos tribunales: la utilización de inteligencia artificial no exime a abogados y operadores judiciales de corroborar la exactitud de la información incorporada a los expedientes y de asumir responsabilidad por los contenidos presentados ante la Justicia.
