Primeros antecedentes en la región: La Cámara Civil de Azul advirtió a un abogado por el uso inadecuado de Inteligencia Artificial
La Cámara de Apelaciones en lo Civil y Comercial de Azul —Sala I— advirtió sobre el uso inadecuado de inteligencia artificial en un escrito judicial y exhortó a un abogado, el doctor Leandro Esteban Pedersen, a verificar las citas utilizadas, en lo que aparece como uno de los primeros antecedentes de este tipo en el Departamento Judicial.
El caso llegó a la Cámara a partir de una apelación contra una resolución dictada por el Juzgado en lo Civil y Comercial N° 1 de Tandil. En ese marco, al analizar los agravios, el tribunal detectó inconsistencias en la jurisprudencia citada por el letrado.
Según se desprende del fallo, ante la imposibilidad de verificar los precedentes mencionados, se le solicitó al abogado que los adjuntara o indicara sus fuentes. Sin embargo, la respuesta fue considerada insuficiente.
En su voto, la jueza Lucrecia Inés Comparato explicó que “ante la imposibilidad de encontrar los fallos citados por el apelante se le solicitó que adjuntara los mismos o indicara los sitios de donde los extrajo”, aunque advirtió que la contestación fue evasiva, ya que el propio letrado reconoció que “al intentar su individualización posterior en los repositorios oficiales (…) no ha sido posible corroborar la correspondencia exacta” de las citas.
A partir de allí, la magistrada sostuvo que “puede inferirse (…) que se ha utilizado la IA, lo cual no está prohibido más requiere de un uso extremadamente responsable”, y vinculó la situación con las denominadas “alucinaciones” de estos sistemas.
En ese sentido, explicó que “este fenómeno se produce cuando el modelo inventa respuestas falsas o inexactas, pero presentadas de manera convincente”, lo que en el ámbito judicial ya derivó —según señaló— en la citación de jurisprudencia inexistente en distintos países.
Con ese encuadre, Comparato concluyó que “se puede advertir un uso inadecuado de las herramientas de Inteligencia Artificial al no verificar o corroborar la información recabada y luego citada”, y remarcó que ello no resulta complejo para un profesional con acceso a bases de datos oficiales.
Finalmente, consideró que esa conducta resulta “contraria a los deberes de diligencia, probidad y lealtad exigidos en el ejercicio profesional”, por lo que dispuso exhortar al letrado a verificar la autenticidad de las citas en futuras presentaciones.
Además, y al advertir que no se trataría de un caso aislado, la jueza impulsó que se dé intervención al Colegio de Abogados Departamental para promover instancias de capacitación sobre el uso adecuado de inteligencia artificial en el ejercicio profesional.
La resolución fue dictada por la Sala I de la Cámara de Apelaciones en lo Civil y Comercial de Azul, integrada por los jueces Yamila Carrasco, Esteban Louge Emiliozzi y Lucrecia Inés Comparato.
