«Alucinaciones de la IA»: Anulan una resolución del Juzgado de Familia N° 2 de Olavarría tras detectar citas inexistentes

La Cámara de Apelación en lo Civil y Comercial de Azul (Sala I) declaró la nulidad de una resolución dictada por el titular del Juzgado de Familia N° 2 de Olavarría, el doctor Santiago Guillermo Arrondo, al detectar que la resolución contenía citas de doctrina y jurisprudencia inexistentes atribuidas al uso de inteligencia artificial (IA).

El caso se originó en un expediente vinculado a la determinación de la capacidad jurídica de una persona. La controversia llegó a la Alzada Departamental luego de que el Curador Oficial, doctor Sergio Bono, apelara una resolución del 4 de diciembre de 2025 que le había denegado la regulación de honorarios profesionales.

En esa resolución, el magistrado de primera instancia fundamentó su decisión con referencias a un supuesto fragmento de doctrina atribuido a la jurista Aída Kemelmajer de Carlucci y a un fallo de la Sala II de la Cámara Civil y Comercial de La Plata del año 2019.

Sin embargo, al analizar el recurso, los jueces de la Cámara de Azul intentaron verificar esas citas a través de la Biblioteca Departamental, sin resultados positivos. El organismo informó que no fue posible localizar las fuentes mencionadas.

Ante esa situación, el tribunal se comunicó telefónicamente con el juzgado de origen, donde se indicó que tampoco podían hallarse las referencias y se atribuyó lo ocurrido a un “error de la web”.

Luego de esa verificación, la Cámara concluyó que se trató de un uso inadecuado de herramientas de inteligencia artificial generativa. En su resolución, los camaristas explicaron que las denominadas “alucinaciones” de la IA ocurren cuando el sistema produce información falsa presentada de manera verosímil ante la falta de datos suficientes.

En este caso, señalaron que el sistema habría generado una referencia doctrinaria inexistente y un fallo de una jurisdicción cuya estructura de salas no coincidía con la citada en la resolución.

Dado que los fundamentos cuestionados resultaban esenciales para la decisión apelada, la Cámara consideró configurado el incumplimiento del artículo 161 inciso 1 del Código Procesal Civil y Comercial, y resolvió declarar la nulidad del fallo.

La Sala I, integrada por los jueces Lucrecia Inés Comparato, Esteban Louge Emiliozzi y Yamila Carrasco, remarcó que la motivación de las sentencias constituye un requisito constitucional de validez. En ese sentido, advirtió que el uso de fundamentos inexistentes vulnera el derecho de defensa en juicio y afecta la posibilidad de controlar la lógica del razonamiento judicial.

Finalmente, el tribunal ordenó devolver las actuaciones al juzgado de origen para que se dicte un nuevo pronunciamiento conforme a derecho. Además, instó a los magistrados a realizar citas debidamente verificadas, con indicación precisa de fuente y página.

La misma Cámara

Días atrás, aunque de manera mucho menos categórica, la Cámara de Apelaciones en lo Civil y Comercial de Azul —Sala I— advirtió sobre el uso inadecuado de inteligencia artificial en un escrito judicial y exhortó a un abogado, el doctor Leandro Esteban Pedersen, a verificar las citas utilizadas, en lo que aparece como uno de los primeros antecedentes de este tipo en el Departamento Judicial.

Ese caso llegó a la Cámara a partir de una apelación contra una resolución dictada por el Juzgado en lo Civil y Comercial N° 1 de Tandil. En ese marco, al analizar los agravios, el tribunal detectó inconsistencias en la jurisprudencia citada por el letrado.

En aquel voto, la jueza Lucrecia Inés Comparato explicó que “ante la imposibilidad de encontrar los fallos citados por el apelante se le solicitó que adjuntara los mismos o indicara los sitios de donde los extrajo”, aunque advirtió que la contestación fue evasiva, ya que el propio letrado reconoció que “al intentar su individualización posterior en los repositorios oficiales (…) no ha sido posible corroborar la correspondencia exacta” de las citas.