IA en la Justicia: Nueva advertencia a un abogado, ahora en la Sala II de la Cámara Civil y Comercial de Mar del Plata
Por la redacción de En Línea
Un litigio por la posesión de una vivienda en Santa Clara del Mar terminó convirtiéndose en un nuevo precedente institucional sobre los límites de la tecnología en el derecho.
La Sala II de la Cámara de Apelación en lo Civil y Comercial de Mar del Plata ratificó el desalojo de un inmueble y, en el mismo acto y en la parte resolutiva de la sentencia, lanzó una fuerte advertencia a la abogada Ruth Anabel Sánchez.
El tribunal detectó que el recurso de apelación se sostenía en jurisprudencia «fantasma», con citas de fallos que nunca existieron, lo que apunta directamente al uso sin control de herramientas de Inteligencia Artificial.
El caso no es nuevo y en las últimas semanas ya ha tenido resoluciones similares en el Departamento Judicial de Azul con dos resoluciones dictadas días atrás por la Cámara Civil y Comercial departamental.
El hallazgo de la «jurisprudencia fantasma»
Los jueces Ricardo D. Monterisi y Roberto J. Loustaunau ratificaron lo actuado en primera instancia por el Juzgado Civil y Comercial N° 16, señalando que los planteos de la defensa eran extemporáneos en materia de la cuestión de fondo que se debatía y ventilaba. Pero más allá de lo inmobiliario, lo que captó la atención de los magistrados fue el contenido del escrito de apelación.
Al revisar los fundamentos de la abogada de la defensa, los integrantes de la Cámara se encontraron con una sorpresa: las sentencias de la Suprema Corte Provincial y de la Nación que se citaban para sostener el caso no figuraban en ningún registro oficial.
«He consultado la Mesa de Entradas Virtual y el sistema interno Augusta y no hay registro de un fallo de la Sala Primera (ni de las otras dos Salas) que involucre a esas partes, ni tampoco que tenga ese número de expediente», sentenció el juez Monterisi en su voto.
Incluso, se detectó que se atribuían párrafos entre comillas a fallos reales que trataban sobre temas totalmente distintos, como indemnizaciones laborales o reformas constitucionales, que nada tenían que ver con la propiedad en disputa.
La Inteligencia Artificial y las «alucinaciones»
El tribunal analizó que este fenómeno es compatible con las denominadas «alucinaciones» de los modelos de lenguaje de IA. Al respecto, los jueces explicaron que estas herramientas pueden producir resultados que representan información inexacta o falsa, pero presentada en un discurso coherente que la hace parecer verosímil.
«Este Tribunal carece de las herramientas técnicas necesarias para determinar con exactitud las razones específicas que subyacen a las citas erróneas… En una interpretación favorable a la profesional, consideraré que su inclusión errónea ha sido de buena fe y no como resultado de una estrategia intencional y deliberada», sostuvieron los magistrados.
No obstante, aclararon que el uso de estas herramientas no exime al profesional de su responsabilidad básica: «La verificación no es una formalidad técnica: es un deber profesional indelegable y frente a la automatización, es también el límite entre el uso legítimo de herramientas de apoyo y la delegación impropia de juicio jurídico».
Un llamado de atención ético
Para los jueces, presentar citas falsas no es solo un error técnico, sino una falta de respeto al sistema judicial: «Tal conducta necesariamente supone que estos juzgadores decidimos sin leer los escritos y sin verificar las citas y fallos. Es más, los integrantes de esta Cámara conservan aún la costumbre de leer todo lo pertinente en cada uno de los escritos que presentan las partes».
Además, recalcaron las consecuencias negativas de este accionar: la contraparte pierde tiempo investigando falsedades, el tribunal malgasta recursos y, fundamentalmente, el cliente termina perjudicado al no contar con argumentos legales reales.
La Cámara resolvió confirmar la sentencia de restitución del inmueble y aplicar un llamado de atención a la abogada Ruth Anabel Sánchez, instándola a realizar un uso ético y responsable de las herramientas digitales en su ejercicio profesional.
