Usó inteligencia artificial para redactar una apelación y dejó la conversación con la IA dentro del escrito
Un recurso de apelación presentado ante la Justicia bonaerense terminó dejando al descubierto algo que su autor probablemente no tenía previsto: dentro del escrito quedaron incorporados fragmentos de la conversación mantenida con una herramienta de inteligencia artificial utilizada para elaborar la presentación.
La situación fue detectada por la Sala I de la Cámara de Apelación y Garantías en lo Penal de Morón, integrada por los jueces Fabián Cardoso, Diego Matías Grau y Fernando Gabriel Bellido, al analizar una apelación presentada por un abogado defensor en una causa por tenencia de estupefacientes con fines de comercialización.
El hallazgo fue particularmente evidente porque en una de las páginas del recurso aparecieron elementos que no formaban parte de un escrito judicial. Entre ellos, una indicación que decía “Yo seguiría con este orden”, el pedido “quiero que transformes esto a un agravio”, la respuesta de la herramienta “Sí. Yo lo incorporaría dentro del recurso contra la prisión preventiva. Algo así:” y la leyenda “Pensado durante 19s”.
También se observaron distintas versiones de un mismo agravio y la reiteración de encabezados. Para el juez Fabián Cardoso, autor del voto principal, esos elementos permitieron establecer que se había utilizado inteligencia artificial generativa y que parte de la interacción había sido incorporada al recurso sin una revisión final integral.
La IA no está prohibida
El punto central del pronunciamiento es que el juez Cardoso no consideró que utilizar inteligencia artificial sea, por sí mismo, una conducta que invalide un escrito judicial.
El magistrado sostuvo que la cuestión debe analizarse a partir del contenido concreto de la presentación. Un recurso elaborado con asistencia de IA puede contener una crítica concreta y verificable, mientras que un escrito realizado íntegramente por una persona puede carecer de fundamentos suficientes.
Por ese motivo, la Cámara descartó que pueda existir una nulidad automática por el solo “uso de IA” o por una supuesta falta de revisión humana.
Para invalidar un acto procesal, explicó Cardoso, debe existir una irregularidad prevista legalmente y un perjuicio concreto. La huella tecnológica puede justificar un control reforzado, pero no reemplaza esos requisitos.
El responsable sigue siendo el abogado
El voto también establece un principio central sobre el uso de estas herramientas en la actividad profesional: la responsabilidad no se traslada a la inteligencia artificial.
El escrito presentado ante el tribunal y asumido por el profesional queda jurídicamente atribuido a quien lo presenta. Por eso, el abogado conserva la responsabilidad por la selección de los hechos, la formulación de los agravios, la fidelidad de las citas y la decisión de incorporar el contenido al expediente.
En ese sentido, Cardoso remarcó que el problema detectado en el caso no fue la utilización de la herramienta, sino la incorporación de su resultado sin la verificación, validación y depuración que exige el ejercicio profesional.
Las instrucciones dirigidas a la IA, los nombres de archivos, los tiempos de procesamiento y otros residuos de la conversación tampoco pueden ser considerados agravios ni incrementar la fuerza argumental del recurso.
El riesgo de ingresar información judicial en una IA
El fallo también pone el foco en una cuestión particularmente sensible: la confidencialidad de la información judicial.
La conversación incorporada al escrito permitía advertir que documentación vinculada con una causa penal pudo haber sido utilizada como insumo del sistema de inteligencia artificial.
Cardoso, sin embargo, fue preciso al establecer el alcance de esa observación. Señaló que no podía determinar qué información había sido cargada, qué servicio había sido utilizado, cuáles eran sus condiciones de uso ni si efectivamente se había producido una filtración.
Por eso, el Tribunal habló de un riesgo potencial para la confidencialidad y la protección de datos, sin afirmar que hubiera existido una vulneración concreta.
Precedentes y citas bajo la lupa
El juez también revisó las referencias jurisprudenciales incorporadas al recurso. En ese análisis señaló que no se había detectado una situación de alucinación jurisprudencial generalizada como la observada en otros casos.
Uno de los precedentes citados, “Fernández Prieto y Tumbeiro vs. Argentina”, existe y corresponde a una sentencia de la Corte Interamericana de Derechos Humanos.
En cambio, la referencia a “Manaut, Bernardo Raúl” no contaba con datos suficientes para una identificación pública inequívoca. Para Cardoso, mientras no se indiquen tribunal, sala, número de causa, fecha y fuente verificable, ese antecedente no puede ser utilizado como autoridad jurídica.
La falta de esos datos, aclaró, disminuye el valor del argumento, pero no permite concluir que todo el recurso sea ficticio.
Un llamado de atención al abogado
Finalmente, la Cámara dispuso hacer saber al abogado Mariano Agustín Segovia las consideraciones formuladas por el juez Cardoso, en particular para que adopte una adecuada labor de control antes de que sus presentaciones lleguen al expediente.
El juez sostuvo que la inteligencia artificial puede ser una herramienta capaz de mejorar la calidad y eficiencia del trabajo jurídico, pero insistió en que no sustituye la decisión humana ni libera al profesional de su responsabilidad.
La resolución fue suscripta por la Sala I de la Cámara de Apelación y Garantías en lo Penal de Morón. El juez Diego Matías Grau compartió la conclusión de Cardoso, mientras que Fernando Gabriel Bellido adhirió a sus fundamentos.
El pronunciamiento se produjo mientras la Cámara resolvía las apelaciones de dos imputados en una causa por el secuestro de 950 gramos de cocaína distribuidos en 933 envoltorios. En ese aspecto, el Tribunal revocó la prisión preventiva de uno de ellos por falta de mérito y confirmó la del otro.
Pero el tramo que abre un debate cada vez más presente en los tribunales quedó registrado en las páginas de aquella apelación: la inteligencia artificial podía ayudar a redactar el escrito, pero alguien tenía que leerlo antes de presentarlo.
