Papelón judicial en Roca: pierden un juicio por «redacción confusa» y por citar fallos falsos creados por Inteligencia Artificial

Lo que debía ser un reclamo estándar por daños y perjuicios tras un siniestro vial se convirtió en un caso testigo sobre los riesgos de la tecnología mal aplicada. Todo comenzó con un choque en la esquina de Juan XXIII y Araucanos, en Villa Regina, entre un auto y una moto. La mujer que iba en la moto demandó al automovilista, pero desde el inicio el proceso fue cuesta arriba: la jueza de primera instancia rechazó la demanda porque el relato de los hechos era «contradictorio y confuso». Según el fallo, la redacción era tan deficiente que no quedaba claro si la mujer era la conductora o la acompañante, e incluso se mencionaban calles que no existen en la zona del accidente.

Sin embargo, lo más sorprendente ocurrió durante la apelación. Al intentar revertir el fallo, las abogadas de la mujer presentaron un escrito con citas de jurisprudencia de la Corte Suprema de Justicia y del Superior Tribunal de Justicia de Río Negro. Cuando los jueces de la Cámara de Roca fueron a cotejar esos precedentes en los buscadores oficiales, se encontraron con una sorpresa: ninguno de esos fallos existía. Las sentencias invocadas eran producto de lo que técnicamente se denomina «alucinación» de la Inteligencia Artificial Generativa (IAGEN), un fenómeno donde el software inventa información con apariencia de verdad.

Ante esta situación, la Cámara no solo ratificó el rechazo de la demanda —ya que las pericias demostraron que la moto fue la que intentó un sobrepaso indebido— sino que realizó un severo «llamado de atención» a las profesionales intervinientes. Los jueces enfatizaron que, si bien la IA puede ser una herramienta auxiliar, su uso no libera a los abogados de la responsabilidad de revisar lo que presentan. Citar fallos inexistentes no solo es un error técnico, sino que entorpece la labor judicial y falta a la verdad procesal.

Finalmente, el tribunal recordó que en Río Negro rige la Acordada 22/2025 del STJ, una normativa pionera que regula el uso de estas tecnologías y advierte que el uso inadecuado puede derivar en sanciones correctivas. El caso queda como un recordatorio para el mundo jurídico local: la inteligencia artificial puede redactar, pero la responsabilidad ética y el control de los hechos siguen siendo, estrictamente, humanos.