IA y Justicia: Peligro por Alucinaciones artificiales

Fuente de la imagen: Mentiras, sólo mentiras (M. Velasco, 2007)

M. Velasco, 2025. El Tribunal Superior de Justicia (High Court of Justice, HCJ), División del King's Bench, Tribunal Divisional, ubicado en Royal Courts of Justice, Strand, Londres, Inglaterra y Gales (Reino Unido) se ha pronunciado[1] sobre la mala conducta de abogados que utilizan inteligencia artificial (IA) generativa para la investigación legal. El tribunal examinó dos casos principales[2], siendo la preocupación central el uso real o sospechado de herramientas de inteligencia artificial generativa (IAG) por parte de abogados para producir argumentos legales escritos o declaraciones de testigos que luego no se comprueban, resultando en la presentación de información falsa ante el tribunal, como citas o citas falsas. Este asunto plantea serias inquietudes sobre la competencia y conducta de los abogados involucrados, así como sobre la adecuación de la formación, supervisión y regulación de quienes ejercen ante los tribunales. Y es que la IA es una tecnología poderosa que puede ser una herramienta útil en litigios civiles y penales, por ejemplo, para la gestión de grandes ejercicios de divulgación. Sin embargo, su uso conlleva riesgos significativos, especialmente en el contexto de la investigación jurídica. Las herramientas de IAG de acceso libre, entrenadas en un modelo de lenguaje grande (LLM) como ChatGPT, no son capaces de realizar investigaciones jurídicas fiables; pueden producir respuestas aparentemente coherentes y plausibles que resultan ser completamente incorrectas, realizar afirmaciones falsas, citar fuentes inexistentes o atribuir pasajes falsos a fuentes genuinas. Por lo tanto, quienes utilizan IA para la investigación jurídica tienen el deber profesional de verificar la exactitud de dicha investigación mediante la consulta de fuentes autorizadas antes de utilizarla en su trabajo profesional o ante un tribunal. Esto incluye bases de datos gubernamentales de legislación, la base de datos de sentencias de los Archivos Nacionales y bases de datos de editores jurídicos reputados. El deber de verificación recae en los abogados, similar a la responsabilidad de un abogado que se basa en el trabajo de un pasante o en información obtenida de una búsqueda en internet. El mal uso de la IA puede tener graves implicaciones para la administración de justicia y la confianza pública, lo que exige medidas prácticas y efectivas por parte de los líderes de la profesión legal y los reguladores para asegurar que todos los abogados comprendan y cumplan con sus responsabilidades profesionales y éticas, y sus deberes ante el tribunal.

Existe una considerable orientación profesional sobre las limitaciones y riesgos de la IA para la investigación jurídica[3], advirtiendo que pueden generar contenido convincente pero falso y que no se debe confiar en sus resultados. Engañar a un tribunal, incluso de forma inadvertida, se considera incompetente y gravemente negligente, lo que puede acarrear procedimientos disciplinarios. La orientación para los jueces también subraya la necesidad de verificar la información proporcionada por las herramientas de IA, ser conscientes de que pueden inventar casos o citas ficticias, y que todos los representantes legales son responsables del material que presentan ante el tribunal, teniendo la obligación profesional de asegurar su precisión y adecuación. Para el HCJ, los deberes regulatorios de los abogados[4], son sustancialmente similares. Los barristers deben observar su deber para con el tribunal en la administración de justicia, actuar con honestidad e integridad, no comportarse de manera que pueda disminuir la confianza del público en la profesión y proporcionar un estándar de trabajo competente a cada cliente. Además, tienen el deber de no engañar a sabiendas o imprudentemente al tribunal ni a nadie, de no redactar documentos que contengan argumentos que no se consideren debidamente defendibles y de proporcionar un estándar de trabajo competente. Los solicitors tienen el deber de no engañar al tribunal ni a terceros, de sólo presentar argumentos o declaraciones que sean debidamente defendibles, de no desperdiciar el tiempo del tribunal, de llamar la atención del tribunal sobre casos o disposiciones estatutarias relevantes, y de proporcionar un servicio competente. Los solicitors también son responsables del trabajo realizado en su nombre por otros. El tribunal dispone de diversas facultades para garantizar que los abogados cumplan sus deberes, incluyendo la amonestación pública, la imposición de una orden de costas, la exclusión de un caso, la remisión a un regulador, el inicio de procedimientos por desacato y la remisión a la policía. La respuesta del tribunal dependerá de los hechos particulares del caso, considerando factores como la importancia de establecer estándares, las circunstancias en que se presentó el material falso, la explicación dada, los pasos tomados para mitigar el daño y el impacto en el litigio subyacente. En los casos más graves, la presentación deliberada de material falso con la intención de interferir en la administración de justicia puede constituir el delito penal de obstrucción a la justicia, que conlleva una pena máxima de cadena perpetua. 

Presentar material falso ante el tribunal con la intención de que lo trate como genuino puede constituir desacato, lo que interfiere deliberadamente en la administración de justicia. Para que haya desacato, debe existir conocimiento de la falsedad o falta de creencia honesta en su veracidad. En el primer caso[5], el demandante[6], inició un proceso de revisión judicial contra el London Borough of Haringey por no proporcionarle alojamiento provisional. La abogada de la demandante[7] y el Haringey Law Centre[8] presentaron argumentos con una declaración errónea[9] y cinco casos citados que resultaron ser inexistentes. Los casos citados eran falsos o no tenían relación con el asunto y el estilo de la prosa mostraba americanismos y un formato formulario. Cuando el abogado del demandado señaló que no podía encontrar cinco de los casos citados y que se había declarado erróneamente el efecto de una sección[10], solicitaron copias. La respuesta minimizaba los errores de citación como "errores cosméticos" y se negaron a dar explicaciones adicionales. El juez, al conocer la solicitud de costas, rechazó la explicación sobre cómo había utilizado las citas inexistentes, declarando que era "totalmente impropio incluir casos falsos en un escrito", encontrando que la conducta[11] había sido impropia, irrazonable y negligente, calificándola de "mala conducta profesional", ordenando pagar £2,000 al demandado y remitiendo el asunto al Bar Standards Board y a la Solicitors Regulation Authority, donde los falseadores aceptaron haber actuado con negligencia, pero negando haber utilizado herramientas de IAG y haber tenido la intención de engañar al tribunal[12]. El tribunal entendió que se habían incluido deliberadamente citas falsas (lo que sería un desacato) o que se utilizaron herramientas de IAG para producir su lista de casos o redactar partes de los argumentos y luego negó la verdad en una declaración jurada (lo que también sería un desacato). Aunque se consideró que el umbral para iniciar procedimientos por desacato se cumplía, el tribunal decidió no iniciarlos debido a la complejidad de las cuestiones fácticas, las preguntas sobre posibles fallos en la formación y supervisión y el hecho de que ya había sido criticada públicamente y remitida a su regulador[13]. En el otro caso[14] el demandante[15] y su solicitor[16] presentaron declaraciones de testigos que contenían numerosas citas inexistentes o pasajes que no correspondían a las fuentes citadas, aceptando éstos la responsabilidad, indicando que las citas fueron generadas usando herramientas de IA y que tenía una confianza equivocada en su autenticidad, disculpándose[17]. 

Por su parte, el solicitors admitió haber confiado en la investigación legal[18] sin verificarla de forma independiente, aceptando que esto fue incorrecto y se auto-remitió a la Solicitors Regulation Authority. El tribunal señaló que fue un "lamentable incumplimiento del requisito básico de verificar la exactitud del material que se presenta ante el tribunal" y que un abogado no puede depender de su cliente para la precisión de las citas. El tribunal no encontró evidencia de que el solicitors intentara engañar deliberadamente al tribunal, por lo que no se cumplía el umbral para iniciar procedimientos por desacato[19]. El tribunal señaló que la promulgación de guías por parte de los organismos reguladores por sí sola es insuficiente para abordar el mal uso de la inteligencia artificial, invitando al Bar Council, a la Law Society y al Council of the Inns of Court a considerar urgentemente qué medidas adicionales deben tomarse a la luz de este juicio. En Inglaterra y Gales, casos como SW Harber v Commissions for His Majesty’s Revenue and Customs, Olsen v Finansiel Stabilitet A/S, Zzaman v Commissioners for His Majesty’s Revenue and Customs y Bandla v Solicitors Regulation Authority ilustran la citación de casos inexistentes o la falta de apoyo para las proposiciones avanzadas. En Estados Unidos, casos como Mata v Avianca Inc, Ex parte Lee, Kohls v Elison y Lacey v State Farm General Insurance Co evidencian el problema de las citas falsas generadas por IA, con consecuencias que incluyen sanciones financieras y la preocupación por el daño a la reputación de los jueces y la profesión legal. Australia, Nueva Zelanda y Canadá también han visto ejemplos de material legal generado por IA que contiene citas inexistentes o erróneas, en casos como Valu v Minister for Immigration and Multicultural Affairs, Wikeley v Kea Investments Ltd, Zhang v Chen, Geismayr v The Owners, Strata Plan KAS 1970 y Ko v Li. Estos ejemplos refuerzan la necesidad crítica de que los abogados verifiquen el contenido generado por IA mediante la consulta de fuentes autorizadas, ya que la "hallucination"[20] de la IA puede llevar a la presentación de información engañosa o completamente falsa ante un tribunal. Fuente de la información: sentencia pública referenciada. Fuente de la imagen: mvc archivo propio.

___________________

[1] Neutral Citation Number: [2025] EWHC 1383 (Admin) Case Nos: AC-2024-LON-003062 and CL-2024-000435 IN THE HIGH COURT OF JUSTICE KING’S BENCH DIVISION DIVISIONAL COURT Royal Courts of Justice Strand, London, WC2A 2LL Date: 6 June 2025.

[2] Ayinde v. Haringey y Al-Haroun v. Qatar.

[3] Incluyendo guías del Bar Council, la Solicitors Regulation Authority (SRA) y el Bar Standards Board.

[4] Tanto barristers como solicitors.

[5] Caso de Ayinde.

[6] Frederick Ayinde.

[7] Ms. Sarah Forey.

[8] Representados por Mr. Victor Amadigwe (solicitor y director ejecutivo) y Ms. Sunnelah Hussain (paralegal bajo su supervisión).

[9] De la Sección 188(3) de la Ley de Vivienda de 1996.

[10] La sección 188.

[11] De Ms. Forey y del Haringey Law Centre.

[12] Ms. Forey reveló un incidente separado en el que también había presentado material falso ante un tribunal del condado, donde citó casos inexistentes en un recurso de apelación y un argumento.

[13] Sin embargo, el tribunal también remitió a Ms. Forey a su regulador para una investigación adicional, incluyendo las circunstancias en que presentó casos falsos y la veracidad de su declaración.

[14] Caso de Al-Haroun.

[15] Mr. Al-Haroun.

[16] Abid Hussain de Primus Solicitors.

[17] Buscando exculpar a su solicitor. Mr. Hussain.

[18] De Mr. Al-Haroun.

[19] No obstante, el tribunal también remitió a Mr. Hussain a la Solicitors Regulation Authority.

[20] En el contexto de los modelos de lenguaje de inteligencia artificial (IA) como ChatGPT, el término "hallucination" (alucinación) se refiere a cuando un sistema produce resultados muy plausibles pero incorrectos.