Un abogado de Nuevo México ha sido multado con 5.000 dólares por testigos inventados con IA en un recurso de asesinato. La sanción del Tribunal Supremo estatal a Stephen Aarons abre un frente nuevo en la responsabilidad legal de la inteligencia artificial.
Claves de la operación
- La multa asciende a 5.000 dólares. El alto tribunal de Nuevo México la impone junto a una declaración de desacato por falta de verificación en un escrito generado con IA.
- El recurso incluía testigos completamente fabricados. Según el auto judicial, aparecían testimonios falsos de testigos inventados y datos inexactos sobre la ropa y la apariencia del tirador.
- La jueza C. Shannon Bacon cuestionó al letrado. En una vista celebrada en agosto, preguntó por qué Stephen Aarons no era consciente de los riesgos de la IA en un caso de asesinato.
El precio de delegar en ChatGPT sin supervisión humana
El expediente, difundido por Reuters, sitúa a Stephen Aarons en el centro de una sanción poco habitual: el Supremo de Nuevo México le declara en desacato por incluir autoridades legales y hechos no verificados en un escrito de apelación penal. El tribunal no discute el uso de la herramienta, sino la ausencia de supervisión humana sobre un documento firmado por un profesional colegiado.
La resolución subraya un matiz relevante. Los testigos fabricados no eran un error menor: el escrito llegó a describir la vestimenta del autor de los disparos con la apariencia de una declaración veraz. La alucinación de la IA se integró como si fuera prueba válida, sin que ningún filtro humano la detuviera.
De hecho, la jueza C. Shannon Bacon ya había expresado su extrañeza en la vista de agosto. Según recoge Reuters, cuestionó cómo el abogado no había advertido de de los riesgos de una tecnología que puede inventar referencias. La respuesta no evitó la sanción económica ni el reproche disciplinario.
Observamos una paradoja incómoda: la herramienta que promete eficiencia se convierte en una fuente de responsabilidad cuando se utiliza sin verificación. En el sector legal estadounidense, no es un caso aislado. Varios tribunales han advertido ya contra las citas ficticias de modelos generativos, lo que está llevando a los colegios de abogados a redactar protocolos de uso.
La alucinación de la IA no es un fallo técnico: se convierte en responsabilidad jurídica cuando un profesional la firma sin revisar.
El coste de no verificar se mide aquí en dólares, pero el daño reputacional es mayor. El letrado deberá pagar la multa y, además, responder ante su colegio profesional por un comportamiento que el tribunal equipara a una falta de diligencia grave.
La responsabilidad profesional en la era de la IA generativa
El caso añade presión a las grandes plataformas de IA. OpenAI y otros proveedores han ampliado los avisos de uso para que los profesionales del derecho no traten ChatGPT como una fuente cerrada. Sin embargo, la cadena de responsabilidad sigue siendo personal e intransferible: quien firma el escrito asume sus consecuencias ante el tribunal.
Esta distinción es clave para las firmas jurídicas que ya utilizan IA generativa en tareas de redacción, revisión contractual y búsqueda de jurisprudencia. Los despachos no pueden trasladar el error al proveedor de la herramienta; el colegiado mantiene el deber de comprobar cada afirmación.
El sector legal español ante la verificación algorítmica
En España, la incorporación de IA en los despachos avanza con cautela. La mayoría de los colegios de abogados tiene acceso a guías para un uso responsable, y la Autoridad Europea de Protección de Datos ha recordado que el tratamiento automatizado de información judicial exige garantías específicas. Aunque no hay un caso idéntico al de Nuevo México en los tribunales españoles, el precedente norteamericano refuerza la doctrina de que la supervisión humana es irrenunciable.
La AI Act europea, en pleno despliegue de sus obligaciones para sistemas de alto riesgo, apunta en la misma dirección. Los sistemas que se usen en el ámbito de la justicia deberán garantizar trazabilidad y supervisión humana. Para la abogacía española, el aviso llega antes de que se produzca la primera sanción: la eficiencia de la IA no exime de responsabilidad.
El caso de Stephen Aarons no quedará como una anécdota. Define el umbral a partir del cual un error de una máquina se transforma en una falta profesional. Y lo hace con una cifra concreta, 5.000 dólares, que puede repetirse en otras jurisdicciones cuando un letrado confunda un modelo de lenguaje con una base de datos jurisprudencial.
