Nuevo fracaso judicial por abuso de la IA
Un sonado caso de error tecnológico encendió las alarmas en el sector legal.
La semana pasada, un tribunal reveló que el despacho internacional Pinsent Masons se había remitido a la autoridad reguladora tras engañar al tribunal en dos ocasiones con resultados de búsqueda generados por un sistema interno de IA.
Tres abogados —de distintos niveles de experiencia— serán investigados por posible incumplimiento del deber de no engañar al tribunal. El juez aplicó erróneamente la ley basándose en conversaciones del abogado junior con la IA. Las cartas enviadas fueron revisadas y firmadas por colegas sénior que desconocían el uso de la IA en la investigación. Ni siquiera las advertencias de la IA sobre su falta de fiabilidad motivaron comprobaciones adicionales.
El despacho se disculpó y prometió reforzar sus medidas de seguridad.
El caso generó gran debate. Edward Levey, especialista en negligencia profesional, advierte que la IA da a los abogados jóvenes una confianza desmedida, haciéndoles menos propensos a pedir ayuda. A la vez, los sénior tienden a sobreestimar su criterio y reducen la supervisión. "Es una combinación peligrosa", señala.
Luke Tucker Harrison, socio de Keidan Harrison, explica que implementaron un sistema de "semáforo": usar IA para borradores judiciales se considera de alto riesgo. Solo la respaldan para investigación y verificación con comprobaciones rigurosas, y exigen que los jóvenes informen siempre a supervisores y clientes sobre su uso.
"Debemos usar la IA sin miedo, pero sin ingenuidad", añade Harrison. "El problema recurrente es la implementación apresurada antes de entender cómo y cuándo utilizarla. La formación es clave".
Richard Dawson, consultor de IA, sostiene que el problema no es solo falta de curiosidad individual, sino presión estructural en los despachos: los jóvenes recurren a herramientas genéricas sin supervisión para cumplir objetivos, confiando en falsas garantías como políticas de IA no leídas. El colegio de abogados londinense confirmó que investiga la denuncia antes de decidir los próximos pasos.
