El 12 de septiembre de 2025, el Tribunal de Apelaciones de California dictó una sanción histórica contra el abogado Amir Mostafavi, quien presentó un escrito de apelación plagado de citas falsas y referencias inventadas, generadas por ChatGPT sin verificación personal. El tribunal fue contundente: 21 de las 23 citas legales incluidas en el texto eran invenciones, resultado de confiar ciegamente en la IA generativa.
La sanción económica de $10,000, la comunicación directa al cliente y la remisión obligatoria al Colegio de Abogados refuerzan un mensaje global: las herramientas digitales no pueden reemplazar el deber profesional de diligencia en la abogacía. La resolución es también una advertencia para la creciente ola de “atropellos generativos” que amenaza con desacreditar la práctica legal y colapsar la confianza en las decisiones judiciales.
En Estados Unidos y Asia, el uso de IA para redactar escritos legales crece a ritmo vertiginoso, con un 57% de los abogados que utilizan ChatGPT, 22% Microsoft Copilot y 21% Gemini según los últimos sondeos. Un informe de Goldman Sachs calcula que hasta el 44% del trabajo legal podría automatizarse mediante IA generativa en los próximos años.
La promesa es atractiva: generar borradores, buscar jurisprudencia, analizar documentos y hasta predecir resultados. Sin embargo, la velocidad y la eficiencia esconden riesgos críticos: los modelos de lenguaje no solo pueden inventar información (“alucinaciones”), sino también crear fuentes inexistentes con toda la apariencia de legitimidad.
El lado oscuro de la automatización legal.
Las “alucinaciones” de la IA no son simples errores: son fabricaciones convincentes que simulan competencia, autoridad y rigor. El abogado sancionado en California redactó su apelación y utilizó ChatGPT para “mejorar” el texto, sin saber que el modelo agregaría citas y referencias ficticias. Al presentarlo en tribunal, la falta de verificación personal lo llevó a incurrir en mala praxis.
La psicología del engaño se intensifica cuando los sistemas de IA responden con confianza absoluta. Los profesionales sobrecargados de trabajo y sedientos de eficiencia son presa fácil de estos atajos tecnológicos, pero en el derecho, la negligencia es sinónimo de ruina profesional.
Curiosamente, Europa legisla la aplicación jurídica de IA con mayor cautela que Norteamérica y Asia, a pesar de tener menos experiencia práctica. Los reguladores europeos prefieren limitar usos y exigir verificaciones exhaustivas antes de permitir la automatización masiva.
En contraste, la abogacía americana y asiática opta por experimentar primero y regular después, lo que ha dado lugar a una cascada de casos de citas falsas en escritos judiciales. El rastreador Stanford RegLab constató “alucinaciones” en una de cada tres consultas realizadas con IA generativa, y el número de sanciones y casos sigue creciendo exponencialmente.
La resolución californiana es paradigmática: “Ningún documento presentado en el tribunal debe incluir citas que el abogado que lo presenta no haya leído y verificado personalmente”. Los jueces exigen que la IA sirva como complemento, no como sustituto del criterio profesional. Se rechaza así el uso irreflexivo, los atajos y la delegación irresponsable del juicio humano.
Las consecuencias del despiste tecnológico son demoledoras: sanción económica, daños reputacionales, pérdida de confianza del cliente y posible inhabilitación profesional. El tribunal recomendó incluso la creación de cursos obligatorios sobre el uso ético y técnico de la IA en Derecho.
¿Quién es responsable? Retos éticos y técnicos
El caso Mostafavi plantea preguntas de enorme actualidad:
- ¿Hasta qué punto debe el abogado responsabilizarse de todo lo que genera y presenta?
- ¿Es suficiente con anunciar el uso de IA en el escrito?
- ¿Cómo deben actuar los Colegios de Abogados y tribunales al detectar citas falsas?
- ¿Podrían los jueces también incurrir en errores si utilizan IA sin control?
El futuro de la abogacía pasa por redefinir el equilibrio entre tecnología y conocimiento experto, reforzando la formación y la supervisión.
Los errores más comunes y cómo prevenirlos.
Entre los errores recurrentes en el uso de IA por abogados destacan:
- Confiar en automatismos para buscar jurisprudencia sin doble verificación.
- Utilice modelos gratuitos y sin restricciones que no interactúen con bases de datos oficiales.
- Copiar y pegar borradores sin lectura crítica.
- Omitir el cotejo de citas legales en bases de datos jurídicos reconocidos.
- Delegar en la IA la redacción de alegatos, sin supervisión ni adaptación al contexto específico del caso.
Las mejores prácticas exigen siempre:
- Lea y verifique cada referencia incluida en el escrito.
- No confiar exclusivamente en la IA para buscar, resumir o citar fuentes jurídicas.
- Contrastar cada argumento generado con la normativa, los precedentes y los hechos probados.
- Informar a cliente y tribunal si se ha utilizado IA, especificando su papel y limitaciones.
El rastreo de errores generados por IA ya se extiende más allá de los abogados: algunos jueces han citado fuentes inexistentes en sus sentencias, sin saber que venían de algoritmos generativos. El desafío es sistémico y exige protocolos rigurosos de control de calidad, revisión documental y auditoría digital en tribunales.
Un escenario probable es la creación de certificaciones y acreditaciones para el uso profesional de IA en Derecho, combinados con software legal especializado capaz de filtrar información falsa de los motores generalistas.
La sanción al abogado californiano ha generado amplio revuelo en el sector legal internacional. Asociaciones, firmas y Colegios han iniciado protocolos para prevenir el uso indebido de IA, asesorando a sus miembros sobre los riesgos y estableciendo líneas rojas claras.
Para los clientes, la confianza se convierte en el bien más valioso. Una defensa basada en información inventada arruina cualquier estrategia y expone al profesional a demandas, regresos honorarios y responsabilidad civil.
Este caso es un aviso para navegantes: la tecnología jurídica es una herramienta poderosa, pero debe estar siempre al servicio de la competencia profesional, la veracidad y la ética. Los abogados del futuro serán quienes dominen la IA con criterio, no quienes deleguen en ella los cimientos de su práctica.
En un mundo dominado por la automatización y el big data, el juicio humano sigue siendo irremplazable. El derecho a un proceso documentado, legítimo y controlado exige adaptarse a nuevos riesgos y paradojas, pero nunca abdicar de la diligencia que caracteriza a los mejores juristas.
Decálogo para usar ChatGPT de forma segura para profesionales de la abogacía
- Verifica siempre las fuentes y citas generadas
Nunca incluyas en documentos legales citas, jurisprudencia o referencias producidas por ChatGPT sin primero leer y confirmar su autenticidad en bases oficiales y propias. - No confies en la IA como único apoyo
ChatGPT es un asistente que puede acelerar las tareas, pero la interpretación jurídica, el juicio profesional y la responsabilidad final siempre recaen en el abogado. - Evitar introducir datos sensibles o personales
No ingresa información confidencial, nombres de clientes, datos financieros o estratégicos en ChatGPT, especialmente en versiones públicas sin garantías claras de privacidad. - Utiliza versiones de IA con acuerdos de privacidad y cumplimiento
Opta por soluciones empresariales o profesionales con cláusulas claras que protejan contenidos y datos, cumpliendo con el RGPD y normativas locales. - Implementa un proceso riguroso de revisión interna
Antes de presentar cualquier escrito generado o asistido por IA, somételo a doble revisión por parte de abogados expertos y, si es posible, utilice herramientas antiplagio y de verificación jurídica. - Transparencia con el cliente y tribunal
Informa a tus clientes si usas IA para elaborar documentos y, en su caso, si el tribunal requiere saberlo, explica qué funciones fueron automatizadas y cuáles supervisadas. - Capacitación continua en IA y ética digital
Mantente actualizado en avances tecnológicos, riesgos de “alucinaciones” y protocolos éticos para evitar errores graves y sanciones profesionales. - Establece políticas claras en tu despacho
Redacta normas internas sobre los usos permitidos de ChatGPT, responsabilidades y límites en la gestión de documentos con IA, y capacita al equipo. - Garantizar la confidencialidad y la seguridad de la información.
Utiliza protocolos de encriptación, control de accesos y almacenamiento seguro para cualquier contenido generado o transmitido con IA. - Sé crítico con la información y mantiene el control.
No delegues en la IA la toma de decisiones estratégicas en los casos legales; la herramienta es un facilitador, no un sustituto de la lógica legal y la experiencia humana.
Este decálogo busca garantizar un uso eficiente, productivo y legal de ChatGPT en la abogacía, minimizando riesgos y fortaleciendo la confianza en la profesión.
