¿Qué pasa si una IA dice algo falso sobre una persona? 

   Estas preguntas, que hasta hace poco parecían de ciencia ficción, hoy tienen una respuesta judicial concreta: un tribunal de Georgia (EEUU) falló a favor de OpenAI en la primera demanda de difamación conocida por la salida errónea de ChatGPT.

Hechos 

   Mark Walters, locutor de radio, autor y activista pro armas en EEUU, demandó a OpenAI por difamación. El motivo: ChatGPT había generado una respuesta errónea en la que lo acusaba falsamente de malversar fondos de una organización sin fines de lucro, la Second Amendment Foundation (SAF), de la que él forma parte.

   Todo comenzó el 3 de mayo de 2023, cuando un periodista llamado Frederick Riehl, editor del sitio AmmoLand.com, usó ChatGPT para que le resumiera una demanda presentada por SAF contra el fiscal general del estado de Washington. Tras varios intentos, ChatGPT respondió con una afirmación falsa: que Mark Walters, como supuesto tesorero de SAF, había sido acusado de malversar fondos. Riehl, que era consciente de que la IA puede cometer errores, no creyó la respuesta y no la publicó.

¿Qué dijo el tribunal?

   El Tribunal Superior del Condado de Gwinnett en Georgia desestimó el caso y concedió un juicio sumario a favor de OpenAI. Según el fallo, "el demandante no presentó pruebas suficientes que justifiquen continuar con el proceso judicial". La decisión se basó en tres pilares:

1. La salida de ChatGPT no fue legalmente difamatoria.

2. OpenAI no actuó con negligencia ni con "malicia real".

3. Walters no sufrió daños reales.

¿Hubo difamación?

   Según el tribunal, para que una declaración sea difamatoria, debe ser entendida por un "lector razonable" como una afirmación de hecho. En este caso, el juez fue claro: "Un lector razonable como Riehl, después de reflexionar, no habría interpretado la salida de ChatGPT como una afirmación factual".

   ChatGPT advirtió varias veces sobre sus limitaciones. Le dijo a Riehl que no podía acceder a internet ni leer los enlaces proporcionados. También informó que su conocimiento estaba actualizado solo hasta 2021, mucho antes del caso en cuestión. Además, Riehl ya tenía acceso al texto original de la demanda, lo que le permitió verificar inmediatamente que lo dicho por la IA no era correcto.

   En palabras del fallo: "Las múltiples advertencias, contradicciones y señales de alerta establecieron objetivamente para cualquier lector razonable que la salida de ChatGPT no expresaba ‘hechos reales’".

¿OpenAI fue negligente?

   Tampoco. Walters alegó que OpenAI fue negligente al permitir que ChatGPT generara información falsa. Pero el tribunal concluyó que OpenAI tomó medidas razonables para evitar errores, incluyendo advertencias claras en sus términos de uso, donde se indica que los resultados pueden ser inexactos y requieren verificación humana.

   Además, al ser una figura pública —algo que Walters intentó negar—, debía probar "actual malice", un estándar legal más alto que exige demostrar que OpenAI sabía que la información era falsa o actuó con desprecio temerario hacia la verdad. Según el tribunal, "Walters no presentó evidencia que permitiera a un jurado razonable concluir que OpenAI actuó con malicia real".

   De hecho, el propio periodista testificó que sabía que ChatGPT podía "dar respuestas completamente ficticias" y que en solo hora y media descubrió que la salida era incorrecta.

¿Walter sufrió daños?

   Ninguno. Walters admitió en el juicio que no sufrió ningún perjuicio a raíz de la afirmación falsa de ChatGPT. Nadie publicó ni difundió la acusación errónea, y él mismo reconoció que "no está reclamando aquí que haya sido perjudicado".

   Además, no pidió retractación previa, algo requerido por la ley de difamación del estado de Georgia antes de poder iniciar una demanda. En otras palabras, no solo no hubo daño, sino que tampoco se cumplieron los requisitos legales previos.

Conclusión del tribunal

   En resumen, el tribunal concluyó que OpenAI no es responsable por la salida errónea de ChatGPT, ya que no se probó que la información fuera difamatoria en el sentido legal, no hubo negligencia ni mala intención, y no existieron daños reales.

   La sentencia ordena: "se concede el juicio sumario en su totalidad a favor de OpenAI".

¿Por qué es importante esta decisión?

   Este caso marca un precedente legal clave sobre el uso de inteligencia artificial generativa y los límites de responsabilidad de sus desarrolladores. La sentencia afirma, implícitamente, que los modelos de lenguaje como ChatGPT no son autores humanos y que, en contextos como este, sus errores no constituyen automáticamente una base para demandas por difamación.

   Además, introduce un nuevo estándar sobre cómo deben interpretarse las salidas de IA en el ámbito legal: no todo lo que dice una máquina puede considerarse hecho. El fallo pone énfasis en el rol activo del usuario al interactuar con una IA y la importancia de verificar la información generada.

   También señala la necesidad de entender estas herramientas como lo que son: sistemas probabilísticos que, aunque potentes, pueden equivocarse. El tribunal subraya que "los usuarios fueron advertidos repetidamente... que ChatGPT puede proporcionar información inexacta".

   Finalmente, la decisión representa un alivio para desarrolladores de IA, ya que evita que sean legalmente responsables por cada error que sus modelos puedan generar, siempre que hayan tomado medidas razonables para advertir sobre esos riesgos.

   En conclusión, este fallo no solo cierra el caso de Walters, sino que abre el debate sobre cómo regular la responsabilidad en la era de la inteligencia artificial. Si bien protege a OpenAI en este contexto, también recuerda a los usuarios —periodistas incluidos— que las máquinas no piensan, y que confiar ciegamente en sus respuestas puede ser tan problemático como demandarlas por equivocarse.