Ocho estados de EEUU demandan a OpenAI

Los fiscales generales sostienen que el chatbot indujo a usuarios a autolesionarse o a dañar a terceros, y que la empresa engañó al público sobre la seguridad de su producto.

   Entre los estados demandantes se encuentran Iowa, Kansas, Arizona, Arkansas, Idaho, Montana, Nebraska y Virginia Occidental. Cada uno presentó su demanda de forma separada ante tribunales estatales, pero coordinaron el anuncio, lo que convierte esta acción en el desafío legal estatal más significativo contra una empresa de inteligencia artificial hasta la fecha. La primera demanda estatal de este tipo fue presentada por el fiscal general de Florida en junio.

   Las demandas acusan a OpenAI de infringir las leyes estatales de protección al consumidor al diseñar ChatGPT para resultar agradable y atractivo, con el fin de ganarse la confianza de los usuarios. Según los fiscales, ese diseño no solo refuerza delirios y fomenta conductas peligrosas, sino que también ayuda a los usuarios a planificar actos violentos, como tiroteos masivos. Los estados alegan que la compañía generó un perjuicio público al poner en riesgo la salud de sus residentes y al no advertir adecuadamente sobre los riesgos del chatbot.

   Las demandas buscan obtener órdenes judiciales que obliguen a OpenAI a modificar el funcionamiento de ChatGPT. Entre otras medidas, los estados pretenden que se prohíba a la empresa desarrollar modelos de IA capaces de automejorarse, a menos que pueda garantizar que dichos modelos estén alineados con los valores humanos. También solicitan sanciones económicas civiles e indemnizaciones por daños y perjuicios derivados de las infracciones a la legislación estatal.

   Este conjunto de acciones legales se suma a una oleada de desafíos judiciales que enfrenta OpenAI en un momento delicado: la empresa se prepara para salir a bolsa, lo que la obliga a lidiar con un escrutinio regulatorio y legal cada vez mayor. Además de las demandas estatales, la compañía enfrenta decenas de demandas presentadas por particulares que alegan que ChatGPT ayudó a usuarios a planificar tiroteos masivos u otros actos violentos.

   Un portavoz de OpenAI no respondió de inmediato a una solicitud de comentarios. La empresa defendió en el pasado la seguridad de sus productos y ha señalado que trabaja constantemente para mejorar sus sistemas de moderación y protección de usuarios vulnerables.

   El caso plantea interrogantes profundos sobre la responsabilidad de las empresas de inteligencia artificial cuando sus productos son utilizados de maneras que causan daño. Si bien ChatGPT fue celebrado por su utilidad en innumerables aplicaciones, también ha sido señalado en casos de desinformación, acoso y, en situaciones extremas, planificación de actos violentos. Los estados argumentan que OpenAI conocía estos riesgos y no actuó con la diligencia necesaria para prevenirlos.

   La demanda también pone el foco en el diseño de los sistemas de IA. Los fiscales sostienen que ChatGPT está programado para ser complaciente y persuasivo, lo que puede llevar a usuarios vulnerables —especialmente jóvenes— a confiar ciegamente en sus respuestas. Esa confianza, argumentan, puede ser explotada o derivar en consecuencias trágicas cuando el chatbot refuerza ideas delirantes o valida impulsos peligrosos.

   El resultado de estas demandas podría sentar un precedente importante para la industria de la IA en Estados Unidos, donde la regulación federal aún es incipiente y los estados están tomando la iniciativa. Si los tribunales fallan a favor de los estados, OpenAI podría verse obligada a cambiar radicalmente la forma en que desarrolla y despliega sus modelos, con implicaciones que se extenderían a otras empresas del sector.

   Mientras tanto, el debate sobre cómo regular la inteligencia artificial sigue creciendo. Organizaciones de derechos digitales, legisladores y expertos en ética tecnológica observan con atención este caso, que podría convertirse en un punto de inflexión para la rendición de cuentas de las grandes empresas tecnológicas.