Las preguntas que la Inteligencia Artificial no responde

El sábado 19 de noviembre, OpenAI, la empresa propietaria de ChatGPT, despidió a su fundador Sam Altman y al presidente Greg Brockman tras recibir una carta de investigadores en la que advertían sobre un descubrimiento importante que se estaba ocultando.

Los ingenieros de OpenAI habían escrito para manifestar su preocupación por un poderoso descubrimiento de IA que podría representar una amenaza para la humanidad, específicamente en relación con el proyecto Q* y sus posibles consecuencias si la tecnología se comercializara de forma prematura.

A continuación, Ilya Sutskever, científico jefe y miembro de la junta, informó inesperadamente a Altman y Brockman de que estaban destituidos de la junta y despedidos. Mira Murati, directora de tecnología, fue nombrada inicialmente directora ejecutiva interina, mientras que el resto del equipo directivo se enteró de la situación poco después.

Altman, destacado emprendedor, comparado muchas veces con Steve Jobs, se mostró sorprendido por la noticia, describió su paso por OpenAI como "transformador y agradable", y expresó su admiración por "las personas talentosas" con las que había trabajado, e hizo alusión a planes futuros.

El domingo 19, la junta directiva de OpenAI justificó su decisión de destituir a Sam Altman como director ejecutivo, alegando "falta de honestidad constante en sus comunicaciones" y "pérdida de confianza en su liderazgo", pero la falta de más explicaciones causó inquietud entre los allegados a la organización, lo que llevó a especular que Altman y Sutskever podrían regresar como líderes.

El lunes 20, Microsoft anunció que los cofundadores de OpenAI, Altman y Sutskever, junto con sus colegas, se unirían a Microsoft para dirigir un nuevo equipo de investigación avanzada de IA, al tiempo que revelaba que el cofundador de Twitch, Emmett Shear, se convertirá en el nuevo CEO de OpenAI.

Tras la declaración del CEO de Microsoft, Satya Nadella, los empleados de OpenAI amenazaron con dimitir si no se cumplían dos condiciones: la renuncia de algunos miembros del consejo de administración y la reincorporación de Altman como CEO. Muchos inversores apoyaron estas demandas de los empleados, lo que llevó a Altman y Brockman a regresar a OpenAI con la condición de cambiar la mayoría de los miembros del consejo de administración.

Altman expresó su amor por OpenAI y su decisión de unirse a Microsoft, pero dijo que con el apoyo de la nueva junta directiva y de Satya, esperaba volver y continuar, esta vez en sólida asociación con Microsoft, que hasta entonces era un accionista –relativamente– minoritario.

La forma del negocio

OpenAI no es una empresa de tecnología típica y se fundó como una organización sin fines de lucro con un enfoque en el desarrollo de la IA general "en beneficio de la humanidad". A diferencia de otros gigantes tecnológicos, el principal deber fiduciario de OpenAI es "con la humanidad" y no con los inversores o los empleados. Sin embargo, a medida que crecía la popularidad de su tecnología, también lo hacía el número de inversores.

Por eso, el accionista mayoritario, OpenAI Inc y su junta directiva, permitió a la junta destituir al director ejecutivo, Sam Altman. En OpenAI surgieron tensiones entre la "tribu de la seguridad" y la "tribu del negocio", debido a las diferencias de opinión sobre la implementación de la IA. La tribu de la seguridad reclamaba una implementación cautelosa, mientras que la tribu comercial quería acelerar la comercialización.

Como dijo el Financial Times, "Esta estructura híbrida creó tensiones entre las dos "tribus" de OpenAI. La "tribu de la seguridad", encabezada por el científico jefe y miembro de la junta directiva Ilya Sutskever, argumentó que OpenAI debía ceñirse a su propósito fundacional y "Solo implementar la IA con cuidado". La tribu comercial parecía deslumbrada por las posibilidades desatadas por el éxito de ChatGPT y quería acelerar (es decir, ganar dinero). La tribu de la seguridad parecía haber ganado por ahora".

El proyecto secreto de OpenAI, Q*, tiene la capacidad de resolver ciertos problemas matemáticos básicos, que hasta hoy son una limitación de la IA que se ofrece en ChatGPT en cualquiera de sus versiones. A diferencia de otras áreas en las que los modelos generativos de IA tienen problemas con la variabilidad de las respuestas, Q* demuestra una mayor capacidad de "razonamiento" en matemáticas, entregando una sola respuesta correcta.

La implementación de esta capacidad requiere de nuevos y enormes desarrollos de hardware, lo que abre negocios paralelos para los que, nuevamente, se necesitan enormes inversiones. Allí es donde entra Microsoft que, ahora, de socio minoritario con el 49% de las acciones, podría pasar a ser el socio mayoritario, a poner al director -el mismo Altman, pero ahora contratado por ellos- y a ser virtualmente dueño de OpenAI.

El impactante despido de Altman –y su no menos  impactante retorno de la mano de Microsoft en apenas 48 horas– revela las contradicciones que surgen en el desarrollo de los modelos de "inteligencia artificial generativa" que impulsan la revolución de la IA.

Altman no es un científico, pero parece ser un hombre de grandes ideas, un emprendedor al estilo Bill Gates. Bajo su dirección, OpenAI se transformó en ocho años de un equipo de investigación sin fines de lucro a una empresa que genera u$s 1.000 millones de ingresos anuales, con clientes que van desde Morgan Stanley hasta Carlyle y PwC.

El éxito convirtió a Altman en el embajador de facto de la industria de la IA, a pesar de su falta de formación científica. A principios de este año realizó una gira global en la que se reunió con líderes mundiales, empresas emergentes y gobiernos en varios países. Hace poco habló en la cumbre regional Apec Asia-Pacífico en San Francisco –donde se reunieron Joe Biden y Xi Jinping para hacer las paces– apenas un día antes de ser despedido.

Altman aparentemente tiene "una ambición feroz y una capacidad para conseguir apoyos y acumular poder" que fascina tanto como atemoriza a quienes lo conocen. Tiene fieles seguidores entre los más de 700 empleados de OpenIA, la mayoría de los cuales firmaron la carta exigiendo su reintegro y la renuncia de la "tribu de seguridad" en la junta.

La revolución IA

La introducción de estos potentes modelos atrajo desde el año pasado la atención generalizada al campo de la Inteligencia Artificial (IA), con cientos de millones de usuarios experimentando esas herramientas. La IA ya se aplica en varios dominios, incluida la generación de texto e imágenes, la síntesis de voz e incluso la co-creación de código informático. 

Empresas como Google, Microsoft y Adobe están incorporando funciones de inteligencia artificial en sus motores de búsqueda y en sus softwares. La accesibilidad masiva de la IA provocó desde el primer minuto debates sobre sus implicaciones éticas, incluidas preocupaciones sobre los derechos humanos, la protección de datos, la privacidad, la discriminación y el futuro del trabajo.

Este año, figuras destacadas, entre ellas Elon Musk y más de mil investigadores y ejecutivos de empresas tecnológicas, pidieron una pausa de seis meses en el desarrollo de sistemas avanzados de inteligencia artificial para abordar lo que consideran "una peligrosa carrera armamentista". 

El debate se extendió más allá de los círculos académicos, ya que el contenido viral deepfake (hechos, imágenes o noticias falseadas con gran verosimilitud) plantea dudas sobre la veracidad de la información y consideraciones éticas. 

Los críticos argumentan que al mismo tiempo –o antes, aunque ya no parece posible– que se desarrollan y despliegan tecnologías de IA deben abordarse las preocupaciones éticas, incluidas las relacionadas con los derechos humanos, la protección de la privacidad, de los datos personales, y la sustentabilidad del trabajo.

En respuesta a estas preocupaciones, la UNESCO instó a la rápida implementación del "Marco Ético Global sobre Inteligencia Artificial", adoptado por unanimidad en 2021. A pesar de estos llamados a consideraciones éticas, las empresas tecnológicas importantes, como Microsoft, Meta, Google y Amazon redujeron sus equipos de ética, lo que implica serias amenazas sobre el desarrollo responsable de la IA.

El impacto potencial de la IA en el mercado laboral, la automatización y la robotización, integrada ya en numerosas industrias de todos los sectores, encienden los debates sobre su efecto transformador en la naturaleza del trabajo. Bill Gates expresó su asombro por los beneficios potenciales de la IA en campos como la salud y la educación. Sin embargo, las preocupaciones sobre la eliminación de puestos de trabajo y el impacto en diversas ocupaciones, incluidas las funciones administrativas, alarman a trabajadores, organizaciones sindicales e incluso gobiernos.

En muchos casos, estas manifestaciones no pasan de lo formal, ante un nuevo –otro– fenómeno informático que ni los gobiernos ni el público han sido capaces de regular, ni siquiera de entender en profundidad.

Si se quisiera que los avances técnicos en IA beneficien al conjunto de la humanidad, deberían utilizarse para organizar el trabajo necesario, eliminar el trabajo innecesario y distribuir las horas de trabajo sin reducir los salarios. Pero, no casualmente, esta tecnología, al igual que todas las demás, tiene propietarios. 

Los que creen que la revolución de la IA y la tecnología de la información serán desarrolladas por empresas privadas para beneficio de todos, pueden estar muy errados. Los capitales y las ganancias, como lo mostró este episodio de Microsoft encaramándose en la dirección de OpenAI, son lo primero y lo último, cualquiera que sea el impacto que la tecnología de IA tenga sobre la seguridad y los empleos en la humanidad durante las próximas décadas.

El temor de que la IA se vuelva "parecida a Dios", es decir, una superinteligencia que se desarrolle de forma autónoma, sin supervisión humana y que, en última instancia, controle a la humanidad, hasta ahora no parece posible (ni de lejos). Mucho más preocupante es su potencial capacidad de aumentar enormemente la productividad, cambiar la naturaleza del trabajo y desarrollar nuevas y mejores formas de resolver problemas… en manos de algunos pocos.

¿La IA traerá nuevos y maravillosos beneficios a nuestras vidas, reduciendo las horas de trabajo y elevando nuestro conocimiento a nuevas alturas del esfuerzo humano? ¿O la IA generalista conducirá a una mayor dominación de la humanidad por las máquinas y a una desigualdad aún mayor de riqueza e ingresos a medida que los propietarios y controladores de la IA se conviertan en "los ganadores que se llevan todo" mientras que el resto de la humanidad "se queda atrás"?

Esa es la respuesta que la IA no nos ha dado hasta ahora.