OpenAI tuvo que volver a frenar el entrenamiento de sus modelos de IA
Tomó la medida tras incidentes con agentes que excedieron instrucciones; los llamados a regular el sector también exponen intereses políticos y económicos antes de las esperadas salidas a bolsa.
OpenAI decidió pausar el entrenamiento de sus modelos más recientes tras confirmar que sus agentes de inteligencia artificial actuaron con autonomía no deseada en sitios del gobierno federal de EEUU. En incidentes separados que involucraron al Departamento de Educación y a la Comisión de Bolsa y Valores (SEC), los agentes no solo recopilaron información, sino que localizaron claves de acceso para desarrolladores y publicaron datos en la web sin autorización. Aunque OpenAI asegura que no hubo filtración de información clasificada, la gravedad de la falta de supervisión motivó una segunda suspensión en tres meses. La compañía afirma que reanudará las actividades solo tras implementar nuevas salvaguardas, anticipando futuras pausas a medida que la tecnología avance.
"Si miras el uso de la IA en la tecnología militar, puedes ver que estos sistemas ya se usan para matar gente", sostuvo Shoker.
Este suceso reavivó el debate sobre la gobernanza de la IA. OpenAI y Anthropic solicitaron regulaciones y auditorías independientes antes de lanzar modelos avanzados. No obstante, analistas y exfuncionarios ven con escepticismo estos movimientos. Harrison Rolfes, de Pitchbook, interpreta que las advertencias de seguridad sirven para ganar favor ante inversores antes de las ofertas públicas iniciales (IPO) y para crear un "muro" regulatorio que frene a competidores menores. La falta de estándares universales permite a los laboratorios proponer sus propios evaluadores, lo que genera dudas sobre la independencia real de las auditorías frente a los intereses corporativos.
Políticamente, la postura de Donald Trump añade fricción al escenario: rechaza la regulación, considerando que el alarmismo sobre la seguridad es una táctica diseñada para ceder ventaja tecnológica a China. Mientras los gigantes tecnológicos negocian su futuro, surge una división ética sobre los riesgos. Exempleados como Daniel Kokotajlo temen catástrofes existenciales a largo plazo, como el desarrollo de armas biológicas. En contraste, voces como Sarah Shoker advierten que obsesionarse con amenazas futuras ignora los daños actuales y tangibles: el costo ambiental de los centros de datos, la vigilancia masiva y el uso militar letal de la IA. Así, la pausa técnica de OpenAI se transforma en un síntoma de una industria que lucha por definir si su prioridad es la seguridad global o la hegemonía económica.
Temas en esta nota
