Los riesgos de la inteligencia artificial
Los modelos avanzados de inteligencia artificial se han convertido, en poco tiempo, en una de las tecnologías con mayor capacidad para transformar la sociedad. Sus avances prometen beneficios importantes en ámbitos como la medicina, la educación, la ciencia y la productividad. Sin embargo, cuanto mayores son sus capacidades, también aumentan los riesgos asociados con su desarrollo y utilización. En ese sentido, las recientes advertencias de Dario Amodei, director ejecutivo y cofundador de Anthropic, encendieron las alarmas porque plantean una pregunta fundamental sobre el futuro de esta tecnología, sobre quién debe controlar su desarrollo y bajo qué condiciones.
Durante una entrevista con el programa de televisión estadounidense Sunday Morning de CBS, que se emitió el domingo, Amodei reconoció que existen peligros reales relacionados con la inteligencia artificial y sostuvo que durante demasiado tiempo parte de la industria ocultó esos riesgos a la sociedad. Según su planteo, el problema no consiste en que la inteligencia artificial sea necesariamente perjudicial, sino en que una tecnología tan poderosa puede producir consecuencias graves si avanza más rápido que los mecanismos destinados a garantizar su seguridad. Por ello, consideró necesario reducir el ritmo de desarrollo de los modelos más avanzados y establecer controles que permitan comprender mejor sus capacidades antes de ampliar su utilización.
Entre los riesgos señalados por Amodei aparecen algunos muy preocupantes. La inteligencia artificial –dijo- podría facilitar ciberataques cada vez más sofisticados, contribuir al desarrollo de armas biológicas o permitir que sistemas autónomos realicen acciones que sus creadores no habían previsto. Además, advirtió, su expansión podría provocar una profunda disrupción económica al modificar rápidamente determinadas actividades laborales. Pero eso no es todo. A esto sumó una preocupación todavía más compleja, relacionada con la posibilidad de perder el control sobre sistemas que tengan capacidades muy superiores a las actuales.
No obstante, Amodei rechazó la idea de prohibir completamente la inteligencia artificial. En su opinión, hacerlo significaría renunciar a beneficios potencialmente extraordinarios, entre ellos avances médicos capaces de contribuir al descubrimiento de nuevos tratamientos. Además, observó que una prohibición unilateral no impediría que otros países continuaran desarrollando la tecnología.
Amodei propuso que empresas privadas, gobiernos democráticos y evaluadores externos participen en un sistema conjunto de supervisión. La incorporación de organismos independientes permitiría auditar el entrenamiento y el funcionamiento de los modelos, comprobar el cumplimiento de estándares de seguridad y detectar posibles riesgos antes de que estos se conviertan en problemas difíciles de controlar. Asimismo, planteó la posibilidad de establecer límites al ritmo con el que se lanzan nuevos modelos cuando las medidas de protección no evolucionen al mismo nivel.
Esta propuesta cobra mayor importancia a partir de las recientes declaraciones del investigador Jacob Coxon, quien trabajó tanto para Anthropic como para OpenAI. Coxon sostuvo que las grandes compañías dedicadas al desarrollo de inteligencia artificial están demasiado concentradas en superarse entre sí y que esa competencia puede desplazar las prioridades relacionadas con la seguridad. Su advertencia apunta directamente a uno de los principales problemas del sector, puesto que la competencia económica genera incentivos para desarrollar modelos cada vez más capaces y lanzarlos rápidamente al mercado.
Si cada compañía decide por sí misma qué riesgos acepta y qué controles considera suficientes, existe la posibilidad de que la presión competitiva termine favoreciendo decisiones demasiado arriesgadas. Por esta razón, resulta necesario establecer reglas comunes, mecanismos de auditoría y responsabilidades claramente definidas. Al mismo tiempo, esas normas deberían ser suficientemente flexibles para permitir la investigación y la innovación, pero lo bastante firmes para impedir que los beneficios económicos se impongan sobre la seguridad de los países.
Algunos riesgos, como el uso de la inteligencia artificial para facilitar ataques informáticos o desarrollar armas biológicas, no pueden ser contenidos eficazmente por un solo país. En consecuencia, los gobiernos deberían buscar acuerdos que establezcan límites verificables para determinados usos de la tecnología, incluso cuando existan fuertes rivalidades políticas y económicas.
Las advertencias de Amodei y Coxon muestran que incluso dentro de la propia industria existen preocupaciones sobre la velocidad y las condiciones del desarrollo actual. Por ello, la sociedad necesita participar en las decisiones que determinarán cómo se utiliza esta tecnología. La inteligencia artificial puede generar beneficios extraordinarios, es verdad, pero para alcanzarlos sin asumir riesgos innecesarios será imprescindible que la innovación avance acompañada de controles, transparencia, supervisión independiente y, sobre todo, responsabilidad pública.
