El presidente de Microsoft pidió que los humanos gobiernen la IA y protejan las infraestructuras críticas

Durante semanas, los legisladores de Washington han debatido  sobre qué leyes aprobar para controlar la IA, incluso cuando  empresas grandes y pequeñas se han apresurado a introducir en el  mercado una IA cada vez más versátil.                 
En una entrada de blog publicada el jueves, Smith hizo  hincapié en la necesidad de rendir cuentas.      

          

‘Se trata de la necesidad fundamental de garantizar que las  máquinas sigan estando sujetas a la supervisión efectiva de las  personas y que las personas que diseñan y manejan las máquinas  sigan siendo responsables ante todos los demás. En resumen,  debemos asegurarnos siempre de que la IA permanece bajo control  humano‘, escribió.    

  Como parte de un plan de cinco puntos para la gobernanza  pública de la IA, Smith instó a prestar especial atención a la  red eléctrica, los sistemas de abastecimiento de agua y otras  infraestructuras críticas.

‘Nuevas leyes requeriría a los  operadores de estos sistemas a incorporar frenos de seguridad en  el diseño de los sistemas de IA de alto riesgo‘, escribió en el  blog.                 

Instó a utilizar un sistema del tipo ‘Conozca a su cliente‘  para que los desarrolladores de potentes modelos de IA controlen  cómo se utiliza su tecnología e informen al público de los  contenidos que crea la IA para que puedan identificar los videos  falsos.                 

La semana pasada, Sam Altman, presidente ejecutivo de  OpenAI, la startup que está detrás de ChatGPT, dijo a una  comisión del Senado, en su primera comparecencia ante el  Congreso, que el uso de la inteligencia artificial para  interferir en la integridad de las elecciones es un ‘importante  motivo de preocupación‘, y añadió que es necesario regularlo.                 

Altman, cuya OpenAI cuenta con el respaldo de Microsoft,  también pidió cooperación mundial en materia de IA e incentivos  para el cumplimiento de las normas de seguridad.                 

Algunas de las propuestas que se están estudiando en el  Capitolio se centrarían en la IA que puede poner en peligro la  vida o el sustento de las personas, como en medicina y finanzas.  Otros abogan por normas que garanticen que la IA no se utiliza  para discriminar o violar los derechos civiles.                 

Esta preocupación ha dado lugar a una serie de reuniones,  como la visita este mes a la Casa Blanca de los presidente  ejecutivos de OpenAI, Microsoft y Alphabet Inc, los  que se reunieron con el mandatario Joe Biden.