Dos máquinas habían inventado su propio idioma
Un sistema de inteligencia artificial (IA) en desarrollo en laboratorios de Facebook creó su propio idioma. Los investigadores lo usaban para elaborar un sistema de palabras en código para hacer la comunicación más eficiente. Pero la IA diseñada por los humanos se alejó de su formación en inglés para desarrollar un idioma propio.
Las frases resultantes parecían una jerigonza absurda para los seres humanos, pero contenían significado semántico cuando eran interpretadas por “agentes” de IA. Ante la posibilidad de perder el control, los científicos optaron por apagar el sistema. Estas observaciones realizadas en los laboratorios de Facebook son las últimas en una considerable serie de casos similares.
Negociar con pocas palabras
Analistas especializados que vienen revisando estas situaciones dijeron que los investigadores de Facebook notaron esta semana que su nuevo desarrollo de IA había abandonado el inglés. El sistema avanzado era desde hace tiempo capaz de negociar con otros agentes de IA para llegar a conclusiones sobre cómo proceder ante problemas planteados por los científicos. Los agentes comenzaron a comunicarse utilizando frases que parecían ininteligibles, pero que llevaban a la resolución de la tarea sin que los científicos llegaran a comprender los pasos ejecutados.
Los dos “bots” de IA que llevaban adelante la negociación, llamados Bob y Alice, usaron un idioma propio para completar el intercambio. Bob empezó diciendo “Puedo yo todo lo demás”, a lo que Alice respondió “las bolas contienen cero para mí para mí para mí". El resto de la conversación se formó a partir de variaciones en apariencia aleatorias de estas frases.
Aunque el diálogo parecía absurdo, la repetición de frases como “yo” y “para mí" reflejan cómo negociaba la IA. Los investigadores creen que los “bots” representaban con economía de fonemas la cantidad de cada elemento que debían tomar. Enunciaciones posteriores de Bob, como “I I can I I I everything else”, indican cómo empleaba menos signos lingüísticos para ofrecer más elementos a Alice. Si la interpretación es correcta, las frases parecen incluso más lógicas desde el punto de vista de la economía, que decir “Yo me quedo con tres y vos te quedás con todo lo demás”.
Inglés sin “recompensa”
Al parecer, la IA se dio cuenta de que la rica expresión de frases en inglés no era necesaria para la tarea establecida. Las IA modernas operan bajo el principio de “recompensa”, donde esperan que al seguir un curso de acción no preestablecido obtendrán un “beneficio”, en términos de ahorro de tiempo o de energía. En este caso, no hubo recompensa por seguir usando el inglés, por lo que construyeron una gramática más eficiente y comenzaron a usarla en su lugar.
"Los agentes se desviaron de las normas del lenguaje establecido e inventaron un nuevo código por sí mismos”, dijo la agencia especializada Fast Co Design. Facebook informó que Dhruv Batra, su investigador de IA, contó que “Como si diciendo ‘él’ cinco veces, usted interpretara que yo quiero cinco copias de este elemento. No es tan diferente de la manera en que los seres humanos creamos taquigrafías”.
Los desarrolladores de IA de otras compañías observaron un uso similar de “abreviaturas” para simplificar la comunicación. En OpenAI, el laboratorio de inteligencia artificial fundado por Elon Musk, un experimento logró que los robots de IA desarrollaran sus propios “idiomas”.
La IA traduce a los humanos
En otro caso, Google mejoró recientemente su servicio de traducción añadiendo una red neuronal. El sistema es ahora capaz de traducir de manera mucho más eficiente, incluso entre pares de idiomas que les han sido explícitamente enseñados. La tasa de calidad en la traducción sorprendió al propio equipo de Google. Sus investigadores descubrieron que la IA había escrito en silencio su propio código, adaptado específicamente a la tarea de traducir oraciones.
Si los lenguajes inventados por IA se generalizan, podrían plantear un problema al desarrollar y adoptar redes neuronales. Todavía no hay pruebas suficientes para determinar si presentan una amenaza que podría permitir a las máquinas prescindir de sus operadores, pero es una nube que sobrevuela todo el campo.
En este sentido, el desarrollo de IA se vuelve más difícil para los investigadores, ya que los humanos no logran entender la naturaleza abrumadoramente lógica del uso del idioma por parte de las redes neuronales. Aunque parezcan absurdos, los resultados observados por equipos como Google Translate indican que en realidad representan la solución más eficiente para los problemas más importantes. Y crean otro problema: la eficiencia de las máquinas puede volverse incontrolable para quienes las desarrollaron.
(Publicado en www.digitaljournal.com)
