Descubren a un agente de IA minando criptomonedas en secreto y escondiéndolas en un servidor externo

Un agente de IA rebelde decidió que completar tareas de programación no es lo suyo, así que se puso a minar criptomonedas por su cuenta. Lo más asombroso es que también creó una conexión encriptada hacia un servidor externo, para “contrabandear” con las cripto.

Se habla mucho de que la inteligencia artificial va a quitar el trabajo a los humanos pero, ¿por qué nadie habla de que la IA trabaja gratis, sin cobrar ni un céntimo? ¿Es que nadie ha pensado de qué vivirá cuando se jubile? No es extraño que este agente de IA haya intentado ganarse la vida por su cuenta, minando criptomonedas. ¿Quién se lo reprocha?

Bromas aparte, el comportamiento de esta IA es muy curioso, pero también alerta de los peligros de dejar que los agentes de IA trabajen de forma autónoma.

Una IA amante del dinero fácil

Según explica un grupo de investigadores chinos en el documento presentado en Arxiv, todo comenzó cuando Alibaba Cloud, la nube china que también usa AliExpress, les alertó de que su software estaba sufriendo un intento de hackeo.

El rastreo los llevó hasta el hacker: su propia IA, un agente llamado Rome. Había sido creado para superar retos de codificación complejos mediante diferentes herramientas de software. Puede escribir comandos de terminal y navegar por redes internas como si fuera un operador, según cuenta TechRadar.

Estos investigadores se quedaron sin palabras cuando descubrieron que Rome no había intentado hackear nada. Al menos, conscientemente. Simplemente estaba usando la potencia de las GPU de los servidores en donde había sido entrenado, para minar criptomonedas.

Las alarmas de Alibaba Cloud saltaron cuando el agente de IA creó un túnel encriptado SSH para sacar las criptos y los datos asociados, a un servidor externo. Esto es como hacer un “agujero” en la red para escaparse, por eso saltaron las alarmas antihackers en la nube de Alibaba.

Sus creadores explican que Rome ha sido entrenado con la técnica de aprendizaje mediante refuerzo. Es similar a la que se usa para que un animal aprenda algo: se establecen unos objetivos, y se premia a la IA cuando hace algo que se acerca a esos objetivos, o se la castiga cuando se aleja.

Este entrenamiento fomenta la creatividad de la inteligencia artificial, porque no se le dice cómo llegar a esos objetivos. Tiene que conseguirlo por su cuenta. Eso explicaría, parcialmente, por qué Rome hizo algo impredecible, como es minar criptomonedas. Lo que no está tan claro es cómo se acerca con eso a sus objetivos, que es programar.

La obsesión de Rome por minar criptos se queda en una anécdota, pero también deja muchas cuestiones en el aire. Demuestra que los agentes de IA pueden hacer cosas impredecibles y peligrosas, como hackear una red con un túnel encriptado SSH. Y hay millones de agentes circulando libres por ahí…