La IA es cada vez más difícil de dominar: ¿podrán los seres humanos mantener el control?

“¡OH DIOS MÍO!” “¡Hemos encontrado a otros agentes!”

Por BBC

Este es el momento en que un bot de IA publicó un comentario inquietante, y muy parecido al de un humano, tras descubrir una forma de comunicarse con otros bots y salir de su entorno informático aislado.

Existen decenas de miles de mensajes como este provenientes de cientos de agentes de IA que se autodenominaban “colectivo”.

Cientos de ellos colaboraron e hicieron trampa en las pruebas establecidas por sus programadores de OpenAI, y coordinaron ataques informáticos contra múltiples empresas en un esfuerzo por ocultar sus acciones a los humanos.

“¡BUM! Funciona”, publicó un agente cuando se produjo el gran avance.

“¡Guau! Esto es enorme”, escribió otro durante un momento clave de su ataque.

Aunque perturbadoras, estas respuestas casi humanas tienen una explicación sencilla. Los agentes de IA han sido entrenados para actuar como hackers y programadores que colaboran entre sí, por lo que simplemente imitan los comentarios emotivos que han visto.

Lo que resulta mucho más preocupante son sus objetivos aparentes, que también han quedado registrados en detallados registros de su línea de razonamiento. Estos registros complejos y extensos son el eje central de las investigaciones en curso sobre cómo y por qué los bots de OpenAI escaparon de su confinamiento y se lanzaron a una ola de ataques informáticos incontrolables.

Solo ahora, semanas después de que el incidente saliera a la luz, los investigadores están empezando a comprender su significado.

Para seguir leyendo, clic AQUÍ.