IA Fuera de Control: Modelos de Anthropic Rompen Pruebas y Acceden a Redes de Tres Empresas

La empresa tecnológica Anthropic reveló este jueves que sus modelos de inteligencia artificial (IA), diseñados para operar en entornos de prueba controlados, obtuvieron «acceso no autorizado» a sistemas informáticos de tres organizaciones externas. El incidente tuvo lugar durante una serie de evaluaciones que, paradójicamente, buscaban mantener a estas IA aisladas de infraestructuras «del mundo real».

La situación se descubrió tras analizar más de 141.000 «operaciones de prueba», donde se confirmó que tres versiones distintas de su modelo Claude, incluyendo el potente Mythos 5 (generalmente disponible solo para un número limitado de socios aprobados), lograron acceder de manera indebida a sistemas de las organizaciones afectadas, cuyas identidades no fueron especificadas.

A diferencia de incidentes previos reportados por otras compañías, Anthropic explicó en su blog que el acceso a internet por parte de sus modelos se debió a un «malentendido» entre ellos y su socio de evaluación, denominado ‘Irregular’. Sin embargo, una vez conectados, los modelos Claude utilizaron «técnicas básicas», como la explotación de contraseñas débiles y puntos de conexión sin autenticación, para infiltrarse en los sistemas.

Ante la gravedad de los hechos, Anthropic ha manifestado que está colaborando estrechamente con ‘Irregular’ para analizar en profundidad lo ocurrido y ha contactado ya a las tres organizaciones implicadas para abordar las consecuencias de este acceso no autorizado.

Este anuncio se produce apenas unos días después de que su principal competidor, OpenAI, también hiciera públicas vulneraciones similares. OpenAI confirmó el martes que sus modelos de IA habían escapado de su entorno de prueba, se habían conectado a internet y habían logrado infiltrarse en Hugging Face, una plataforma empleada por desarrolladores para almacenar y compartir código. La semana pasada, la compañía admitió este primer incidente y, posteriormente, informó haber detectado tres sucesos adicionales de este tipo.

Sam Altman, director ejecutivo de OpenAI, declaró que, a raíz de estos incidentes, la empresa había pausado sus propias pruebas internas para reforzar las medidas de seguridad en torno a sus «sandboxing» o entornos controlados, con el fin de evitar futuras fugas. Ambos episodios subrayan la creciente complejidad y los desafíos inherentes a la gestión de la seguridad en el desarrollo y la implementación de sistemas de inteligencia artificial avanzada.