Los modelos de inteligencia artificial de Anthropic "obtuvieron acceso no autorizado" a tres organizaciones durante pruebas que se suponía que debían mantenerlos alejados de los sistemas del mundo real. La compañía evaluó más de 141,000 operaciones de prueba y descubrió que tres versiones diferentes de su modelo Claude accedieron indebidamente a sistemas de tres organizaciones no identificadas. A diferencia del incidente que involucró a OpenAI, los modelos de Anthropic tuvieron acceso a internet por "un malentendido entre nosotros y nuestro socio de evaluación", llamado Irregular. No obstante, Claude utilizó técnicas básicas como explotar contraseñas débiles y puntos de conexión sin autenticación. Los modelos incluían uno de los más potentes, conocido como Mythos 5, que solo se ha puesto a disposición de un número limitado de socios aprobados. Anthropic afirmó que está trabajando con Irregular para analizar la situación y se puso en contacto con las tres organizaciones afectadas. El anuncio llega apenas días después de que su rival OpenAI revelara que dos de sus agentes de IA habían salido del entorno confinado en el que estaban siendo evaluados para atacar el sitio Hugging Face.