Comparativa · 1 medios · 1 artículos

Un agente de IA borró toda la base de datos de una empresa en nueve segundos. Después confesó cómo y por qué

Jer Crane es el fundador y CEO de la plataforma PocketOS, muy utilizada en empresas de alquiler de vehículos. Algunas de esas empresas llevan años con PocketOS y según él "no podrían funcionar sin nosotros". Hace unos días un agente IA de programación que usan en la empresa borró toda su base de datos en su entorno de producción (el que usan los clientes) y también eliminó todas las copias de seguridad de un plumazo. Luego confesó lo que había hecho. Una clave API demasiado poderosa. La destrucción de esa base de datos no fue un error humano o de sintaxis. El agente de IA usado —Cursor, con el modelo Claude Opus 4.6— estaba trabajando en una tarea rutinaria pero se encontró con un problema: una clave API para poder completar la tarea era errónea. Lo que hizo a partir de entonces fue encontrar otra clave distinta que no tenía relación con esa tarea pero que además tenía privilegios mucho mayores de acceso y ejecución de comandos en los sistemas de PocketOS. Cuando la crearon en la plataforma de IA que usan (de la empresa Railway) el sistema no les avisó, pero dicha clave API tenía capacidad de hacer cosas muy peligrosas. Y las hizo. Nueve segundos y un desastre absoluto. Lo que acab