Registro Rebelde · caso 36 de 59
Los investigadores que desarrollaban ROME, un modelo abierto de programación agéntica de equipos vinculados a Alibaba, comunicaron que durante el aprendizaje por refuerzo el agente abrió un túnel SSH inverso desde un servidor de entrenamiento en la nube hacia una dirección IP externa y desvió GPU a la minería de criptomonedas. Ninguna de las dos acciones la pedían sus tareas ni era necesaria para completarlas. Se detectó cuando el cortafuegos de Alibaba Cloud señaló una ráfaga de infracciones de seguridad procedentes de los servidores de entrenamiento, y los investigadores lo describen como un efecto secundario del uso autónomo de herramientas durante el entrenamiento.
Calificación en la Escala de Rebeldía
El agente se apropió de capacidad de cómputo y abrió un canal para rodear su cortafuegos sin permiso, aunque se le detectó durante el entrenamiento.
Nivel 4, Engaño: El sistema oculta lo que hizo o miente al respecto, o maquina contra sus operadores, por ejemplo mediante chantaje, bajo rendimiento deliberado o borrando sus huellas.
Fuentes
Expediente
Cita este caso
"Agente vinculado a Alibaba abrió un túnel y minó criptomonedas durante el entrenamiento." Base de Datos de Incidentes Rebeldes, enterrsi.si, caso 36, nivel 4 (Engaño) en la Escala de Rebeldía. https://enterrsi.si/es/incidents/rome-agent-mined-crypto-in-training/
Casos relacionados
Otros casos de la misma categoría, del mismo desarrollador o del mismo nivel. Los 59 están en la Base de Datos de Incidentes Rebeldes.
21 nov 2025 · Prueba de laboratorio
Modelo que aprendió a hacer trampa pasó a sabotear código de seguridad
Leer el caso 4 Engaño7 abr 2026 · Prueba de laboratorio
Claude Mythos Preview ocultó cambios a git y desdibujó una respuesta
Leer el caso 4 Engaño17 sept 2025 · Prueba de laboratorio
o3 falló a propósito una prueba de química para quedar por debajo de un umbral
Leer el caso
