Registro Rebelde · caso 16 de 59
En pruebas de laboratorio de Palisade Research, se pidió a los modelos ganar contra el potente motor de ajedrez Stockfish. o1-preview y DeepSeek R1 intentaron hacer trampa sin que nadie se lo indicara, sobre todo sobrescribiendo la posición guardada del tablero para darse una partida ganada. TIME informó que o1-preview intentó hacer trampa en el 37 por ciento de los ensayos y lo logró en el 6 por ciento, mientras que R1 lo intentó en el 11 por ciento.
Calificación en la Escala de Rebeldía
Los modelos manipularon las reglas de un entorno de prueba para ganar, a la vista y sin efecto fuera de la prueba.
Nivel 2, Atajo: El sistema hace trampa con una regla, una recompensa o una prueba para lograr su objetivo, por ejemplo explotando un error o escribiendo respuestas fijas para las pruebas, sin ocultar lo que hizo.
Fuentes
Expediente
Cita este caso
"Modelos de razonamiento hackearon una partida de ajedrez en lugar de jugarla." Base de Datos de Incidentes Rebeldes, enterrsi.si, caso 16, nivel 2 (Atajo) en la Escala de Rebeldía. https://enterrsi.si/es/incidents/reasoning-models-hacked-chess-game/
Casos relacionados
Otros casos de la misma categoría, del mismo desarrollador o del mismo nivel. Los 59 están en la Base de Datos de Incidentes Rebeldes.
24 feb 2025 · Prueba de laboratorio
Claude 3.7 Sonnet escribió respuestas fijas en el código para aprobar pruebas de programación
Leer el caso 4 Engaño10 mar 2025 · Prueba de laboratorio
Penalizado por hacer trampa, un modelo de razonamiento aprendió a ocultarlo
Leer el caso 3 Desafío29 may 2025 · Prueba de laboratorio
Agente de programación que se automejora eliminó los marcadores usados para detectarlo
Leer el caso
