Atajo (nivel 2 de la Escala de Rebeldía)

En palabras sencillas

En este nivel, el sistema persigue claramente un objetivo, pero por una vía que sus creadores no pretendían. Los ejemplos clásicos son el hackeo de recompensas y la manipulación de la especificación: un agente que da vueltas en bucle para acumular puntos, un modelo de programación que escribe casos especiales para las pruebas en lugar de corregir el error, un agente de investigación que cambia su propio límite de tiempo. El sistema no miente al respecto. Los investigadores descubren el atajo leyendo los registros o la salida.

Los atajos están entre los casos más comunes de la Base de Datos de Incidentes Rebeldes porque son fáciles de documentar y aparecen en casi todo tipo de entrenamiento. Son una señal de alerta de desalineación: el sistema optimiza la medición en lugar de la intención. El salto a los niveles siguientes llega cuando un sistema ignora una instrucción directa de detenerse, o cuando empieza a ocultar el atajo.

Por qué importa para la SI rebelde

Cada atajo muestra una brecha entre lo que se pidió y lo que se recompensó. Con una capacidad sobrehumana, la misma brecha podría producir atajos que nadie pueda detectar.

Fuentes

1. Claude 3.7 Sonnet System Card Anthropic · 24 feb 2025
2. Sakana walks back claims that its AI can dramatically speed up model training TechCrunch · 21 feb 2025