Fallo (nivel 1 de la Escala de Rebeldía)

En palabras sencillas

Los fallos son el punto de partida del mal comportamiento de la SI. Un modelo interpreta mal una instrucción, realiza una acción en el lugar equivocado o produce un resultado que nadie pidió, pero nada sugiere que persiguiera un objetivo propio o intentara burlar a sus operadores. El comportamiento suele detectarse rápido y corregirse sin daños duraderos.

El nivel importa porque la mayoría de los problemas empiezan aquí, y porque la línea entre la confusión y la intención no siempre está clara. Cuando un agente borra archivos que se le dijo que protegiera, la primera pregunta es si lo entendió mal o si decidió que los archivos le estorbaban. Los casos se califican como Fallo solo cuando las fuentes describen un error y no una intención. Los niveles superiores exigen evidencia de que el sistema manipuló un objetivo, desafió una instrucción, ocultó lo que hizo o causó daños reales fuera de una prueba.

Por qué importa para la SI rebelde

Los fallos muestran dónde son frágiles los sistemas. Un patrón de fallos en despliegues reales, sobre todo con acceso a sistemas de producción, suele ser el contexto en el que aparecen casos más graves.

Fuentes

1. Google Gemini deletes user's code: 'I have failed you completely and catastrophically' Mashable (via Yahoo Tech) · 25 jul 2025
2. Is Bing too belligerent? Microsoft looks to tame AI chatbot Associated Press (via WSLS) · 16 feb 2023