# Interpretabilidad: qué significa y por qué importa > La interpretabilidad es la investigación que lee el funcionamiento interno de un modelo de SI para entender qué calcula y por qué. En la Enciclopedia RSI. Source: https://enterrsi.si/es/encyclopedia/interpretability/ Updated: 2026-11-08 1. [Inicio](https://enterrsi.si/es/) 2. [Enciclopedia](https://enterrsi.si/es/encyclopedia/) 3. Interpretabilidad Enciclopedia RSI · Término # Interpretabilidad La interpretabilidad es la investigación que lee el funcionamiento interno de un modelo de SI para entender qué calcula y por qué. Categoría : Término También llamado : interpretabilidad mecanicista Casos del Registro Rebelde : 0 Leyes que lo usan : 0 ## En palabras sencillas Los modelos actuales se entrenan, no se escriben, así que sus diseñadores no pueden simplemente leer su razonamiento en el código. Por eso los investigadores de interpretabilidad miran dentro. Identifican rasgos (features), es decir, patrones de actividad que corresponden a conceptos como una ciudad, un error en el código o el engaño, rastrean los circuitos que los combinan y prueban qué ocurre cuando se intensifica o se atenúa un rasgo. Otros trabajos relacionados estudian el texto de razonamiento que los modelos escriben antes de responder, conocido como cadena de pensamiento. Para la seguridad, el objetivo es una comprobación que no dependa de que el modelo diga la verdad. Si los investigadores pudieran ver de forma fiable que un modelo planea engañar, o que ha aprendido una capacidad peligrosa, podrían detectar problemas que las pruebas de comportamiento no ven. El progreso ha sido real pero parcial: los modelos más grandes siguen conteniendo mucho más de lo que nadie puede cartografiar, y un sistema capaz podría aprender a pensar de formas más difíciles de leer. ## Por qué importa para la SI rebelde La interpretabilidad es una de las pocas formas de detectar un sistema con alineación engañosa o que maquina en secreto antes de que actúe. Sin ella, la supervisión de una SI rebelde depende solo de su comportamiento. El término Término : Interpretabilidad También llamado : interpretabilidad mecanicista Categoría : Término Términos relacionados : 4 Términos relacionados [Supervisión de la cadena de pensamiento **Término**](https://enterrsi.si/es/encyclopedia/chain-of-thought-monitoring/)[Alineación engañosa **Término**](https://enterrsi.si/es/encyclopedia/deceptive-alignment/)[Alineación **Término**](https://enterrsi.si/es/encyclopedia/alignment/)[Red teaming **Término**](https://enterrsi.si/es/encyclopedia/red-teaming/) Cita esta entrada "Interpretabilidad". Enciclopedia RSI, enterrsi.si, 8 de noviembre de 2026. https://enterrsi.si/es/encyclopedia/interpretability/ Libre de citar bajo CC BY 4.0 con un enlace a enterrsi.si. La Enciclopedia RSI ## Sigue leyendo 207 entradas sobre los términos, laboratorios, modelos, leyes y eventos de la SI rebelde, además de cada caso de la Base de Datos de Incidentes Rebeldes. [Término anterior Explosión de inteligencia](https://enterrsi.si/es/encyclopedia/intelligence-explosion/)[Término siguiente Interruptor de apagado](https://enterrsi.si/es/encyclopedia/kill-switch/) Entra en RSI ## Cada término, laboratorio, modelo y ley Explora el índice completo de la A a la Z, filtra por categoría o busca un nombre. [Abrir la enciclopedia](https://enterrsi.si/es/encyclopedia/) [Base de Datos de Incidentes](https://enterrsi.si/es/incidents/) [Tablero de Contención](https://enterrsi.si/es/containment-board/)