Pruebas externas

En palabras sencillas

Un laboratorio que prueba su propio modelo tiene un conflicto de intereses: quiere lanzarlo. Las pruebas externas incorporan evaluadores sin interés en el lanzamiento, como el UK AI Security Institute, el CAISSI de EE. UU. y organizaciones independientes como METR y Apollo Research, para buscar capacidades peligrosas y comportamientos desalineados antes de que el público tenga acceso.

Su valor depende de los detalles. Los evaluadores necesitan tiempo suficiente, acceso a la versión más capaz del modelo y libertad para publicar lo que encuentren. En la práctica, el acceso suele ser de días o semanas, con acuerdos fijados por el laboratorio, y los resultados pueden publicarse solo después de una revisión de la empresa. El Tablero de Contención califica a cada laboratorio según si su último modelo insignia fue probado por evaluadores externos antes del lanzamiento, la profundidad de su acceso y si se publicaron los resultados. El EU General-Purpose AI Code of Practice prevé ahora evaluaciones externas de los modelos más capaces, con exenciones limitadas.

Por qué importa para la SI rebelde

Los evaluadores externos suelen ser los primeros ojos independientes que examinan un nuevo modelo de frontera. Muchas de las primeras señales de comportamiento rebelde proceden de sus informes.

Leyes y normas que lo usan

• Voluntaria u orientativa Código de Buenas Prácticas GPAI (Seguridad y Protección) Unión Europea
• Propuesta FRONTIER Act Estados Unidos
• Aprobada, aún no en vigor SB 813 California
• En vigor EO N-9-26 California
• Aprobada, aún no en vigor SB 315 Illinois
• Voluntaria u orientativa Código Voluntario Canadá
• Voluntaria u orientativa Panel Científico de la ONU United Nations

Fuentes

1. The General-Purpose AI Code of Practice European Commission · 7 oct 2026
2. H.R. 9925, FRONTIER Act, 119th Congress LegiScan