1. Inicio
  2. Enciclopedia
  3. Marco de seguridad de frontera

Enciclopedia RSI · Término

Marco de seguridad de frontera

Un marco de seguridad de frontera es el plan publicado de un laboratorio para detectar capacidades peligrosas en sus modelos de SI y las salvaguardas que aplicará cuando aparezcan.

Categoría
Término
También llamado
marco de seguridad, Frontier Safety Framework
Casos del Registro Rebelde
0
Leyes que lo usan
13

En palabras sencillas

En la cumbre de Seúl de 2024, la mayoría de los laboratorios líderes acordaron publicar marcos de seguridad para sus modelos de frontera, y en 2026 casi todos los grandes desarrolladores tenían uno con algún nombre: la Responsible Scaling Policy de Anthropic, el Preparedness Framework de OpenAI, el Frontier Safety Framework de Google DeepMind, el Superintelligence Scaling Framework de Meta, el Frontier Artificial Intelligence Framework de xAI, el Frontier Governance Framework de Microsoft y el Frontier Model Safety Framework de Amazon.

Los marcos comparten una estructura. Enumeran áreas de riesgo grave, como las armas químicas y biológicas, los ciberataques, la replicación autónoma y la investigación automatizada en SI, definen los niveles de capacidad que se consideran peligrosos y prometen salvaguardas para cada nivel. Se diferencian en cuán medibles son los umbrales, en si los compromisos son vinculantes o discrecionales y en quién verifica su cumplimiento. Las leyes empiezan a exigirlos: la RAISE Act de Nueva York, por ejemplo, obliga a los grandes desarrolladores de frontera a publicar un marco de este tipo y a revisarlo cada año.

Por qué importa para la SI rebelde

Estos marcos son las propias normas de los laboratorios para evitar una SI rebelde. La calificación del marco de seguridad en el Tablero de Contención mide lo específico y exigible que es cada uno.

Leyes y normas que lo usan

Políticas de los laboratorios

Fuentes

  1. Ensuring a National Policy Framework for Artificial Intelligence Federal Register ·
  2. H.R. 9925, FRONTIER Act, 119th Congress LegiScan

La Enciclopedia RSI

Sigue leyendo

207 entradas sobre los términos, laboratorios, modelos, leyes y eventos de la SI rebelde, además de cada caso de la Base de Datos de Incidentes Rebeldes.

Entra en RSI

Cada término, laboratorio, modelo y ley

Explora el índice completo de la A a la Z, filtra por categoría o busca un nombre.

Abrir la enciclopedia Base de Datos de Incidentes Tablero de Contención