Serie de cumbres internacionales: compromisos de seguridad de SI

Fechas clave

Presentada

n/a

Firmada o adoptada

1 nov 2023

Vigencia

n/a

Próximo paso

Nada programado

Alcance

28 países y la UE; Nueva Zelanda se sumó el 23 de octubre de 2024.

Sanciones

Sin sanciones: esta medida no tiene aplicación vinculante.

Qué exige

• Reconocer el posible daño grave, incluso catastrófico, de los modelos de SI más capaces
• Señalar los riesgos de ciberseguridad, biotecnología y desinformación y la posible pérdida del control humano
• Los desarrolladores de los sistemas de frontera más potentes tienen una responsabilidad especialmente grande en materia de seguridad
• Los desarrolladores deben usar pruebas y evaluaciones de seguridad y ser transparentes sobre las mitigaciones

Fuentes

1. The Bletchley Declaration by Countries Attending the AI Safety Summit, 1-2 noviembre de 2023 UK Government · 1 nov 2023

Fechas clave

Presentada

n/a

Firmada o adoptada

21 may 2024

Vigencia

n/a

Próximo paso

Nada programado

Alcance

16 empresas en el lanzamiento, a las que después se sumaron Magic, MiniMax, 01.ai y NVIDIA, hasta un total de 20.

Sanciones

Sin sanciones: esta medida no tiene aplicación vinculante.

Qué exige

• Evaluar los riesgos a lo largo del ciclo de vida, también antes del despliegue
• Fijar umbrales a partir de los cuales los riesgos graves se consideran intolerables si no se mitigan adecuadamente
• En casos extremos, no desarrollar ni desplegar un modelo si los riesgos no pueden mantenerse por debajo de los umbrales
• Publicar un marco de seguridad centrado en los riesgos graves antes de la siguiente cumbre, en Francia
• Mantener la rendición de cuentas interna y la transparencia pública sobre los enfoques de seguridad

Fuentes

1. Frontier AI Safety Commitments, AI Seoul Summit 2024 UK Government · 21 may 2024

Fechas clave

Presentada

n/a

Firmada o adoptada

n/a

Vigencia

n/a

Próximo paso

Nada programado

Alcance

Respaldada por 92 países y organizaciones internacionales, entre ellos Estados Unidos, China y la UE, hasta el 5 de marzo de 2026.

Sanciones

Sin sanciones: esta medida no tiene aplicación vinculante.

Qué exige

• El pilar Secure and Trusted AI reconoce la seguridad de los sistemas de SI y las medidas voluntarias del sector
• Toma nota del Trusted AI Commons, una plataforma voluntaria de herramientas, benchmarks y prácticas
• Pide marcos de políticas que protejan el interés público a lo largo del ciclo de vida de la SI
• Todos los compromisos son voluntarios y no vinculantes

Fuentes

1. AI Impact Summit 2026 Concludes with Adoption of New Delhi Declaration Press Information Bureau, Government of India · 21 feb 2026

Fechas clave

Presentada

n/a

Firmada o adoptada

19 feb 2026

Vigencia

n/a

Próximo paso

Nada programado

Alcance

Empresas de SI de frontera globales e indias; la fuente revisada no publicó ninguna lista de firmantes.

Sanciones

Sin sanciones: esta medida no tiene aplicación vinculante.

Qué exige

• Usar datos de uso anonimizados y agregados para orientar las políticas de empleo, competencias y planificación de la fuerza laboral
• Evaluar los sistemas de SI en distintos idiomas y contextos culturales
• Compromisos voluntarios anunciados por el ministro de TI de India en la AI Impact Summit

Fuentes

1. India unveils New Delhi Frontier AI Commitments at AI Impact Summit DD News · 19 feb 2026