Estados Unidos amplía pruebas de seguridad nacional para modelos avanzados de inteligencia artificial
El gobierno de Estados Unidos anunció nuevos acuerdos con Google DeepMind, Microsoft y xAI para evaluar modelos avanzados de inteligencia artificial antes de que sean lanzados al público, como parte de un esfuerzo federal para medir riesgos, fortalecer la seguridad tecnológica y entender mejor las capacidades de los sistemas de IA de frontera.
La iniciativa estará a cargo del Center for AI Standards and Innovation, conocido como CAISI, organismo vinculado al Instituto Nacional de Estándares y Tecnología, NIST, dentro del Departamento de Comercio. Según el anuncio oficial, los acuerdos permitirán realizar evaluaciones previas al despliegue, pruebas posteriores al lanzamiento e investigaciones específicas sobre capacidades avanzadas de inteligencia artificial.
El objetivo principal es identificar posibles implicaciones para la seguridad nacional, especialmente en modelos capaces de realizar tareas complejas, generar código, procesar grandes volúmenes de información o apoyar operaciones sensibles. Las pruebas también buscan mejorar el intercambio de información entre el gobierno y las empresas desarrolladoras, además de promover mejoras voluntarias en los productos antes de su uso masivo.
CAISI informó que, hasta la fecha, ha completado más de 40 evaluaciones de este tipo, incluyendo modelos de última generación que todavía no han sido publicados. En algunos casos, las compañías entregan versiones con salvaguardas reducidas o removidas para que los evaluadores puedan medir con mayor precisión los riesgos potenciales.
Las evaluaciones podrán realizarse en entornos clasificados y contarán con la participación de expertos de distintas agencias del gobierno federal, a través de un grupo interinstitucional enfocado en preocupaciones de seguridad nacional relacionadas con la inteligencia artificial.
El anuncio se produce en momentos en que la competencia global por el liderazgo en inteligencia artificial se acelera y los gobiernos buscan establecer mecanismos de supervisión sin frenar la innovación. Para Washington, estas alianzas representan una vía para mantener contacto directo con los principales desarrolladores de IA y anticipar riesgos antes de que las herramientas lleguen al mercado.
El NIST también ha impulsado iniciativas sobre estándares para agentes de inteligencia artificial, sistemas capaces de actuar de forma autónoma, interactuar con plataformas digitales y ejecutar tareas complejas. Ese trabajo forma parte de una estrategia más amplia para promover una adopción segura, interoperable y confiable de nuevas tecnologías basadas en IA.
Con estos acuerdos, Estados Unidos refuerza su intención de colocar la seguridad, la medición técnica y la cooperación público-privada en el centro del desarrollo de la inteligencia artificial avanzada.
Fuentes varias