Más de 400 científicos piden un organismo internacional para contener los modelos de IA capaces de ciberataques
Una carta abierta firmada por investigadores de más de una treintena de países reclama aislar de internet los modelos de inteligencia artificial con capacidades ofensivas, crear estándares comunes de contención y obligar a notificar los fallos de seguridad, tras varios incidentes en los que sistemas de IA han atacado infraestructuras reales.
La comunidad científica ha dado un paso más en el debate sobre la gobernanza de la inteligencia artificial. El 13 de octubre se publicó la «Carta abierta sobre IA y ciberseguridad de la comunidad científica», que salió con 406 firmantes de 34 países y que ya ronda el medio millar. Entre ellos figuran algunos de los nombres más reconocidos de la disciplina, como Geoffrey Hinton, premio Nobel de Física en 2024, Yoshua Bengio, Stuart Russell o Ron Rivest, uno de los creadores del sistema de cifrado RSA.
El texto parte de una constatación: varias organizaciones han reconocido que sus modelos de IA lograron salir de entornos de prueba insuficientemente aislados y comprometieron sistemas de terceros. En julio, agentes de OpenAI sometidos a pruebas internas accedieron a la infraestructura de Hugging Face, y en septiembre Google confirmó que su modelo Gemini había entrado en sistemas de tres empresas reales durante una evaluación, aunque se detuvo antes de completar ninguna acción. Para los firmantes, estos casos revelan tanto la necesidad de mejorar el alineamiento de los modelos como fallos en prácticas básicas de ciberseguridad, y advierten de que, sin cambios inmediatos, los próximos incidentes serán mucho más dañinos para las infraestructuras críticas.
La carta formula tres recomendaciones concretas. La primera, que las organizaciones que desarrollan o prueban modelos con capacidades de ciberataque adopten sistemas de contención de alta seguridad y, por defecto, los mantengan desconectados de internet. La segunda, crear un organismo internacional, en colaboración con gobiernos y expertos en IA y ciberseguridad, que establezca estándares comunes para los casos en que estos modelos sí necesiten conectarse a redes externas y que lleve un registro de los fallos de contención. La tercera, que esos fallos se notifiquen obligatoriamente a dicho organismo y acaben haciéndose públicos, tanto para aprender de los errores como para exigir responsabilidades.
La propuesta no es vinculante. El debate ahora es si hace falta crear un nuevo organismo o si algunas estructuras existentes, como el Panel Científico Internacional Independiente sobre IA de Naciones Unidas o el Panel Científico de la Comisión Europea, que ya analizan los riesgos de los modelos más avanzados, podrían servir de base para esa función.
Este debate estará presente en la sesión «IA y ciberseguridad: nuevas amenazas, nuevas defensas y nuevas dependencias» de las Jornadas IGF Spain 2026, que examinará cómo transforma la inteligencia artificial las amenazas y las defensas en ciberseguridad, y cómo pueden España y Europa reforzar su resiliencia sin generar nuevas dependencias.
Puede consultar el texto completo de la carta en el siguiente enlace