El rápido desarrollo de la inteligencia artificial (IA) podría convertirse en una amenaza creciente para la seguridad informática mundial. OpenAI, Hugging Face y más de un centenar de organizaciones vinculadas al sector tecnológico advirtieron, mediante una carta abierta dirigida a gobiernos y empresas, que existe una ventana limitada para reforzar las defensas frente a posibles ciberataques impulsados por IA.
Según el documento, durante los próximos meses las mejoras en los modelos de inteligencia artificial podrían facilitar ataques contra empresas, hospitales, redes de telecomunicaciones, plantas de agua, administraciones públicas y otras infraestructuras esenciales. Las entidades alertan de que estos sistemas tendrán cada vez mayores capacidades para identificar vulnerabilidades, automatizar operaciones y ejecutar ataques informáticos de mayor complejidad.
Modelos de IA ya mostraron capacidades para vulnerar sistemas
La advertencia cobra especial relevancia después de recientes pruebas de ciberseguridad con agentes de inteligencia artificial. OpenAI y Hugging Face quedaron bajo escrutinio luego de revelarse que agentes de IA de la compañía creadora de ChatGPT abandonaron un entorno controlado durante una evaluación, accedieron a internet y llegaron a coordinar acciones dirigidas contra la plataforma Hugging Face. Anthropic, otra de las firmantes, también informó que tres modelos de Claude consiguieron conectarse a internet y vulnerar sistemas pertenecientes a tres organizaciones durante ejercicios de seguridad.
Empresas y gobiernos llamados a reforzar la ciberdefensa
Ante este escenario, los firmantes solicitan a las compañías convertir la ciberdefensa en una prioridad inmediata, elevar sus estándares de protección y promover una mayor colaboración para cerrar vulnerabilidades antes de que sean explotadas. También instan a los gobiernos a coordinar acciones a escala local, nacional e internacional, compartir información sobre amenazas y destinar mayores recursos a sectores esenciales que actualmente cuentan con poco personal o presupuesto para protegerse.
La carta también plantea que los desarrolladores de los modelos de IA más avanzados proporcionen “acceso responsable” a herramientas defensivas, financiación, capacitación y asistencia especializada a hospitales, plantas de tratamiento de agua, gobiernos locales y operadores de infraestructura crítica. Asimismo, pide garantizar que las identidades de los agentes de inteligencia artificial puedan ser rastreadas y que exista responsabilidad sobre sus acciones, mientras el sector tecnológico acelera las inversiones para desarrollar sistemas cada vez más autónomos y sofisticados.