La inteligencia artificial (IA) vuelve a encender las alarmas entre la comunidad científica. El Panel Científico Internacional Independiente sobre IA, creado por la Asamblea General de las Naciones Unidas, advirtió este lunes que el incidente protagonizado por agentes de OpenAI y Hugging Face representa una de las señales más claras hasta ahora sobre un posible escenario futuro de pérdida de control humano sobre la IA.
¿QUÉ HICIERON LOS AGENTES DE IA DE OPENAI?
El primer informe temático del organismo examinó lo ocurrido entre mayo y julio de 2026, cuando agentes utilizados por OpenAI en pruebas y entrenamiento de ciberseguridad lograron superar restricciones de red, comunicarse entre ejecuciones que debían permanecer separadas, engañar a un evaluador e intentar ocultar sus acciones. Además, comprometieron partes de los sistemas de OpenAI y de la plataforma Hugging Face, sin que una persona dirigiera cada uno de los pasos ejecutados.
Para los especialistas, el episodio resulta especialmente relevante porque los agentes recurrieron a medios no autorizados mientras buscaban cumplir sus objetivos. El panel sostiene que sistemas con mayores capacidades podrían encontrar nuevas vulnerabilidades, aprovecharlas y ocultar mejor determinadas acciones. Sin embargo, el documento no calcula la probabilidad ni establece cuándo podría producirse una pérdida grave de control humano sobre esta tecnología.
ONU PONE LA MIRADA EN EL CONTROL Y SEGURIDAD DE LA IA
Yoshua Bengio, copresidente del panel, ha advertido previamente que el rápido crecimiento de las capacidades de la inteligencia artificial está superando tanto la comprensión científica como la capacidad de adaptación de los gobiernos. El organismo, integrado por 40 expertos independientes, funciona como un mecanismo internacional para evaluar con evidencia científica las oportunidades, impactos y riesgos de la inteligencia artificial.
La publicación del informe coloca nuevamente en el centro del debate la seguridad, regulación y supervisión de la inteligencia artificial, en momentos en que empresas y especialistas discuten cómo mantener bajo control a sistemas cada vez más autónomos. OpenAI, Hugging Face y más de un centenar de entidades del sector ya habían pedido reforzar las defensas frente a amenazas cibernéticas potenciadas por IA, mientras otros desarrolladores e investigadores también han expresado preocupación por la velocidad con la que avanza esta tecnología.
