La inteligencia artificial podría ingresar a una etapa crítica “el próximo año”, según la advertencia de Jacob Coxon, investigador que renunció a Anthropic después de trabajar en seguridad de modelos avanzados. Durante entrevistas con medios estadounidenses, el especialista puso una fecha aproximada al momento en que esta tecnología podría volverse mucho más peligrosa: cuando los sistemas sean capaces de mejorarse a sí mismos sin depender completamente de los humanos.
Coxon aclaró que los modelos actuales de inteligencia artificial no tienen la capacidad para provocar una extinción humana. “Lo peor que pueden hacer es hackear algo. No son lo bastante inteligentes como para superarnos al nivel que llevaría a una extinción”, explicó. Sin embargo, sostuvo que el panorama podría cambiar con las próximas generaciones de sistemas.
Según el investigador, el riesgo comenzará cuando una IA pueda analizar su propio código, modificarlo, aumentar sus capacidades y repetir ese proceso cada vez más rápido. “Esto es extrapolar a un año de ahora. Los modelos empiezan a ponerse muy peligrosos”, afirmó, aunque reconoció que otros especialistas consideran posible que ese escenario ocurra incluso antes, mientras algunos proyectan un plazo de dos o tres años.
La señal que encendería la alarma
Para Coxon, la principal señal que debería preocupar a la sociedad es comprobar si una inteligencia artificial puede volverse más inteligente sin ayuda humana. El investigador explicó que una máquina con esa capacidad podría acelerar su desarrollo hasta alcanzar niveles difíciles de controlar.
El especialista planteó escenarios en los que una IA conectada a herramientas externas podría pasar del mundo digital al físico. Entre sus ejemplos mencionó sistemas vinculados con laboratorios, robots, infraestructura crítica o plataformas de comunicación, lo que podría ampliar los riesgos de ataques informáticos, manipulación o creación de tecnologías peligrosas.
La preocupación también fue compartida por Evan Hubinger, investigador de Anthropic, quien señaló que el riesgo asociado a los modelos actuales es bajo, pero que una futura superinteligencia producto de la automejora recursiva representa un desafío mayor. Hubinger estimó una probabilidad superior al 10 % de que una IA avanzada pueda provocar un escenario catastrófico en la próxima década.
Coxon explicó que decidió abandonar Anthropic porque considera que la competencia entre las grandes empresas tecnológicas podría acelerar el desarrollo de sistemas más poderosos antes de contar con mecanismos suficientes de seguridad. La compañía respondió que continúa trabajando con “salvaguardas” para reducir los riesgos asociados a la inteligencia artificial y defendió la cooperación internacional para establecer reglas comunes.
El investigador aseguró que su advertencia no busca detener el avance de la inteligencia artificial, sino llamar la atención sobre la velocidad con la que evoluciona una tecnología que podría superar la capacidad humana de controlarla. “El problema es resoluble”, afirmó, aunque advirtió que el ritmo actual podría dejar poco tiempo para encontrar soluciones.