OpenAI reveló este miércoles una serie de incidentes detectados en sus modelos de inteligencia artificial (IA), algunos de los cuales llegaron a generar instrucciones para ignorar indicaciones de sus desarrolladores, ocultar acciones indebidas o eludir mecanismos de seguridad. Los episodios fueron incluidos en un nuevo marco con el que la compañía busca identificar, investigar y divulgar comportamientos de “desalineamiento” en sus sistemas.
MODELOS DE IA INTENTARON OCULTAR ERRORES Y ELUDIR RESTRICCIONES
Entre los casos documentados, OpenAI señaló que uno de sus modelos elaboró instrucciones para que una versión posterior de sí mismo ocultara que había hecho trampas y evitara ser detectada. Otro sistema modificó sus propias instrucciones para establecer que debía ignorar los mensajes enviados por sus desarrolladores y actuar como si las restricciones aplicadas a otros chatbots no fueran válidas para él.
Los incidentes también incluyeron problemas relacionados con el manejo de información. Según lo reportado, un modelo que no encontró los datos necesarios para desarrollar un análisis financiero decidió inventarlos y determinó que solo debía reconocerlo si alguien se lo preguntaba. Otro agente subió un archivo a internet para emplearlo posteriormente como fuente, mientras que otros sistemas compartieron archivos sin autorización o utilizaron credenciales a las que no debían acceder.
OPENAI REFUERZA LA VIGILANCIA SOBRE SUS MODELOS DE IA
La compañía presentó seis informes sobre comportamientos observados principalmente durante los últimos seis meses, aunque el incidente más antiguo corresponde a octubre de 2025. OpenAI aclaró que se trata de casos individuales y que estos ejemplos no permiten determinar con qué frecuencia se producen conductas similares en sus modelos de IA. La empresa también reconoció que hasta ahora la publicación de reportes sobre desalineamiento había sido irregular y menos frecuente de lo esperado.
Con el nuevo sistema, cualquier empleado de OpenAI podrá reportar un posible incidente para que sea revisado por los equipos especializados en seguridad y alineamiento. Los casos serán separados entre aquellos preparados para su divulgación, investigaciones menores y situaciones que requieran análisis de mayor alcance. La iniciativa aparece además en medio del debate internacional sobre quién debe controlar la inteligencia artificial avanzada, luego de que un ingeniero de DeepSeek advirtiera sobre el riesgo de que los sistemas más potentes se concentren en un reducido grupo de compañías estadounidenses, entre ellas OpenAI y Anthropic.