La inteligencia artificial (IA) vuelve a situarse en el centro del debate sobre los riesgos de las tecnologías avanzadas. Anthropic, desarrolladora del modelo Claude, informó que bloqueó en los últimos meses varios intentos de utilizar sus sistemas en investigaciones que podrían estar relacionadas con el desarrollo de armas biológicas, aunque reconoció que determinar las verdaderas intenciones detrás de estas solicitudes resulta especialmente complejo.
Según un informe de la compañía, fueron identificados cinco casos vinculados a posibles investigaciones de carácter biológico de doble uso. Anthropic señaló que algunos científicos procedentes de regiones donde el acceso a tecnologías estadounidenses está restringido, incluidos investigadores relacionados con organismos gubernamentales locales, habrían intentado ingresar de manera encubierta a sus sistemas. La empresa no reveló los países ni las instituciones involucradas.
Cinco casos ponen bajo alerta el uso de IA
Entre los episodios detectados figura el de un investigador que recurrió a Claude para preparar una solicitud de financiamiento relacionada con el estudio de un virus. El proyecto contemplaba una investigación de ganancia de función, procedimiento mediante el cual pueden modificarse características de un patógeno, incluida su transmisibilidad. Este tipo de trabajos puede contribuir al desarrollo de medidas de prevención sanitaria, pero también generar conocimientos susceptibles de ser utilizados con fines militares.
Anthropic también identificó un intento de elaborar un plan de investigación sobre una variante de gripe aviar capaz de propagarse a mamíferos, además del caso de otro científico que buscó apoyo del modelo para preparar informes sobre una investigación relacionada con una toxina. La compañía precisó que las solicitudes detectadas no necesariamente buscaban instrucciones científicas directas para fabricar armas, sino asistencia organizativa, como la redacción de documentos, artículos y reportes de investigación.
La difícil frontera entre investigación médica y riesgo biológico
El problema para las empresas tecnológicas radica en el denominado doble uso de la inteligencia artificial. Una investigación sobre virus, toxinas o transmisión de enfermedades puede ser fundamental para desarrollar vacunas, tratamientos y mecanismos de prevención, pero esos mismos conocimientos podrían ser aprovechados para actividades peligrosas. Por ello, Anthropic aseguró haber desarrollado sistemas destinados a detectar y bloquear usos de Claude que representen un potencial riesgo biológico, en momentos en que investigadores y trabajadores del sector tecnológico reclaman mayores mecanismos de seguridad, coordinación y transparencia frente al rápido avance de los modelos de IA.