Pekín, China.– Investigadores relacionados con las Fuerzas Armadas chinas habrían utilizado respuestas generadas por modelos de inteligencia artificial de OpenAI y Anthropic para entrenar sistemas nacionales destinados a aplicaciones de defensa, vigilancia y operaciones tácticas.
La información procede de una revisión realizada por Reuters sobre más de 80 publicaciones académicas y patentes chinas. El análisis incluyó documentos recopilados por la Fundación Jamestown y otros 24 casos vinculados con instituciones militares identificados por la agencia.
Los documentos describen el uso de una técnica conocida como destilación de modelos, mediante la cual las respuestas o razonamientos de un sistema avanzado son empleados para entrenar otro modelo más pequeño, especializado y capaz de funcionar con menos recursos informáticos.
¿Qué es la destilación de inteligencia artificial?
La destilación permite que un modelo de menor tamaño aprenda determinadas capacidades de otro más potente.
En términos generales, el sistema avanzado actúa como una especie de profesor: genera respuestas, clasificaciones, explicaciones o datos sintéticos que posteriormente son utilizados para entrenar un modelo más pequeño.
Esta práctica es habitual en la industria tecnológica y no es necesariamente irregular. La controversia surge cuando se emplean accesos no autorizados, cuentas falsas o mecanismos diseñados para extraer capacidades protegidas y utilizarlas en contra de las condiciones establecidas por el proveedor.
Los modelos resultantes requieren menos capacidad informática y pueden ejecutarse localmente en redes cerradas, drones, satélites u otros dispositivos que no siempre tienen conexión permanente con centros de datos.
GPT-3.5 habría sido utilizado con código militar
Uno de los documentos examinados fue elaborado por investigadores de la Unidad 96941 del Ejército Popular de Liberación, relacionada con actividades de inteligencia y operaciones cibernéticas.
El estudio describió el uso de GPT-3.5, desarrollado por OpenAI, para resumir código informático militar.
Posteriormente, los investigadores habrían empleado esos resúmenes para entrenar un modelo chino capaz de funcionar dentro de redes militares cerradas, evitando que información clasificada tuviera que ser procesada continuamente mediante servicios externos.
Reuters señaló que OpenAI, el Ministerio de Relaciones Exteriores de China, el Ejército Popular de Liberación, la Casa Blanca y el Pentágono no respondieron a sus solicitudes de comentarios antes de la publicación de la investigación.
Claude habría generado datos para vigilancia digital
Otro caso corresponde a investigadores de la Universidad del Norte de China, una institución con vínculos históricos con la industria armamentística del país.
Según el reporte, utilizaron Claude 3 Haiku, de Anthropic, para generar datos sintéticos destinados al entrenamiento de un sistema de clasificación de textos.
La herramienta estaría orientada a la supervisión de redes sociales y la moderación de contenidos, actividades que pueden utilizarse tanto para propósitos civiles como para vigilancia estatal y análisis de información.
Anthropic declaró a Reuters que no ofrece acceso comercial a Claude dentro de China ni a empresas controladas desde Pekín. La compañía aseguró que utiliza sistemas de monitoreo para detectar posibles violaciones de sus políticas.
También advirtió que los modelos entrenados mediante destilación pueden perder las medidas de seguridad incorporadas al sistema original, lo que facilitaría que determinadas capacidades terminen en plataformas fuera del control de la empresa.
Drones y reconocimiento de objetivos
Una investigación publicada en 2024 por la Universidad Nacional de Tecnología de Defensa describió la reducción de un modelo de procesamiento de imágenes para instalarlo en vehículos aéreos no tripulados.
El objetivo era permitir que los drones analizaran imágenes en directo y apoyaran funciones de navegación y selección de objetivos, incluso cuando perdieran la comunicación con los sistemas centrales.
Otro trabajo de la Academia de Ciencias Militares de China abordó el uso de un modelo de reconocimiento de objetivos instalado en equipos tácticos durante operaciones marítimas simuladas.
En los ejercicios participaron drones, embarcaciones y submarinos no tripulados. Sin embargo, los documentos revisados no demuestran por sí solos que todos esos sistemas hayan sido desplegados en operaciones militares reales.
Investigación no prueba una copia completa de los modelos
Los especialistas advierten que la destilación no permite reproducir íntegramente un sistema avanzado.
Un modelo pequeño puede adquirir capacidades específicas, como clasificación de imágenes, análisis de código o identificación de objetivos, pero no necesariamente alcanza la flexibilidad, precisión y amplitud del modelo utilizado como referencia.
Por tanto, el proceso debe entenderse como una transferencia de determinadas funciones hacia herramientas más económicas y controlables localmente, no como una copia completa de la tecnología original.
China rechaza acusaciones de extracción tecnológica
El Gobierno chino ha rechazado anteriormente las acusaciones estadounidenses sobre apropiación indebida de capacidades de inteligencia artificial.
Pekín sostiene que Washington intenta preservar su dominio tecnológico mediante restricciones comerciales y controles a la exportación de semiconductores avanzados.
Empresas chinas también han negado que sus principales avances dependan de la destilación de modelos estadounidenses y aseguran que sus resultados proceden de investigaciones y desarrollos propios.
Empresas establecen límites para usos militares
OpenAI mantiene acuerdos para desplegar sistemas en entornos de seguridad nacional de Estados Unidos, pero establece restricciones contra la vigilancia interna masiva, la dirección autónoma de sistemas de armas y determinadas decisiones automatizadas de alto riesgo.
Anthropic también ha defendido el empleo de Claude en inteligencia, planificación operativa, ciberseguridad y simulaciones militares estadounidenses, aunque rechaza su utilización para vigilancia interna masiva y armamento completamente autónomo sin controles humanos adecuados.
La investigación evidencia las dificultades para controlar cómo son reutilizadas las respuestas de los modelos avanzados una vez que los usuarios obtienen acceso a ellas.
Mientras las restricciones estadounidenses se concentran en chips, equipos y componentes físicos, la destilación abre una nueva dimensión de la competencia tecnológica: la transferencia de capacidades mediante los propios resultados generados por la inteligencia artificial.
