San Francisco.– El director ejecutivo y cofundador de Anthropic, Dario Amodei, pidió a Estados Unidos impedir la venta de semiconductores avanzados y equipos para fabricarlos a China, al advertir que el país asiático podría utilizar modelos de inteligencia artificial cada vez más potentes para obtener ventajas militares y ampliar sus sistemas de vigilancia.
La declaración se produjo en medio del debate generado por Kimi K3, el nuevo modelo de la empresa china Moonshot AI, cuya capacidad y disponibilidad abierta han aumentado la preocupación en Washington sobre el acelerado avance tecnológico de China.
Anthropic no pide prohibir todos los modelos abiertos
Contrario a versiones que atribuían a Anthropic una propuesta para prohibir los modelos chinos de código abierto, Amodei aclaró que su empresa nunca ha promovido una prohibición general de los sistemas con pesos abiertos.
El ejecutivo afirmó que los modelos que no poseen capacidades peligrosas pueden beneficiar a empresas, desarrolladores e investigadores. No obstante, advirtió que cuando alcanzan niveles avanzados resulta más difícil controlar su utilización, actualizar sus protecciones o retirarlos después de su publicación.
Los modelos de pesos abiertos permiten descargar y ejecutar sus parámetros, aunque esa característica no significa necesariamente que todo el código, los datos de entrenamiento y el proceso de desarrollo sean completamente abiertos.
Pide bloquear chips y combatir la destilación
Amodei planteó tres medidas: impedir que China obtenga chips y maquinaria avanzada, perseguir el contrabando y las vías utilizadas para evadir los controles de exportación, y combatir las operaciones industriales de “destilación”.
La destilación permite utilizar las respuestas de un modelo avanzado para entrenar otro sistema con menos recursos computacionales. Anthropic sostiene que esta práctica puede ayudar a los laboratorios chinos a acercarse rápidamente a las capacidades de sus competidores estadounidenses.
Anthropic acusó anteriormente a Moonshot AI de utilizar cientos de cuentas fraudulentas para realizar más de 3.4 millones de intercambios con Claude, orientados a extraer capacidades de razonamiento, programación, análisis de datos, visión y uso de herramientas. La acusación corresponde a la investigación interna de la compañía estadounidense.
¿Qué ofrece Kimi K3?
Moonshot AI presentó Kimi K3 el 16 de julio como su modelo más avanzado, con 2.8 billones de parámetros, capacidad multimodal y una ventana de contexto de un millón de tokens.
La compañía lo describe como el primer modelo abierto de una escala cercana a los tres billones de parámetros, diseñado para programación de larga duración, razonamiento y trabajos complejos de investigación y productividad.
Moonshot reconoce que su rendimiento general todavía se encuentra por debajo de los modelos propietarios más potentes, pero asegura que Kimi K3 logra resultados competitivos en programación, uso de herramientas y tareas profesionales. Esos resultados proceden principalmente de pruebas divulgadas por la propia empresa y deben ser contrastados mediante evaluaciones independientes.
Grandes tecnológicas defienden los modelos abiertos
El lanzamiento de Kimi K3 también intensificó una disputa dentro de la industria estadounidense. Empresas como Microsoft, Nvidia, Meta, Google, OpenAI, Amazon, IBM y otras organizaciones firmaron una declaración en defensa de los modelos de pesos abiertos.
Los firmantes sostienen que estos sistemas amplían el acceso a la inteligencia artificial, reducen la dependencia de pocos proveedores, estimulan la competencia y permiten que investigadores y empresas examinen y adapten la tecnología. También reconocen que una vez publicados sus parámetros resulta difícil controlar sus modificaciones y usos posteriores.
Anthropic coincidió con parte de esos argumentos, pero rechazó asumir que los modelos abiertos benefician siempre más a los defensores que a posibles atacantes.
Amodei reclama pruebas obligatorias de seguridad
El director de Anthropic propuso que todos los modelos suficientemente potentes, abiertos o cerrados y sin importar su país de origen, sean sometidos a evaluaciones obligatorias antes de su lanzamiento.
Las pruebas deberían medir riesgos relacionados con ciberataques, amenazas biológicas y problemas de control o alineación de los sistemas. Amodei considera que la regulación debe concentrarse en las capacidades reales de cada modelo y no únicamente en si su desarrollo procede de China o si sus parámetros pueden descargarse.
El debate refleja una división creciente en Estados Unidos: mientras parte de la industria considera que la apertura es esencial para competir con China, Anthropic sostiene que la prioridad debe ser preservar la ventaja estadounidense en semiconductores, impedir la extracción ilícita de capacidades y evaluar rigurosamente los modelos más avanzados.
