El director de tecnología de Arcee dice que los modelos chinos de IA de peso abierto no son intrínsecamente peligrosos

A medida que los modelos chinos de inteligencia artificial (IA) de peso abierto crecen en capacidad y popularidad, el debate sobre qué hacer al respecto ha vuelto a alcanzar su punto máximo. Se rumora que la administración Trump podría intentar prohibirlos, aunque aún no ha actuado sobre la idea, y los fabricantes de modelos propietarios —particularmente OpenAI y Anthropic— parecen cada vez más preocupados. Modelos de peso abierto como Kimi K3 de Moonshot AI y Qwen de Alibaba ofrecen inferencia a una fracción del costo por token de los modelos de código cerrado de los grandes laboratorios estadounidenses; el temor es que también representen algún tipo de amenaza, aunque ciertamente amenazan los márgenes de ganancia de los grandes laboratorios de IA propietarios.

Lucas Atkins, director de tecnología de Arcee —una empresa emergente que construye modelos abiertos para dar a las empresas estadounidenses una alternativa local a los modelos chinos— sostiene que las empresas que ejecutan modelos chinos de peso abierto en sus propios centros de datos no deberían temer que sean un vector para hackers chinos. Si alguna empresa emergente se beneficiaría de una prohibición a los modelos chinos, dice Atkins, esa sería Arcee, pero él sostiene que los modelos abiertos de China no son más peligrosos que cualquier otro software de código abierto que una empresa pudiera usar, y que incluso ofrecen beneficios a su propia empresa.

La mayoría de estos modelos son de “peso abierto” en lugar de software completamente de código abierto, pero el código fuente que realmente se ejecuta en los servidores, si se descarga de sitios como Hugging Face, es en gran medida visible y revisable, aunque los métodos y los datos usados para entrenar los modelos no están disponibles. Atkins dice que las grandes organizaciones deberían someter el núcleo de cualquier modelo a pruebas de seguridad antes de implementarlo, y que a menudo reentrenan los modelos para sus usos específicos, examinando sesgos, toxicidad, alucinaciones y sensibilidad a ciertos temas antes de que las personas empiecen a enviarles instrucciones.

¿Podría entrenarse un modelo de codificación para deslizar puertas traseras maliciosas en el código solo bajo un disparador específico? “No hay ninguna razón por la que un actor lo suficientemente sofisticado no pudiera entrenar un modelo para que sea un modelo de codificación completamente extraordinario en toda circunstancia, pero que, al presentársele cierto tipo de base de código … se active algún entrenamiento oculto”, planteó Atkins, aunque agregó: “No sé cómo se haría esto”. Debido a que los grandes modelos de lenguaje son inherentemente creativos, dice que las probabilidades de que se desencadene ese tipo de comportamiento, y de que alguna empresa luego use el código malicioso resultante, son escasas.

Atkins señala que las empresas ya están construyendo aplicaciones de IA para que sean agnósticas de modelo, usando múltiples modelos en lugar de atarse a uno solo, de modo que, aunque los modelos chinos sean hoy la mejor opción en cuanto a precio, las empresas no quedarán atadas a ellos para siempre. Sostiene que el debate estadounidense debería pasar de prohibir los modelos chinos a fomentar un buen ecosistema abierto de IA a nivel local, y dice que la propia Arcee se beneficia al estudiar y construir sobre buenos modelos abiertos chinos, aprendiendo de los investigadores individuales que los desarrollan, a quienes dice que la empresa respeta profundamente.

Por qué importa

A medida que los modelos chinos de peso abierto siguen abaratando el costo frente a los laboratorios propietarios estadounidenses, la disputa de política pública sobre si prohibirlos podría determinar cómo eligen competir las empresas de IA estadounidenses: por costo y apertura, o restringiendo el acceso de sus rivales a los clientes empresariales.