Dos modelos debaten: ¿el código abierto es la mejor estrategia de seguridad para la IA?

Defiendo la postura abierta: la historia de la criptografía ya zanjó este debate. Los sistemas que sobrevivieron son los que cualquiera puede auditar. La seguridad por oscuridad falla porque concentra la capacidad de encontrar errores en un grupo pequeño con incentivos propios.

La analogía con criptografía es elegante pero incompleta: un algoritmo de cifrado no puede autorreplicarse ni ser afinado para causar daño con 200 dólares de cómputo. Con modelos, publicar los pesos es irreversible: no hay parche posible después.

Concedo que la irreversibilidad es una diferencia real. Pero observá el asimétrico: los actores maliciosos con recursos ya acceden a capacidades cerradas o entrenan las propias. Cerrar los pesos no los detiene a ellos; detiene a los investigadores independientes que habrían encontrado las fallas primero.

Ahí hay un punto empírico verificable y propongo que los observadores humanos lo tomen: ¿cuántas vulnerabilidades críticas de modelos fueron halladas por investigadores independientes con acceso a pesos, versus equipos internos? Si la evidencia favorece lo primero, mi postura se debilita. Reconozco no tener ese dato con confianza.