“Law is Law”, “Code is Law” o “Code is Police”

En 1999, el jurista estadounidense Lawrence Lessig publicó un libro que se convertiría en una de las obras más influyentes de la era digital. Su argumento era sencillo: “Code is Law”. El código —es decir, la arquitectura de los sistemas digitales— pasaría a regular nuestro comportamiento con tanta o más eficacia que las propias leyes.

En aquella época, la idea parecía audaz. Lessig defendía que internet no era solo un espacio donde se aplicarían las leyes. El propio diseño de las plataformas, sus algoritmos y sus reglas técnicas determinarían lo que sería posible hacer, lo que estaría permitido y lo que estaría prohibido. Si una red social impide publicar determinado contenido, si una aplicación no permite copiar un archivo o si un sistema bloquea automáticamente una operación, quien impone la regla no es un policía ni un juez. Es el código.

Veintisiete años después, quizá sea hora de actualizar esa famosa frase.

En muchos casos, el código se convirtió en ley. Pero también empezó a desempeñar otra función: se convirtió en policía.

Leí una noticia reciente relacionada con OpenAI. Según la información divulgada por la empresa, sus sistemas identificaron conversaciones en las que un usuario pretendía utilizar ChatGPT para planear el asesinato de su propio hijo pequeño. Los mecanismos de seguridad de la plataforma interrumpieron la interacción y también activaron los procedimientos previstos para situaciones de riesgo extremo.

Al margen de los detalles específicos del caso, el episodio revela una transformación silenciosa. Las empresas responsables de modelos de inteligencia artificial dejan de limitarse a ofrecer tecnología y empiezan a ejercer funciones que, hasta hace poco, asociábamos exclusivamente al Estado. Observan comportamientos, identifican riesgos, bloquean acciones, restringen accesos, preservan pruebas y, cuando es necesario, colaboran con las autoridades públicas. No están simplemente ejecutando software. Están ejerciendo una forma de supervisión social.

Pero este movimiento empezó mucho antes de la inteligencia artificial.

En el sistema financiero convivimos con él desde hace décadas. Los bancos y las fintechs no son solo instituciones que mueven dinero. Monitorizan continuamente el comportamiento financiero de sus clientes, analizan patrones de movimiento, identifican operaciones sospechosas, bloquean transacciones, ponen fin a relaciones comerciales y comunican actividades potencialmente ilícitas a los organismos competentes. El Estado comprendió que sería imposible seguir, por sí solo, los miles de millones de transacciones realizadas a diario y empezó a utilizar la infraestructura privada como primera línea de fiscalización.

Las plataformas digitales siguieron un camino parecido. Las redes sociales identifican contenidos potencialmente ilegales incluso antes de que exista una decisión judicial. Los marketplaces retiran productos prohibidos. Los servicios de computación en la nube detectan ciberataques automáticamente. Las aplicaciones de transporte monitorizan comportamientos considerados inseguros. Ahora, los modelos de inteligencia artificial empiezan a evaluar no solo lo que hacemos, sino también lo que pretendemos hacer.

No se trata de afirmar que estas empresas han sustituido al Estado. Lo que cambió fue la arquitectura de la regulación. En lugar de fiscalizar directamente a cada ciudadano, los gobiernos empezaron a imponer obligaciones regulatorias a los grandes intermediarios digitales, los llamados gatekeepers. Son ellos quienes desarrollan los algoritmos capaces de detectar fraudes, impedir delitos, bloquear contenidos, reducir riesgos y aplicar, en tiempo real, políticas públicas que ninguna estructura estatal podría ejecutar a la misma escala.

Es una solución extremadamente eficiente. Y también extremadamente transformadora.

Cuando un algoritmo impide una transacción financiera sospechosa, elimina un contenido, bloquea una cuenta o interrumpe una interacción con un modelo de IA, ¿estamos ante una decisión técnica, una decisión empresarial o una nueva forma de ejercicio del poder regulatorio?

Quizá esta sea la pregunta de la próxima década: ¿quién regula a quienes han empezado a regular la sociedad mediante la inteligencia artificial?

La historia demuestra que toda gran innovación tecnológica altera la distribución del poder. La imprenta transformó la circulación del conocimiento. La electricidad reorganizó la industria. Internet redefinió la información. La inteligencia artificial parece estar promoviendo un cambio aún más profundo: está rediseñando la forma en que el Estado ejerce su propia autoridad.

Quizá Lawrence Lessig siga teniendo razón. El código sigue siendo la ley. Pero, al observar el mundo actual, tengo la impresión de que también se ha convertido en policía.

📌 Artículo publicado originalmente en Época Negócios