¿Qué es un algoritmo? Del silogismo jurídico a la caja negra

La definición que ya conoces

Un algoritmo es una secuencia finita de pasos que, a partir de una entrada, llega a un resultado. Una receta. Una fórmula. Un procedimiento. Punto.

Esa definición es la de manual y es correcta. Guárdala, porque —y aquí está lo bueno— sobrevive intacta a todo lo que viene. Lo que cambia no es la definición. Es quién escribe los pasos y si tú puedes leerlos.

Y para un abogado, el primer algoritmo no es nada raro. Es familiar hasta la médula.

El silogismo hecho máquina

El algoritmo clásico —el de reglas— es una estructura condicional: si pasa A, entonces B. Míralo con calma y lo reconoces: es el silogismo jurídico de subsunción.

Premisa mayor: la norma. Premisa menor: los hechos. Conclusión: la consecuencia. Deducción pura. Y el algoritmo simbólico es eso hecho máquina: reglas if–then que un humano escribió. Por eso es transparente y contestable: si conoces la premisa mayor, discutes la norma; si conoces la menor, discutes los hechos.

Pero ojo con el matiz que separa al jurista del programador. El silogismo solo describe el último paso. Lo difícil del derecho nunca fue deducir —eso lo hace cualquiera—. Lo difícil fue construir las premisas: ¿esto que pasó es "violencia"? ¿este señor es "consumidor"? Hart lo llamó textura abierta: todo concepto tiene un núcleo claro y una penumbra difusa, y la regla no decide su propia penumbra. El silogismo esconde ahí todo el trabajo jurídico de verdad.

Guárdate esto, porque es la bisagra: el algoritmo simbólico es el silogismo mecanizado. Deductivo, con premisa escrita, legible. El algoritmo que hoy decide sobre ti funciona al revés.

Los dos ejes

Casi siempre se confunde un eje con dos. Sepáralos, porque ahí está lo bueno.

Eje uno: ¿de dónde sale la regla? La escribe un humano (simbólico, deductivo) o la infiere la máquina de millones de ejemplos (aprendido, inductivo). Este eje es el que importa.

Eje dos: ¿el resultado es cierto o azaroso? Determinista (misma entrada, misma salida) o probabilístico (interviene el azar).

La trampa es creer que son lo mismo. No lo son. Un algoritmo puede ser 100% determinista y aun así ser una caja negra. Un modelo de scoring con pesos fijos te da siempre la misma respuesta a la misma hoja de vida, y aun así nadie te puede decir por qué. Determinismo es reproducibilidad. Transparencia es explicabilidad. No son lo mismo.

Entonces la clasificación útil no es "determinista vs. probabilístico". Es: escrito por un humano —deductivo, transparente— frente a aprendido de datos —inductivo, opaco—. El derecho se construyó sobre lo deductivo. La IA se mudó a lo inductivo.

Un algoritmo que escribe otro algoritmo

Aquí la definición clásica no se rompe. Se muda de lugar. Porque en el machine learning no hay un algoritmo. Hay dos.

Algoritmo 1: el entrenamiento. Clásico, escrito por humanos, con inicio y fin. Muestra un ejemplo, mide el error, ajusta, repite. Cumple la definición al pie de la letra. ¿Y qué produce? Otro algoritmo.

Algoritmo 2: el modelo entrenado. Cuando le pasas un caso nuevo, también ejecuta pasos —multiplica por unos números, aplica una función, entrega un resultado—. También cumple la definición. Sigue siendo una secuencia de pasos.

¿Qué cambió entonces? No los pasos. Cambió quién los escribió. En la programación clásica, los escribe un humano. En el machine learning, los pasos del Algoritmo 2 los escribió el Algoritmo 1. Un algoritmo que escribe otro algoritmo.

Y ahí se pierden dos cosas —solo dos, pero son las dos que al derecho le importan—: la autoría (ningún humano redactó esos pasos) y la legibilidad (los pasos existen, pero no significan nada: dicen "multiplica por 0,0037", no "si el ingreso supera X").

La analogía es tu propio oficio. Cuando lees cincuenta sentencias e induces la línea —"la Corte protege X"—, haces lo mismo que el modelo. La diferencia es una sola: tú puedes escribir la ratio decidendi. El modelo induce la línea, pero no puede enunciarla. Es costumbre sin un jurista que la ponga en palabras.

Esto es Instagram. Esto es YouTube.

Y no es teoría. Es tu feed.

Cuando abres Instagram o YouTube, el Algoritmo 1 ya entrenó lejos, en los servidores, con billones de interacciones: cada reel que alguien vio, cuántos segundos, si le dio like, si lo compartió, si lo repitió. De todo eso salió el Algoritmo 2.

Y el Algoritmo 2 corre en vivo, en tu celular, en milisegundos. Para cada reel candidato predice un número: probabilidad de que tú lo veas completo, de que le des like, de que lo compartas. Los ordena de mayor a menor y te muestra los de arriba. Eso es todo. No hay una norma. No hay premisa mayor. Solo predicción por correlación.

Y viene lo bueno: el bucle. El Algoritmo 2 te muestra algo → tú reaccionas → esa reacción se vuelve dato nuevo → alimenta al próximo Algoritmo 1 → que produce un Algoritmo 2 más afinado a ti. La serpiente se muerde la cola. Por eso "es que son tus gustos" es una verdad a medias, y tramposa: tus gustos son en parte input y en parte producto del sistema. El Algoritmo 1 aprende de un comportamiento que el Algoritmo 2 ayudó a moldear.

¿Y la singularidad? Seamos precisos, porque es tentador decir "la singularidad está en el Algoritmo 2" y no es así. La singularidad —ese punto hipotético en que la IA se mejora a sí misma sin nosotros— no es el Algoritmo 2. Sería el momento en que el Algoritmo 2 se vuelve capaz de reescribir y mejorar al Algoritmo 1: cuando lo producido se convierte en su propio productor y el ciclo se dispara solo. Hoy no estamos ahí. Lo que sí tienes hoy, real y funcionando, es ese bucle de recomendación —que no hace más inteligente a la máquina: te hace más predecible a ti—. La singularidad es especulación. El feed que te atrapa es presente.

Cómo llegamos a la caja negra

"Caja negra" se usa suelto, así que afinemos. Siguiendo a Jenna Burrell, hay tres opacidades, y cada una se combate distinto.

Opacidad por secreto: la empresa no te muestra el modelo porque es secreto comercial. Problema legal, solución legal: obligar a divulgar, auditar.

Opacidad por analfabetismo técnico: aunque te den el código, no sabes leerlo. Se arregla con peritos.

Opacidad intrínseca: ni los ingenieros que lo construyeron te pueden decir por qué decidió lo que decidió. No es que no quieran, ni que tú no sepas leer. Es que el conocimiento no está guardado como reglas en lenguaje. Está disuelto en millones de números. El modelo no tiene una razón; tiene una correlación. "Sabe" que cierto patrón predice cierto resultado, pero no sabe por qué, porque nunca operó con porqués.

Esta última es la que le pega al derecho donde vive. Todo el aparato jurídico supone que detrás de una decisión hay una razón que puedes pedir: el deber de motivación, la contradicción, el debido proceso. Y aquí no hay un porqué escondido. Hay una ausencia de porqué. Por eso el "derecho a la explicación" del RGPD suena elegante pero es frágil: vence al secreto —obligas a abrir—, pero no vence a la opacidad intrínseca, porque no hay nada adentro que hable en tu idioma.

El punto exacto

El algoritmo clásico es el silogismo mecanizado: deducción transparente, premisa legible. El algoritmo aprendido es su inverso: inducción opaca, sin premisa que señalar. El derecho es deductivo. La tecnología que hoy decide sobre ti es inductiva. Y esa asimetría no es un detalle técnico. Es el problema.

El derecho no solo llegó tarde a la tecnología. Llegó a una máquina que dejó de hablar su idioma: el idioma de las razones.