¿El cuarto tenor es un algoritmo?

El caso Meta y el reencuentro con los tres tenores del Derecho Administrativo en el Externado

“El Derecho aprendió hace mucho a desconfiar del poder. El problema es que el poder aprendió a cambiarse de ropa.”

Por Glênio S Guedes (abogado de Brasil)

Hay libros que uno compra para entender una discusión y que, años después, parecen haber estado esperando, muy campantes en el estante, a que la realidad les escriba otro capítulo.

Compré uno de esos libros en una librería de Bogotá: Los tres tenores del derecho administrativo en el Externado. Allí estaban Pierre Delvolvé, Sabino Cassese y Eberhard Schmidt-Assmann discutiendo una pregunta vieja, pero todavía con buena salud: ¿dónde termina el Derecho Público y comienza el Derecho Privado?

Me llevé el librito. Jamás imaginé que años después una noticia sobre el juicio contra Meta en Estados Unidos me obligaría a buscarlo de nuevo y, de paso, a cometer una impertinencia: poner una cuarta silla en aquella mesa.

Los tres tenores seguían ahí.

El cuarto no era humano.

Era un algoritmo.

Una vieja frontera se vuelve borrosa

Schmidt-Assmann proponía una idea particularmente fértil: Derecho Público y Derecho Privado no son planetas separados, sino partes de un mismo orden constitucional. El particular parte de la libertad; la Administración, de la competencia. Pero tampoco la autonomía privada es patente de corso: consumidores, datos personales y derechos fundamentales atraviesan hoy relaciones entre particulares.

Y ahí aparece Meta.

Veintinueve estados norteamericanos acusan a la compañía de haber diseñado Facebook e Instagram para fomentar la dependencia entre jóvenes y de usar indebidamente datos de menores. Meta rechaza las acusaciones. Estamos ante un juicio, no ante una condena anticipada. Pero el problema jurídico ya está servido.

Meta es privada. Sus plataformas son privadas. Sus usuarios son particulares.

Todo parece caber tranquilamente en el Derecho Privado.

Hasta que uno mira el tamaño del asunto.

Una plataforma organiza contenidos, recomienda, jerarquiza, recoge datos, fija reglas y construye el ambiente dentro del cual millones de personas toman decisiones.

Eso no la convierte en Estado.

Pero tampoco se parece mucho a dos señores del siglo XIX negociando la compraventa de un caballo.

El caballo, dicho sea de paso, nunca estudió al comprador mientras este lo compraba.

La plataforma sí.

Y aprende.

¿Qué dirían los tres tenores?

Delvolvé probablemente pondría orden en la casa: no confundamos poder privado con poder público. Meta no es Administración, un algoritmo no es un acto administrativo y un ingeniero de software no ejerce, por ese solo hecho, poder de policía. Si todo poder social termina convertido en Derecho Administrativo, este habrá conquistado el mundo al módico precio de dejar de significar algo.

Cassese seguramente movería la silla. La pregunta no es solamente qué es Meta, sino qué poder ejerce. Una organización privada capaz de ordenar espacios de comunicación de millones de personas, administrar datos y modificar las condiciones concretas en que se ejercen ciertas libertades ya no cabe cómodamente en la fotografía del particular clásico.

Y Schmidt-Assmann cambiaría la pregunta.

Su idea de Steuerung —orientación, conducción y conformación jurídica— nos invita a dejar por un momento la pelea por las etiquetas y preguntar: ¿qué instrumentos jurídicos permiten gobernar semejante poder?

Responsabilidad civil, protección al consumidor, datos personales, competencia, regulación administrativa, transparencia, auditoría algorítmica...

No hay que escoger una sola puerta. El ordenamiento tiene todo un corredor.

Cuando el Derecho quiere meterse en el diseño

Aquí está lo novedoso del caso.

Los estados demandantes no piden únicamente plata. Pretenden también cambios en el funcionamiento de las plataformas: cuestionan las “me gusta”, el desplazamiento infinito, los tiempos de uso de los jóvenes y el acceso de menores de trece años.

El Derecho ya no dice solamente:

“Usted causó un daño: pague.”

Empieza a decir:

“Diseñe de otra manera.”

El recorrido es formidable:

regular la conducta → regular el producto → regular el diseño → regular la arquitectura de las decisiones.

La ley prescribe.El contrato obliga. La Administración ordena. La arquitectura induce.

El desplazamiento infinito no obliga a quedarse. Hace algo más fino: elimina ese pequeño instante en que uno tendría que decidir si continúa.

Qué detalle tan considerado.

Entonces, ¿el cuarto tenor es el algoritmo?

No exactamente.

Convertir al algoritmo en una criatura autónoma sería una magnífica manera de que los humanos se lavaran las manos.

Los algoritmos son creados, escogidos, entrenados y utilizados por personas y organizaciones. El sujeto jurídico sigue siendo Meta.

El verdadero cuarto tenor es algo más inquietante:

el poder privado tecnológicamente arquitectado.

El poder privado siempre existió. Lo nuevo es su capacidad de aprender de nuestras respuestas, personalizar estímulos y modificar silenciosamente el escenario dentro del cual escogemos.

El poder no se volvió inhumano.

Adquirió prótesis no humanas.

Cuidado con el director de orquesta

Ahora bien: tampoco conviene llamar al Estado como quien llama al celador porque hay ruido en el apartamento de arriba.

Si el poder privado puede amenazar libertad y derechos fundamentales, el Estado también puede hacerlo y, para completar, tiene la coerción de su lado.

Regular plataformas exige proporcionalidad. Una buena intención estatal no basta. De buenas intenciones, como sabe cualquier colombiano después de leer unas cuantas leyes, también están empedrados ciertos infiernos burocráticos.

Delvolvé nos impide borrar las categorías.

Cassese nos impide quedar presos de ellas.

Schmidt-Assmann nos obliga a pensar en instrumentos, garantías y controles.

El algoritmo entró al salón como acusado; cuidado con que el regulador salga convertido en tenor absoluto.

De vuelta a Bogotá

Años atrás salí de aquella librería bogotana con tres tenores debajo del brazo y una pregunta: ¿dónde termina el Derecho Administrativo y empieza el Derecho Privado?

El libro sigue igual.

La pregunta no.

Al releerlo, me pareció que había una silla adicional en la mesa.

Delvolvé quizá protestaría por el abuso de la metáfora. Cassese preguntaría cuánto poder tiene el recién llegado. Schmidt-Assmann querría saber cómo controlarlo.

Los tres tendrían razón.

Porque la vieja pregunta del Derecho Administrativo sigue intacta:

¿quién controla el poder?

Dos siglos después, lo que cambió no fue la pregunta.

El poder aprendió a cantar con otra voz.