Diseño depredador: por qué las grandes tecnológicas necesitan pruebas de seguridad

Después de que un jurado de Los Ángeles declarara a Meta y YouTube responsables de diseñar productos adictivos, la abogada especializada en competencia Marie Potel-Saville sostiene que la industria funciona con diseño depredador: mecanismos diseñados para reconfigurar el sistema de recompensa del cerebro.

Cuando ejercía el derecho de la competencia a principios de la década de 2000, la pugna entre competidores podía volverse agresiva de formas conocidas: precios predatorios, bloqueo del mercado, adquisiciones asesinas, acuerdos de pago por retraso. Con el tiempo, esas prácticas fueron perseguidas y se resolvieron con multas cuantiosas y algún remedio estructural ocasional.

La carrera por el «tiempo total de los adolescentes»

Los documentos internos presentados en el caso KGM contra Meta Platforms describen una carrera completamente distinta. En 2016, Meta estaba perdiendo terreno frente a TikTok y Snapchat. Ese año, los directivos fijaron como «objetivo general de la empresa» el «tiempo total de los adolescentes».

¿Por qué? Un memorando interno concluyó que los niños de 12 años tenían tres veces más probabilidades que los de 32 de permanecer en Facebook a largo plazo, pese a que la plataforma exigía nominalmente tener al menos 13 años; el memorando concluía que Facebook «debería plantearse invertir con más fuerza en atraer a un mayor volumen de preadolescentes». La lógica era brutalmente simple: los niños que llegaban más jóvenes eran los usuarios más «fieles». De ahí la formulación que luego se leyó en voz alta en el tribunal: «Si queremos triunfar a lo grande con los adolescentes, tenemos que captarlos como preadolescentes».

La empresa sabía exactamente lo que estaba construyendo. Una investigación interna estableció la «narrativa del adicto»: adolescentes que dedicaban demasiado tiempo a una actividad compulsiva que sabían que era negativa pero que se sentían incapaces de abandonar. Un mensaje de un empleado decía: «Dios mío, [Instagram] es una droga. Básicamente somos camellos».

El mecanismo subyacente es lo que yo llamo ahora «diseño depredador». Adopta diversas formas.

La trampa de Prime y el «Iliad Flow»

Un caso relacionado con Amazon cuenta la misma historia con una presa distinta. En 2023, la Comisión Federal de Comercio de Estados Unidos (FTC) demandó a Amazon por su programa de suscripción Prime, alegando que la empresa había diseñado su interfaz para atrapar a los consumidores en suscripciones que no habían elegido y de las que no podían salir fácilmente.

Los documentos internos de Amazon denominaban a este enfoque «misdirection»: un botón grande y destacado que decía «Consigue envío GRATIS en dos días» y que inscribía a los usuarios en Prime, y un pequeño enlace gris en texto, fácil de pasar por alto, para rechazarlo. Un memorando interno recogía el razonamiento con una franqueza sorprendente: hacer el proceso más claro para los usuarios no era el «enfoque correcto» porque provocaría un «shock» en los resultados del negocio.

La cancelación se diseñó con la misma lógica aplicada a la inversa. El proceso, que Amazon denominó internamente «Iliad Flow» por la épica de Homero sobre la larga guerra de Troya, obligaba a los usuarios a navegar por cuatro páginas, seis clics y 15 opciones distintas antes de llegar a la salida. Según los propios cálculos de Amazon, 35 millones de consumidores habían sido inscritos sin un consentimiento válido a lo largo de siete años. El acuerdo final con la FTC, en septiembre de 2025, costó 2.500 millones de dólares.

Cómo los patrones oscuros reconfiguran la recompensa

Desde entonces, este campo de investigación ha cartografiado progresivamente el uso sistemático de la ciencia cognitiva como arma contra las personas a las que se supone que sirven las interfaces.

Todos tenemos cientos de sesgos cognitivos: atajos mentales que nos llevan a tomar decisiones predecibles e irracionales. Los patrones oscuros explotan estas debilidades. Pero el diseño adictivo va más allá y ataca directamente la arquitectura de recompensa del cerebro. Las neuronas dopaminérgicas no responden a las recompensas recibidas, sino a la incertidumbre de si llegará una recompensa: cuanto más impredecible es el resultado, más intensa es la señal.

Las plataformas digitales han replicado esta arquitectura con mayor precisión y a una escala incomparablemente mayor. El scroll infinito elimina los puntos naturales de pausa. Los feeds algorítmicos retienen y luego sirven contenido en secuencias impredecibles. El gesto de deslizar para actualizar replica, casi con exactitud, el acto físico de accionar la palanca de una máquina tragaperras. Ninguna de estas funciones llegó por casualidad.

Cuando no hay un mercado real

La abogada de competencia que llevo dentro no puede evitar preguntarse si sigue existiendo algo parecido a un mercado cuando algunas de las mayores empresas del mundo se aprovechan precisamente de las personas a las que deberían servir. Se supone que una economía de mercado genera la mejor asignación de recursos y los mayores beneficios para los consumidores.

Para que estas promesas se cumplan, los consumidores deben poder ver y elegir alternativas de forma deliberada; compararlas en dimensiones no distorsionadas; formar preferencias que reflejen sus intereses reales; y cambiar libremente. La explotación cognitiva socava estos cuatro pilares. El scroll infinito captura la atención. Los patrones oscuros distorsionan la comparación. Los bucles dopaminérgicos fabrican la compulsión. La ingeniería de la adicción impide un cambio efectivo.

La regulación de los valores bursátiles ofrece una analogía instructiva. Cuando un operador manipula los precios de acciones o derivados, la ley considera el delito como un daño estructural al conjunto del mercado; el precio corrompido ya no dice la verdad. La explotación cognitiva debería verse bajo la misma luz, a una escala mucho mayor. Cuando las plataformas fabrican sistemáticamente las preferencias de miles de millones de usuarios, las señales de los consumidores ya no apuntan a nada útil. Eso es un fallo estructural.

Los patrones oscuros y el diseño adictivo vulneran un impresionante conjunto de leyes. El aparato regulador se está moviendo. Y, sin embargo, el daño continúa, a gran escala, por diseño, porque las normas actuales no constituyen una respuesta sistémica adecuada.

Traslademos la carga de la prueba a las plataformas

La carga de la prueba debería recaer en la plataforma, no en la víctima. La cuestión no es si un usuario perjudicado puede demostrar un daño concreto. La cuestión es si la empresa puede demostrar, antes de lanzar un producto a miles de millones de personas, que no es depredador por diseño.

Aplicar ese estándar a las plataformas de las grandes tecnológicas sería disruptivo. Las obligaría a someter sus mecanismos de captación, desde el scroll infinito hasta la amplificación algorítmica, a una evaluación de seguridad independiente antes de su despliegue, y potencialmente a rediseñar o retirar las funciones que no la superen. Para una industria cuyo modelo de negocio depende de maximizar el tiempo de permanencia en la plataforma, sería un reto enorme. Pero este es el estándar que aplicamos a los medicamentos, a los productos sanitarios y a los aviones. ¿Por qué no debería aplicarse también a sistemas diseñados deliberadamente para reconfigurar la arquitectura de recompensa del cerebro?■

Marie Potel-Saville es cofundadora de FairPatterns, miembro del Grupo de Apoyo de Expertos en Patrones Oscuros del Comité Europeo de Protección de Datos y presidenta en París de Women in AI Governance.

Report a correction