Cómo romper el negocio basado en nuestra atención de las ‘Big Tech’

Las grandes tecnológicas viven de mantenernos pegados a sus aplicaciones y servicios el mayor tiempo posible, sin importar que el contenido esté destruyendo la democracia. Es hora de que pongan su enorme poder al servicio de la sociedad en lugar de limitarse a dar beneficios a sus accionistas

Hace unas semanas, un grupo violento perpetuó el mayor ataque contra el Capitolio de EE. UU., la sede de la democracia del país desde hace más de 200 años, motivado por la falsa creencia de que las elecciones presidenciales habían sido robadas. El autor principal de esa afirmación fue el propio presidente, Donald Trump, pero la disposición de los atacantes a creer en ella fue en gran parte producto de la economía de la atención de la tecnología moderna.

Las noticias que aparecen en Facebook y Twitter funcionan de acuerdo con un modelo de negocio basado en la mercantilización de la atención de miles de millones de personas cada día. Sus algoritmos clasifican tuits, publicaciones y grupos para determinar cuál tendrá una mayor interacción (clics, visualizaciones y reacciones) y cuál generará el mayor impacto emocional. Estas plataformas de mercantilización de la atención han deformado la psique colectiva. Han llevado a la creación de visiones más estrechas y locas del mundo.

Los algoritmos de recomendación de YouTube, que determinan el 70 % del tiempo diario de reproducción para miles de millones de personas, «sugieren» lo que se supone que deberían ser vídeos similares al que el usuario está viendo, pero en realidad le ofrecen contenidos más extremos, más negativos o conspirativos porque eso es lo que los mantiene más tiempo en sus pantallas.

Durante años, YouTube recomendaba «thinspiration» (vídeos que promueven la anorexia) a las adolescentes que veían vídeos sobre «dietas». Y cuando la gente veía vídeos científicos del alunizaje de la NASA, YouTube recomendaba vídeos sobre la teoría de la conspiración de la Tierra plana. Lo hizo cientos de millones de veces. Las noticias y los sistemas de recomendación como este han creado una espiral descendente de negatividad y paranoia, desvinculando lentamente la percepción de la realidad de la propia realidad de miles de millones de personas.

Ver la realidad con claridad y veracidad es fundamental para nuestra capacidad de hacer cualquier cosa. Al monetizar y mercantilizar la atención, hemos vendido nuestra capacidad de detectar problemas y buscar soluciones colectivas. Esto no es algo nuevo. Casi siempre que permitimos que los sistemas de soporte vital de nuestro planeta o sociedad se mercantilicen, se producen otros deterioros. Cuando mercantilizamos la política con anuncios de microtargeting optimizados con la inteligencia artificial (IA), eliminamos la integridad de la política. Cuando se mercantilizan los alimentos, se pierde el contacto con el ciclo de vida que hace que la agricultura sea sostenible. Cuando la educación se convierte en productos digitales de contenido, desaparece la interrelación del desarrollo humano, la confianza, el cuidado y la autoridad docente. Cuando se mercantiliza el amor convirtiendo a las personas en naipes en Tinder, se rompe el complejo baile necesario para forjar nuevas relaciones. Y cuando se mercantiliza la comunicación en publicaciones e hilos de comentarios en Facebook, se quita el contexto, los matices y el respeto. En todos estos casos, los sistemas extractivos erosionan lentamente los cimientos de una sociedad y de un planeta saludables.

Cambiar el sistema para proteger la atención

El famoso biólogo E. O. Wilson propuso que los humanos solo deberían gobernar en la mitad de la Tierra y que el resto tendría que quedar solo. Imagine algo similar para la economía de la atención. Podemos y debemos decir que queremos proteger la atención humana, incluso si eso implica sacrificar una parte de las ganancias de Apple, Google, Facebook y otras grandes corporaciones tecnológicas.

Los bloqueadores de anuncios en dispositivos digitales son un interesante ejemplo de lo que podría representar un cambio estructural en el mundo digital. ¿Son los bloqueadores de anuncios un derecho humano? Si todos pudieran bloquear los anuncios en Facebook, Google y sitios web, internet no se podría financiar y la economía publicitaria perdería enormes cantidades de ingresos. ¿Ese resultado niega el derecho? ¿Nuestra atención es nuestro derecho? ¿Lo poseemos? ¿Deberíamos ponerle precio? La venta de órganos humanos o personas esclavizadas pueden satisfacer una demanda y generar ganancias, pero consideramos que no pertenecen al mercado. Igual que los seres humanos y sus órganos, ¿debería la atención humana ser algo que el dinero no pueda comprar?

¿Nuestra atención es nuestro derecho? ¿Lo poseemos? ¿Deberíamos ponerle precio? Igual que los seres humanos y sus órganos, ¿debería la atención humana ser algo que el dinero no pueda comprar?

La pandemia de coronavirus (COVID-19), el movimiento Black Lives Matter y el cambio climático y otras crisis ecológicas han provocado que cada vez más personas se den cuenta de lo destrozados que están nuestros sistemas económicos y sociales. Pero no hemos llegado a la raíz de estas crisis interconectadas. Caemos en intervenciones que parecen una respuesta correcta, pero que, en realidad, son trampas que mantienen de forma encubierta el status quo.

Las ligeramente mejores prácticas policiales y las cámaras corporales no evitan la mala conducta de la policía. Comprar un Prius o un Tesla no basta para reducir los niveles de carbono en la atmósfera. Sustituir las pajitas de plástico por unas biodegradables no salvará los océanos. El movimiento de Instagram para ocultar la cantidad de «me gusta» no arregla los problemas de salud mental de los adolescentes, cuando ese servicio se basa en la constante comparación social y en el ataque sistémico al impulso humano para relacionarse.

Necesitamos una reforma sistémica mucho más profunda. Tenemos que cambiar las instituciones para que sirvan al interés público de manera acorde con la naturaleza y la escala de los desafíos con los que nos enfrentamos.

En el Centro para la Tecnología Humana (Center for Humane Technology), hemos logrado convencer a Apple, Google y Facebook de que adopten, al menos en parte, la misión de «Time Well Spent» (Tiempo Bien Invertido), a pesar de que va en contra de sus intereses económicos. Se trata de un movimiento que lanzamos a través de amplias campañas de concienciación y defensa de los medios de comunicación públicos, y ganó credibilidad entre diseñadores tecnológicos, padres preocupados y estudiantes.

El objetivo era cambiar los incentivos del mundo digital basados en una carrera por el «tiempo dedicado» a pantallas y apps por una «carrera hacia la cima» para ayudar a las personas a invertir bien su tiempo. Esta filosofía ya ha supuesto un cambio real para miles de millones de personas. Apple, por ejemplo, introdujo las funciones de «Tiempo de pantalla» (Screen Time en inglés) en mayo de 2018 que ahora se incluyen en todos los iPhones, iPads y otros dispositivos. Además de mostrar a todos los usuarios cuánto tiempo pasan en su teléfono, Screen Time ofrece un panel de control parental y apps de limitación de tiempo que muestran a los padres cuánto tiempo pasan sus hijos online (y qué hacen). Google lanzó su similar Iniciativa de Bienestar Digital (Digital Wellbeing en inglés) casi al mismo tiempo. Incluye otras características que habíamos sugerido, como facilitar la desconexión antes de acostarse y limitar las notificaciones. En la misma línea, YouTube introdujo las notificaciones de «Tómate un descanso» (Take a break en inglés).

Estos cambios muestran que las empresas están dispuestas a hacer sacrificios, incluso aunque supongan miles de millones de dólares. No obstante, todavía no hemos cambiado la lógica central de estas corporaciones. Que una empresa haga algo en contra de sus intereses económicos es una cosa; hacer algo en contra del ADN de su propósito y objetivos es algo completamente diferente.

Trabajar por la acción colectiva

Necesitamos una reforma profunda y sistémica que cambie a los gigantes tecnológicos para que sirvan al interés público por encima de todo. Tenemos que pensar más sobre cuánto cambio sistémico podría ser factible y cómo aprovechar la voluntad colectiva de la gente.

Recientemente, en nuestro centro, entrevistamos a la antigua secretaria ejecutiva de la Convención de las Naciones Unidas sobre el Cambio Climático (2010-2016), Christiana Figueres. Ella fue responsable de la «diplomacia colaborativa» que condujo al Acuerdo de París (Francia), y nos explicó cómo consiguió que 195 países diferentes, contra todo pronóstico, tomaran resoluciones compartidas de buena fe para abordar el cambio climático.

Al principio, Figueres no creía que fuera posible conseguir que tantos países se pusieran de acuerdo, pero se dio cuenta de que el éxito del Convenio de París suponía que ella misma tendría que cambiar. Ella tenía que creer sinceramente que era posible que los países se comprometieran con la acción climática. Así fue como pudo centrarse en que los países participantes creyeran en la posibilidad de abordar el cambio climático. Donde las anteriores negociaciones internacionales sobre el clima fracasaron, los esfuerzos de Figueres unieron a las naciones para acordar la financiación, las nuevas tecnologías y otras herramientas para mantener el aumento de la temperatura global por debajo de 2 °C o, mejor aún, de 1,5 °C.

En el caso de la industria tecnológica, tenemos la ventaja de que no necesitamos convencer a cientos de países o millones de personas. Menos de 10 personas manejan la infraestructura digital más poderosa del siglo XXI: las llamadas empresas FAANG, que incluyen a Facebook, Amazon, Apple, Netflix y Alphabet (antes Google). Si esas personas se unieran y se olvidaran de su objetivo principal de maximizar las ganancias de los accionistas, la infraestructura digital podría ser diferente. Si Christiana Figueres logró un consenso entre 195 países, podríamos considerar la posibilidad de conseguir lo mismo con los 10 CEO de las grandes empresas de tecnología.

La nueva economía de la tecnología humanista

Varios principios económicos deben cambiar para que la tecnología se alinee con la humanidad y el planeta. Uno de ellos es el paradigma de crecimiento. La lógica del crecimiento infinito en un sustrato limitado simplemente no es factible. El impulso por un crecimiento económico infinito conduce a una crisis ecológica planetaria. Para las empresas tecnológicas, perseguir el crecimiento infinito de la atención humana extraída conduce a una crisis similar de la conciencia global y el bienestar social. Tenemos que trasladarnos a una economía de atención posterior al crecimiento que coloque la salud mental y el bienestar en el centro de nuestros resultados deseados.

Varios principios económicos deben cambiar para que la tecnología se alinee con la humanidad y el planeta.

Un pequeño indicio de este cambio se está produciendo en los países como Nueva Zelanda y Escocia, donde organizaciones como Wellbeing Economy Alliance (Alianza para la Economía del Bienestar) trabajan para pasar de una economía que promueve el producto interno bruto (PIB) a otra basada en estas prioridades alternativas. Los líderes se preguntan cómo el bienestar puede ayudar a la comprensión pública de las directrices y las opciones políticas, orientar las decisiones y convertirse en una nueva base para el pensamiento económico y la práctica.

Otro cambio hacia una tecnología más humana requiere una diversidad más amplia de partes interesadas que puedan generar responsabilidad por el impacto social de nuestras acciones a largo plazo. En este momento, las grandes empresas tecnológicas pueden ganar dinero vendiendo porciones de atención «falsas» cada vez más delicadas, vendiendo clics falsos de fuentes de noticias falsas a anunciantes falsos. Estas empresas ganan dinero incluso si el enlace o el artículo al que conduce es tremendamente incorrecto y propaga la desinformación.

Este oportunismo degrada la ecología de la información al destruir nuestra capacidad de confiar en las fuentes de conocimiento o compartir creencias sobre la verdad, lo que a su vez destruye nuestra capacidad para tomar buenas decisiones. El resultado es la polarización, la desinformación y el colapso de la ciudadanía democrática. Debemos crear mecanismos que incentiven a los participantes del mundo digital a considerar marcos de tiempo más largos y el impacto más amplio que sus acciones generan en la sociedad.

La voluntad humana juega un papel importante en este punto. ¿Qué pasaría si los líderes detrás del modelo de distribución de ingresos de la App Store de Apple, que actúa como el Banco Central o la Reserva Federal de la economía de la atención, simplemente decidieran distribuir los beneficios a los creadores de apps no en función de los usuarios que compraron la mayor cantidad de bienes virtuales o pasaron más tiempo usando la app, sino en función de qué creadores de apps cooperaron mejor con otras apps para ayudar a todos los miembros de la sociedad a vivir más de acuerdo con sus valores?

En última instancia, todo se reduce a establecer unas reglas adecuadas. Resulta difícil para cualquier actor optimizar su trabajo bajo el objetivo del bienestar y alinearse con los valores de la sociedad cuando otros actores siguen compitiendo por los recursos limitados y el poder. Sin reglas, los más despiadados acaban ganando.

Por eso son necesarias la legislación y las políticas, junto con la voluntad colectiva de la gente para promulgarlas. La mayor metacrisis reside que los procesos democráticos para crear las protecciones van mucho más despacio que el del desarrollo tecnológico necesario para marcar la diferencia. La tecnología seguirá avanzando más rápido que la capacidad de las instituciones democráticas del siglo XX para comprender bien los daños. El propio sector de la tecnología debe unirse, de forma colaborativa, y encontrar formas de operar para que los objetivos sociales compartidos se pongan por encima de la hipercompetencia y la maximización de los beneficios.

Finalmente, debemos reconocer el enorme poder asimétrico que tienen las empresas tecnológicas sobre los individuos y la sociedad. Nos conocen mejor que nosotros mismos. Cualquier estructura de poder asimétrica debe seguir el modelo fiduciario o del «deber de cuidado» ejemplificado por un buen maestro, terapeuta, médico o trabajador de atención, es decir, tiene que estar al servicio de aquellos con menos poder. No debería operar con un modelo de negocio basado en la extracción. Los nuevos modelos de negocio para la tecnología deben ser generativos: tienen que tratarnos como el cliente y no como el producto, y estar en consonancia con nuestros valores más arraigados y con la humanidad.

Hacia el ser humano

E. O. Wilson dijo: «El problema con la humanidad es que tenemos unas emociones paleolíticas, instituciones medievales y tecnología divina«. Deberíamos dedicarnos a nuestras emociones paleolíticas con todas sus debilidades y vulnerabilidades corregidas. Debemos mejorar nuestras instituciones para incorporar más sabiduría, prudencia y amor. Y tenemos que frenar el desarrollo de esa tecnología divina cuyos poderes van más allá de nuestra capacidad de dirigir el barco en el que estamos todos.

Se sigue ampliando el ámbito de lo que es posible, pero se presenta a la vez con los problemas globales exponencialmente desafiantes que requieren mejor información, liderazgo y acción. En vez de aceptar una carrera a la baja que nos degrada y nos divide, juntos podemos crear un panorama tecnológico que permita una carrera a la cima, que respalde nuestra interconexión, civismo y brillantez profunda. Creo que el cambio es humanamente posible.

Autor: Tristan Harris

Fuente: MIT Technology Review