¿Puede el software ser bueno para nosotros?

Debemos enfrentar un gran desafío para diseñar software para una interacción significativa y tiempo bien empleado

Originalmente se llamaba "Estimado Zuck (y los equipos de productos de Facebook)" y se escribe como una carta a Mark Zuckerberg. Pero es para todos los diseñadores de software social.

Querido Zuck

Hace unos días, anunció que su objetivo número uno para 2018 era hacer que Facebook "se haya gastado bien".

Me gustó especialmente, porque hace cinco años acuñé este término. Fue en una conversación con Tristan Harris, quien ha trabajado incansablemente desde entonces para elaborar el concepto, convirtiéndolo en un movimiento.

En 2013, Tristan y yo estábamos preocupados por toda la industria tecnológica, pero su News Feed fue entonces (y sigue siendo) nuestro mejor ejemplo de lo que necesitaba cambiar. Y eso fue antes de la manipulación electoral, noticias falsas, depresión y suicidio de adolescentes, preocupaciones por los videos de los niños, etc.

Ahora también te preocupan estas cosas. Así que vamos a ser prácticos: ¿cómo se puede reorganizar una empresa como Facebook en torno a "interacciones significativas" en lugar de compromiso?

El primer paso es entender por qué es difícil. Los artículos populares culpan en ciertos lugares: el modelo comercial de publicidad, la centralización, la cultura tecnológica, los monopolios gigantes de la tecnología o simplemente el capitalismo como de costumbre.

Pero no creo que sea así de simple. Creo que una dificultad con interacciones significativas comienza con la naturaleza del software en sí. Creo que incluso los equipos más bien intencionados, que operan en la mejor cultura posible, aún tendrían dificultades para escribir software con el tiempo bien empleado.

Te diré por qué lo creo, y luego te daré dos formas en que podrías responder a este problema. Ambos requieren cambios profundos en la forma en que se realiza el software; cambios más importantes que otros por los que ha pasado su empresa, como la adopción del aprendizaje automático o la transición de la web al móvil.

Pero eso es lo que hará falta.

Sobre software social e interacciones significativas

A veces, el nuevo software social funciona bien. Pocas personas saldrían a protestar por Wikipedia, Couchsurfing o Meetup, por ejemplo. Estos productos, y los cambios sociales que vinieron con ellos, fueron bien recibidos, incluso aceptados.

Una maqueta. Este tipo en realidad protestaba por algo útil.

Pero la gente está menos entusiasmada con Facebook, Twitter, el ecosistema de "Fake News", Uber, AirBnb e incluso los propios teléfonos inteligentes. ¿Por qué las reacciones a estos sistemas son diferentes? Creo que necesitamos el concepto de valores para entender:

Valores: las ideas que tiene una persona sobre cómo quiere vivir, especialmente ideas sobre qué tipos de relaciones y qué tipos de acciones son de importancia duradera en su vida.

Los valores son como las vértebras: incluso si nunca piensas en ellas, las tienes y estructuran mucho de lo que haces. Los valores son ideas sobre la forma en que desea actuar, en lugar de los resultados que desea. Supongamos que está planeando un evento social, como la conferencia F8 que organiza cada año. Es posible que tenga un objetivo en mente, tal vez "lograr que mucha gente participe". Pero mientras elabora su invitación, también tiene una manera en la que persigue ese objetivo, tal vez quiera escribir honesta o inteligentemente. Siempre tenemos una forma en que queremos abordar las cosas. Nuestros valores.

Y aquí está el problema: en términos generales, su producto (Facebook) hace que sea más difícil para todos nosotros vivir de acuerdo con nuestros valores.

Cuando una persona pasa horas en News Feed antes de acostarse, ¿está cultivando el tipo de relaciones sociales en las que cree? ¿Están involucrados en actos de significado personal?

¡Tal vez! Facebook se puede usar de muchas maneras. Quizás, a la hora de acostarse, esta persona estaba planeando una revolución política o recolectando movimientos para un video de breakdance.

Estos dos se sienten bien acerca de su atracón de Facebook, creo.

Pero muchos de nosotros nos despertamos al día siguiente sintiendo que nuestro desplazamiento nocturno era una pérdida de tiempo. Esto se debe a que vivir de acuerdo con nuestros valores no sucede automáticamente. Algunos entornos sociales hacen que ser honesto sea más difícil, mientras que otros lo hacen más fácil. Es similar con coraje, creatividad y con cualquier otra forma en que una persona quiere actuar o relacionarse con los demás.

Como veremos a continuación, el software social simplifica y acelera ciertas relaciones sociales y ciertas acciones. Si estas acciones y relaciones que se hacen simples no coinciden con los valores de un usuario en particular, entonces el software hace que sea más difícil para esa persona vivir de acuerdo con sus valores, y les hace sentir que su tiempo no fue bien empleado.

Por ejemplo, puede ser más difícil vivir por el valor de la honestidad en Instagram, si las publicaciones honestas obtienen menos me gusta. Del mismo modo, una declaración valiente en Twitter podría dar lugar a respuestas de acoso. En cada plataforma, una persona que quiere estar atenta a sus amigos puede encontrarse en un estado de distracción agotada.

Como usuarios, terminamos actuando y socializando en formas en las que no creemos, y luego nos arrepentimos. Actuamos en contra de nuestros valores: postergando el trabajo, evitando nuestros sentimientos, complaciendo las opiniones de otras personas, participando en una mafia odiosa que reacciona a las noticias, etc.

Este es uno de los costos ocultos del software social. Digamos que es el costo de los sistemas con valores desalineados.

Cualquier entorno social puede desalinearse con nuestros valores, pero el software social hace que esta desalineación sea mucho peor.

Cómo la elección de las estructuras de software

En comparación con los sistemas sociales del pasado, regidos por convenciones o leyes sociales, el software ofrece menos espacio para la reinterpretación o desobediencia personal. Tiende a codificar exactamente cómo estamos destinados a interactuar.

Mira las convenciones sociales. Ciertamente dan forma a nuestras vidas: los adolescentes son marginados por usar la ropa equivocada, los adultos por decir creencias impopulares. Pero aún es posible ignorar las convenciones. Y a veces vale la pena: al operar fuera de la convención, una persona puede iniciar una nueva tendencia o subcultura. Con el software, por otro lado, actuar de una manera que los diseñadores no pretendían es a menudo imposible: un usuario no puede cantar "Thrift Shop" a un extraño en Tinder y no puede usar su foto de portada de Facebook en la parte inferior de la pantalla. El software ha estructurado la secuencia y el estilo con el que interactúan.²

Vemos algo similar si comparamos el software con las leyes. Imagínese si Twitter se implementara a través de la regulación gubernamental: habría una ley sobre cuántas cartas usó cuando habló, y una ordenanza que decidía quién llevaba una marca de verificación en la cara. Imagine que los burócratas deciden quién es visible para el público y quién es ignorado. ¿Podría una ley hacerte llevar y mostrar todo lo que dijiste recientemente?

En la práctica, las leyes no pueden estructurar la vida social tan estrechamente. (Incluso en las peores dictaduras, cuando los nazis hicieron que los judíos usaran estrellas, no pudieron garantizar el cumplimiento total). Como ley, sería imposible hacer cumplir el "Código de Twitter". Pero como software, es imposible no cumplir.

Por lo tanto, el software social es diferente de las leyes y las convenciones sociales. Nos guía mucho más estrictamente a través de ciertas acciones y formas de relacionarnos. Como resultado, tenemos menos posibilidades de perseguir nuestros propios valores. La estructura codificada de las notificaciones push hace que sea más difícil priorizar un valor de enfoque personal; la estructura codificada de "me gusta" hace que sea más difícil priorizar no depender de las opiniones de los demás; y estructuras similares interfieren con otros valores, como ser honesto o amable con las personas, ser reflexivo, etc.

Esto no solo causa problemas a las personas. Los problemas sociales que mencioné al principio (manipulación de elecciones, noticias falsas, adicción a internet, depresión y suicidio de adolescentes, maltrato de niños) están alimentados por lo mismo: que los actores son guiados de maneras que no concuerdan con las de nadie. valores. (Para obtener más información al respecto, consulte el ensayo de seguimiento).

Qué hacer

Volviendo a los problemas con los que usted, Zuck, está luchando: dado que están conectados con la naturaleza del software, no habrá una solución fácil. Pero aquí hay dos enfoques que podrían funcionar:

  1. A largo plazo, usted (y otros tecnólogos) pueden aprender a crear software que sea menos restrictivo, un software que funcione más como las convenciones sociales, que el usuario puede desafiar, reinterpretar expresamente y remodelar. Pero de manera realista, eso llevará décadas de investigación, innovación, cambio comercial y evolución cultural para lograrlo.
  2. La única otra opción (además de rechazar por completo la idea del software social) es aprender mucho sobre los valores y rediseñar explícitamente todo para que esté lo más alineado posible al valor, dejando espacio para la gran diversidad de valores entre sus usuarios.

He escrito una guía para usted (y para otros tecnólogos) si elige la opción # 2. Significa pensar en los productos de una manera nueva. Deben considerarse como espacios: lugares virtuales donde las personas luchan por vivir los actos y las relaciones que encuentran significativos.

Los equipos deben enfrentar preguntas como estas:

  • ¿Qué valores tienen los usuarios?
  • Para cada uno de esos valores, ¿hay características de los espacios sociales que faciliten su práctica?
  • ¿Cómo deciden los usuarios qué valores aportar a su socialización? ¿Cómo puede el software respaldar esta decisión?
  • ¿Hay tipos de conversaciones más o menos significativas? ¿Hay alguna manera de identificar una conversación menos alineada con el valor?
  • ¿Podemos lograr todo esto sin imponer nuestros propios valores corporativos o personales? ⁵

Puede parecer imposible, pero creo que este enfoque en valores y significado es parte de lo que ha hecho que Couchsurfing, Meetup y Wikipedia sean menos objetables que Facebook. Al diseñar su software, estas empresas se centraron más en los valores de los usuarios, menos en objetivos o preferencias.

Creo que te tomas en serio el hecho de pasar un buen tiempo en Facebook y de abordar los daños a la democracia y la sociedad. Entonces, supongo que intentarás rediseñar todo para enfocarte en los valores de los usuarios. En ese caso, querrás leer la siguiente publicación detenidamente y probar las hojas de trabajo y los ejercicios.

¿Listo para el desafío? Sigue leyendo:
Cómo diseñar sistemas sociales (sin causar depresión y guerra)
Gracias a la comunidad de sistemas humanos y a muchas personas por ayudarme a escribir esto.
Es posible que los lectores nerds quieran consultar mi manual sobre valores, mis ensayos sobre emociones o tomar nuestras clases.