Nuestro comportamiento en línea es un problema de diseño

Internet se ha vuelto más malo y menos confiable, pero hay esperanza.

imagen: Reuters / Brendan McDermid

Ya sea que estemos hablando de trolls, hostigadores en serie, racistas o proveedores de propaganda, parece que el comportamiento en línea de los peores de nosotros ha filtrado el discurso civil de los mejores de nosotros. El vitriolo que acompañó las elecciones estadounidenses de 2016 en particular ha suscitado preguntas dolorosas. ¿El problema de las noticias falsas de Facebook significa que ya no nos importa la verdad? ¿La moda actual de la recopilación digital de perros significa que hemos olvidado cómo estar en desacuerdo sin ser desagradable? Quizás todos somos gente horrible en el fondo, y nuestros tweets, publicaciones y comentarios son simplemente una ventana más clara a nuestras almas oscuras.

O tal vez poner un megáfono anónimo en las manos de todos y envolvernos en cámaras de eco personalizadas nos hace más propensos a ser terribles. Además de los auténticos neonazis y misóginos que ejercen el derecho a amplificar sus voces, muchos otros simplemente están borrachos con el poder de provocar.

Quizás poner un megáfono anónimo en las manos de todos y envolvernos en cámaras de eco personalizadas nos hace más propensos a ser terribles.

La respuesta de las plataformas de medios digitales, ejemplificada por el lavado de manos posterior a las elecciones de Mark Zuckerberg, ha sido durante mucho tiempo: "No nos culpen, somos solo el medio". Pero esa excusa se está agotando. Ninguna plataforma es verdaderamente agnóstica: todos tienen sus preferencias, permisos y prohibiciones, cada aspecto diseñado por personas.

El debate actual sobre el impacto de las redes sociales en las recientes elecciones es solo la punta del iceberg. A medida que nuestras vidas avancen en línea, la forma en que diseñamos las interacciones digitales tendrá consecuencias sociales aún mayores. No es hiperbólico decir que las interfaces de usuario cuidadosamente diseñadas pueden hacernos una sociedad más libre, más humana y más justa, así como las mal diseñadas parecen habernos hecho a muchos menos compasivos, menos informados y más antagónicos.

Las interfaces de usuario cuidadosamente diseñadas nos hacen una sociedad más libre, más humana y más justa.

Twitter no se convirtió en un pozo negro de trolling y hostigamiento porque fue ocupado por la fuerza por un equipo de odiadores, resultó de esa manera debido a una combinación única de alcance, anonimato y falta de consecuencias. Me encanta Twitter, pero también he sido testigo de primera mano de cómo puede convertir a personas enojadas y descontentas en supervillanos, capaces de intimidar y perturbar vidas en todo el mundo con solo presionar algunas teclas.

Facebook, del mismo modo, no fue secuestrado por proveedores de noticias falsas, sino que creó un sistema que los hizo inevitables. Los clics equivalen a ingresos por publicidad, las personas comparten lo que refuerza sus creencias, y la siguiente noticia sugerida es lo que es popular o tendencia, no lo que se verifica o es noticia. Era solo cuestión de tiempo antes de que las personas con mentalidad de ficción descubrieran esto, y hasta ahora, hay poco para convencerlos de que se detengan.

Pero la gente creó estos sistemas, y la gente puede corregirlos. Los diseñadores que se deleitan con los detalles de cómo interactúas con aplicaciones y sitios web juegan un papel tan importante en la determinación de cómo nos comunicamos como lo hacen nuestras propias elecciones. Los diseñadores de interacción son, en general, personas inteligentes y empáticas que han hecho del mundo tecnológico un lugar más amigable y útil al prestar mucha atención a la forma en que las personas usan las cosas, y luego pasan por un sinfín de pruebas y errores hasta que esas cosas funcionan mejor.

El problema no es de mecanismo, sino de voluntad.

En los últimos años, un producto o servicio que "funciona mejor" ha significado uno fácil de usar, ampliamente adoptado y rentable. Todos estos son objetivos admirables, y son una gran parte de por qué actualmente podemos comunicarnos, aprender, comprar, trabajar y jugar de infinitas maneras a escala global. Crear nuestras aplicaciones, sitios web y dispositivos para que esto sea posible fue un esfuerzo masivo llevado a cabo por miles de personas capacitadas, y no fue fácil.

Devolver la civilidad y la credibilidad a la discusión en línea debería ser lo más posible, pero también igual de difícil.

Hacer que lo incorrecto sea más difícil de hacer.

El foro en línea Nextdoor.com fue concebido originalmente por el fundador y CEO Nirav Tolia como una forma de fomentar la comunidad a través de paneles de discusión específicos del vecindario. Para su consternación, también se convirtió en un refugio involuntario para el perfil racial, y los residentes preocupados publicaron sobre actividades sospechosas de extraños a quienes identificaron solo por origen étnico. Después de una apelación del grupo Vecinos para la Justicia Racial con sede en Oakland, Tolia dio el paso sin precedentes de rediseñar la interfaz para intentar reducir el perfil.

Funcionó increíblemente bien. Los primeros análisis del rediseño piloto de Nextdoor sugieren que redujo las publicaciones racistas en un 75% casi inmediatamente después de la implementación. El mecanismo es asombrosamente simple: si especifica la raza de un sospechoso cuando informa un delito o actividad sospechosa, Nextdoor ahora solicita otras dos características de identificación, como la altura o una prenda de vestir; de lo contrario, la publicación no se publicará. Resulta que hacerlo un poco más difícil después de los comentarios racistas puede reducir drásticamente su prevalencia.

Llegar a esta solución probablemente requirió un esfuerzo considerable, pero hacer este tipo de cosas correctas, así como decidir cuántos pasos se requieren para iniciar sesión o qué sucede cuando desliza hacia abajo en la pantalla de su teléfono inteligente, es lo que los diseñadores de interacción hacen todo el día. Entonces, aunque el ajuste de la interfaz de Nextdoor fue inusual en términos de intención, fue una ejecución rutinaria. Eso es lo que lo hace repetible.

Si Facebook quiere combatir las noticias falsas, podría ser tan simple como dejar que los lectores marquen un elemento como falso o vincularlo automáticamente a una publicación relacionada de Snopes. El problema de los trolls de Twitter es aún más directo: las víctimas de acoso ya tienen algunas solicitudes muy específicas (listas de bloqueo compartidas, bloqueo automático de nuevas cuentas, etc.), y algunos usuarios incluso han creado prototipos de posibles soluciones, como la serie de bots antirracistas de Twitter desarrollados recientemente por un estudiante de la NYU como parte de un estudio sobre comportamiento político. El problema no es uno de mecanismo, necesariamente, sino de voluntad.

No existe una plataforma imparcial.

La principal crítica de este tipo de diseño de interfaz "activista" es que constituye ingeniería social y dificulta la libertad de expresión. Pero recuerde: no existe una plataforma imparcial. Cada interacción digital fomenta ciertos comportamientos, y cada canal de medios tiene limitaciones. La configuración activa de esos parámetros para fomentar la discusión civil y objetiva no solo es justificable, sino que es una necesidad ética.

Afortunadamente, toda nuestra reciente búsqueda del alma parece estar moviéndonos en esta dirección. Tanto Facebook como Twitter se han registrado en el último mes prometiendo tomar estos problemas más en serio. Si ellos y otras compañías basadas en Internet, en última instancia, hacen lo suficiente dependerá de la presión constante de los usuarios interesados. Y casi con toda seguridad será objeto de legislación en algún momento.

El diseño de interacción ha sido una fuerza poderosa y en gran medida no reconocida en la configuración de nuestro mundo digital. Ha hecho que los hogares de extraños sean tan accesibles como las habitaciones de hotel, le permite comprar prácticamente cualquier cosa en la tierra mientras hace cola para tomar café, y le da a los agricultores africanos rurales un mejor acceso bancario que nuestros padres. Dado este poder, y dada la urgencia del problema, no tenemos excusas. Es hora de rediseñar Internet para mantenerlo seguro para la civilización, y es una tarea que estamos listos para enfrentar como usuarios y diseñadores.

Una versión anterior de este artículo apareció en Quartz en diciembre de 2016, bajo el título "El diseño es la mejor arma que tenemos en la lucha contra las noticias falsas"