Cinco personas se encuentran atadas y tumbadas en mitad de las vías del tren. Un tren se acerca a toda velocidad, esas personas van a morir de forma irremediable. Te encuentras situado justo al lado de una palanca que al ser activada desviaría el tren hacia una vía diferente y salvará a los cinco hombres, solo hay un pero, en esta nueva vía también se encuentra una persona atada. Si mueves la palanca cinco personas se salvarán pero una morirá ¿Usarías la palanca?
Fuente: Imagen en Myanimelist.net – Foro: The trolley problem: a though experiment
9 de cada 10 personas activarían la palanca. Parece algo natural. Moralmente parece una actuación adecuada salvar cinco vidas frente a una ¿Quién no lo haría?
Ahora, os propongo un problema parecido. En este enunciado, como en el anterior, hay cinco personas atadas a las vías del tren y una locomotora se acerca a ellos a gran velocidad. Te encuentras situado, esta vez, sobre un puente elevado, entre el tren y los cinco hombres. La única forma de detener a la locomotora sería arrojar un gran peso sobre las vías. A tu lado se encuentra un hombre de gran tamaño, si le empujas caerá sobre las vías y salvarás cinco vidas. En este caso, como en el anterior, tienes que decidir salvar cinco vidas o salvar una. ¿Lo harías ahora? ¿Empujarías a un hombre a las vías para salvar a cinco?
Fuente: Imagen en Myanimelist.net – Foro: The trolley problem: a though experiment
Los resultados de este problema son los contrarios al anterior. 9 de cada 10 personas no empujarían a un hombre para salvar la vida de los otros cinco. Las respuestas a estos dos problemas morales parece universal y consistente en sus resultados. No importa el nivel de educación, el sexo o la cultura a la que se pertenezca las respuestas morales a estos problemas siempre son las mismas.
Este ejercicio es conocido como «Trolley problem«, tiene muchísimas variaciones, pero en su formulación más general una persona A puede tomar una acción que beneficiará a un grupo de personas, pero haciendo esto, la persona B será injustamente dañada. ¿Bajo que condiciones sería moralmente aceptable que la persona A violara los derechos de la persona B para beneficiar al grupo? Aquí además escucharéis la relación entre el «Trolley problem», nuestro cerebro y los chimpancés.
Moral Design
Cuál es el motivo por el que un asesinato (eso es lo que es) sea justificable si lo realizamos a través de un objeto (palanca), pero nos resulta totalmente inmoral cuando somos nosotros los que tenemos que realizar directamente la acción (empujar a una persona).
Una de las interpretaciones para explicar este comportamiento es la distancia psicológica entre un acto y su significado. La utilización de una herramienta (palanca) que funciona de intermediario entre el acto y sus consecuencias puede cambiar nuestra percepción moral de un mismo hecho.
El diseño y su influencia moral sobre productos y usuarios no es frecuentemente tratada en nuestro día a día, por lo que me gustaría proponer una reflexión, basada, inspirada, copiada del CLARIVIDENTE artículo de Dmitry Fadeyev «Moral Design«, para llegar a hablar de moralidad en el diseño primero tendremos que hacer una pequeña elipsis.
Most people make the mistake of thinking design is what it looks like. People think it’s this veneer – that the designers are handed this box and told, ‘Make it look good!’ That’s not what we think design is. It’s not just what it looks like and feels like. Design is how it works.
Steve Jobs
El diseño es entonces, la proyección del cómo un producto ha de funcionar. Por otro lado, la apariencia de los productos han de ser reflejo de su funcionalidad, es decir, han de ser honestos.
Good design is honest — It does not make a product more innovative, powerful or valuable than it really is. It does not attempt to manipulate the consumer with promises that cannot be kept.
Dieter Rams
Desde el mundo del diseño generamos patrones de uso de productos (diseños) que afectan a nuestras vidas. Si estos patrones sirven para mejorar, elevar y enriquecer nuestras vidas podremos decir que un patrón de uso (diseño) es moral. Ahora bien, como en el caso del «troley experiment» definir un patrón de diseño como moral o inmoral reside en una pequeña pero determinante variación. Los patrones de diseño que empobrezcan nuestras vidas son inmorales y deberíamos de empezar a levantar la voz contra ellos.
Comparto la preocupación expresada por Massimo Banzi en el vídeo «Connecting«; Demasiados productos tecnológicos en la actualidad requieren de una atención constante y de un interés injustificado. Contenidos no deseados, notificaciones abrumadoras y más recientemente la gamificación en ciertas aplicaciones, que no pretenden transformar una tarea, a través del juego, en una más llevadera para un usuario, si no que empujan al sobre-consumo como única línea argumental para la existencia de una aplicación. Estos comportamientos en nuestros productos no son morales, no respetan ese intangible que es el tiempo en la vida de nuestro usuario. La finalidad de la mayoría de estos productos son el producto mismo, no aspiran a mejorar la vida de sus usuarios en ningún ámbito o contexto.
De nuevo, el problema de la distancia
Dan Airely, en un estudio con 10.000 golfistas (Tendréis que navegar un poco hasta encontrar la referencia 🙁) propuso la pregunta de cómo engañarían al resto de jugadores moviendo la bola una pequeña distancia. Las opciones que se les proponían eran: Opción A, golpeando la bola con su palo de golf. Opción B, mediante una patada. Opción C, cogiéndola con la mano y desplazándola. La mayoría de los jugadores preferían la Opción A, esta dobla al resto de posibilidades como preferencia de engaño. La distancia psicológica que nos da un palo de golf es suficiente para que tengamos el doble de posibilidades de comportarnos de una forma no-moral.
Los adornos, la complejidad añadida a un producto, los elementos superfluos, etcétera, nos alejan psicológicamente lo suficiente para que no seamos capaces de juzgar de forma correcta la moralidad o la falta de ella en nuestro trabajo. Reduciendo todo este ruido y centrándonos en el core de un objeto o servicio nos ayuda a no desviarnos del recto camino.
Good design is as little design as possible — Less is more – because it concentrates on the essential aspects and the products are not burdened with non-essentials. Back to purity, back to simplicity.
Dieter Rams
Para terminar una frase de esas que terminan con cualquier duda:
All good design is moral design, and only moral design can ever be good.
Dmitry Fadeyev