Ik hou van Mastodon. Het voelt daar alsof we weer net begonnen zijn met het internet. Discussies over het goede, over gezamenlijke verantwoordelijkheid en over de macht van big tech. En over ethiek.
Onlangs postte Eric the Cerise een geweldige toot. Citaat:
The true solution to almost all “trolley car” problems is to find who keeps tying people to the tracks.
In trolley car problems, the people tied to the tracks always represent some disadvantaged sector of society — poor people, homeless people, no healthcare, minorites, etc — or even just (pardon the expression) “regular” lower class people.
And the “problem” is always “do you let those people be run over in order to save a billionaire, or a corporation, or the banking industry, or some sector of the economy, etc.
And again … why are those people tied to the tracks in the first place? What is wrong with our economy/society/legal system, that we have those people stuck in those disadvantaged positions?
Het trolley problem
Het trolley problem is een dilemma waarin je moet beslissen wiens leven je redt en wie je laat overrijden door de trolley. Meer algemeen is het dilemma vaak het kiezen tussen twee groepen mensen, of twee vervelende opties. Uitgangspunt: het doet sowieso zeer, wat is de minst pijnlijke optie?
In het geval van de zelfrijdende auto: overrijdt de auto de oude man of het voetballende kind? Doorgaans wordt in het denken de waarde van de slachtoffers voor de maatschappij meegewogen. (…)
Hannah Arendt
Hannah Arendt maakt in haar denken onderscheid tussen problemen oplossen en handelen.
- Bij het oplossen van het probleem benader je het probleem als een puzzel: je weegt je de argumenten rationeel af en kiest het beste. Je bent neutraal.
- Handelen heeft te maken met oordelen. Je weegt niet neutraal, je bedenkt wat je er zelf van vindt. Je verbindt jezelf aan het probleem.
Het trolley problem wordt vaak als puzzel benaderd, als probleem dat je kunt oplossen: de waarde van de potentiële slachtoffers heeft invloed op de keuze.
Arendt zou daar kritisch op zijn: waarom accepteer je het probleem zoals het is? Waarom accepteer je dat er mensen op het spoor liggen en die trolley rijdt? Als je het probleem (de opdracht) accepteert zoals het is, wordt je oplossing nooit groter dan het probleem: slachtoffers zijn onververmijdelijk, je accepteert dat.
Het probleem groter zien: het probleem in context
Je zou moeten uitzoomen: wat is de grote context van het probleem?
In het geval van de zelfrijdende auto: het mengt niet goed met het gewone verkeer. Dus: geef ze een eigen baan, zodat hickups het verkeer niet ophouden en potentiële botsingen niet plaats vinden. Je past de stad aan aan de technologische ontwikkeling.
Arendt zou hiermee nog steeds niet tevreden zijn. Het probleem wordt nog steeds geaccepteerd zoals het is, alleen de oplossingsruimte is iets vergroot en verbeterd.
Het probleem niet accepteren: denken vanuit waarden
Als je nog verder uitzoomt zie je de maatschappij als context. En dan worden de vragen ineens anders: waarom offeren we ruimte op aan zelfrijdende auto’s? Waarom accepteren we de conflicten die ze oproepen? Past dat bij de waarden en behoeften van de stadsbewoners? Wat als er betere fietspaden zijn, beter openbaar vervoer, en betere speelplekken?
En dat denken vanuit waarden (leefbaarheid, sociale cohesie) leidt meteen tot oordelen: dit is niet ok. En dat leidt weer tot handelen: in San Fransisco is de California Public Utilities Commission weliswaar voor zelfrijdende auto’s, maar de burgerlijk ongehoorzame burgers accepteren dat niet niet zomaar: door een pilon op een auto te zetten, kan de auto niet verder rijden.
Deze burgerlijke ongehoorzaamheid zou Arendt toejuichen. Burgers handelen vanuit waarden samen in het collectieve belang. Geweldloos en mediageniek.
We passen de maatschappij niet aan aan de technologie, maar passen de technologie toe (of niet) zoals we dat als maatschappij willen.
Problemen oplossen of handelen
Als ontwerpers vind ik dat het onze plicht is altijd vanuit waarden te handelen. Accepteer de situatie of opdracht niet zomaar zoals die is, maar denk na over de waarden die er mee samen hangen. Oordeel zelf, en oordeel met je collega’s.
Samengevat:
En bind echt nooit iemand vast op het spoor.
Liefde <3