KEMs

Ethiek & Verantwoordelijkheid

DOEL

Reflectief veranderen
Het reflecteren op en handelen naar ethische en morele vragen die een (maatschappelijke) verandering of nieuwe technologie met zich meebrengt.

FASE IN ONTWIKKELINGSPROCES

  • Discover
  • Define
  • Develop
  • Deliver

TOEPASSING

  • Ontwerp, ontwikkeling en implementatie van technologie beter afstemmen op maatschappelijke en individuele behoeften en waarden.
  • Ruimte creëren voor verantwoordelijkheid en aansprakelijkheid in multidisciplinaire, multi-stakeholder innovatieprocessen.
  • Gestructureerd morele dilemma’s en paradoxen aanpakken.
  • Waardenconflicten tussen stakeholders identificeren en adresseren.
  • Op een positieve en ervaringsgerichte manier omgaan met ethiek.
    •  

Wat houdt het in?

Wat houdt deze categorie in?
KEM’s binnen de categorie Ethiek en Verantwoordelijkheid helpen ethische en verantwoorde onderzoeks- en innovatiepraktijken te bevorderen. Dit doen ze door ethiek als kernactiviteit mee te nemen in ontwerp- en innovatieprocessen. Daarnaast hebben vraagstukken rond reflectie op digitalisering, de opkomst van AI-technologie en andere sleuteltechnologieën ook een plek in deze categorie.

Waarom is dat belangrijk?
Juist bij maatschappelijke missies en transitie spelen voortdurend ethische en morele vragen op. Mensen komen elke dag in contact met tal van technologieën, variërend van fysieke en digitale producten tot diensten, systemen en ruimtes. Deze interventies zijn ontworpen met een specifiek doel en vervullen een functie. Eenmaal in gebruik hebben ze echter ook (bewust of onbewust, gewenst of ongewenst) invloed op onze sociale en maatschappelijke normen en waarden.

Om de juiste verandering teweeg te brengen is het essentieel om in alle stadia van de ontwikkeling van een innovatie kritisch na te denken over (de mogelijke gevolgen van) haar impact op een omgeving.

Wanneer pas je deze KEM’s toe?
Bij vragen zoals:

  • Hoe kan de creatie (zoals ontwerp, ontwikkeling en implementatie) van technologie beter afgestemd worden op onze maatschappelijke behoeftes en waarden?
  • Hoe creëer je ruimte voor verantwoordelijkheid en aansprakelijkheid in multidisciplinaire, multi-stakeholder (oftewel, genetwerkte) innovatieprocessen?
  • Hoe ga je om met morele dilemma’s en paradoxen?
  • Hoe identificeer en adresseer je waardenconflicten tussen stakeholders, zoals burgers, overheid, industrie, experts, enzovoorts?
  • Hoe ga je op een positieve en ervaringsgerichte manier om met ethiek?
  • Hoe navigeer je tussen belangrijke ethiek gerichte methoden en benaderingen op het snijvlak van technologie- en ontwerpfilosofie?

Welke methoden bestaan er?

De voorlopige inventarisatie van ethiekgerichte methoden en benaderingen is in te delen in onderstaande figuur. Methoden zijn ingedeeld op twee hoofddimensies: 

  1. Van beoordeling tot begeleiding; 
  2. Van methoden met een theoretische basis tot werkwijzen met een flexibele theoretische basis;

Beoordelingsmethoden met een theoretische basis
(kwadrant linksboven)

  • Traditional Technology Assessment (TA) methoden richten zich op het voorspellen van technologische impact. TA is ontstaan in de jaren zestig in de Verenigde Staten, en helpt bij het monitoren van de sociale, juridische, economische en ethische impact van technologische ontwikkelingen op de samenleving om beleidsmakers te informeren over alternatieve beleidsmaatregelen (Banta, 2009). TA is een uiterst breed praktijkveld, met subvelden waaronder:
    • Health Care Technology Assessment (Banta, 2003) geeft besluitvormers input voor mogelijkheden omtrent gezondheidstechnologie.
    • Constructive Technology Assessment (CTA) (Schot & Rip, 1997) heeft als doel een grotere verscheidenheid aan actoren (bijvoorbeeld sociale en technologische actoren) te betrekken bij het voorspellen van impact. CTA benadrukt het belang van het beoordelen en adresseren van de sociale implicaties van technologieën tijdens hun ontwikkeling.
    • Ethical CTA (eCTA) (Kiran et al., 2015) bouwt voort op CTA en voegt daarbij een expliciete ethische dimensie toe. Deze pleit voor een meer co-creatieve vorm van beoordeling die rekening houdt met individuele en culturele verschillen en in lijn is met een co-evolutionaire benadering van technologische impact.
  • Critical Design (Dunne, 1999; Dunne & Raby, 2013) produceert provocerende ontwerpen die ‘consumentistische’ verlangens en maatschappelijke normen ter discussie stellen. Critical Design is niet gericht op directe bruikbaarheid, maar dient als stof tot nadenken, waarbij mogelijke implicaties van moderne technologieën worden belicht, vaak met inzichten uit ethiek, filosofie, politieke wetenschap en meer.
  • Adversarial Design (DiSalvo, 2012)  is een radicalere manier om ’tegen’ verwachtingen in te ontwerpen om de status quo ter discussie te stellen en is geworteld in agonistische democratie. Hoewel dit geen typische ‘beoordelings’ benaderingen zijn, kunnen ze wel een ‘monitoring’ functie hebben omdat ze kritisch reflecteren op lopende wetenschappelijke en technologische ontwikkelingen.

Theoretisch anticiperend
(midden bovenaan)

  • Technological Mediation (Verbeek, 2011) en Techno-Moral Change Scenarios (Swierstra et al., 2009) gebruiken anticipatieoefeningen om belangrijke zorgen en waarden rond opkomende technologieën of technologische ideeën te identificeren zodat deze kunnen worden meegenomen in ontwerp- en innovatieprocessen (zie bijvoorbeeld de casus rond Google Glass in Kudina & Verbeek, 2019; of AI-ethiek in Steen et al., 2021).
  • De Product-Impact Tool implementeert en bouwt voort op mediatieanalyse om morele reflectie en discussie op een praktische en boeiende manier te faciliteren (Dorrestijn, 2020).

Begeleidingsmethode met een theoretische basis
(kwadrant rechtsboven)

  • Socio-Technisch Experimentatie trekt in twijfel of anticiperen van maatschappelijke impact mogelijk is. In plaats daarvan richt het zich op het reguleren van het innovatieproces (in tegenstelling tot speculeren over de uitkomsten ervan) (Van de Poel, 2011; 2013). Het erkent de radicale onzekerheden en potentiële gevaren van nieuwe technologieën (zoals nanotechnologie, biotechnologie) en streeft ernaar deze aan te pakken door middel van een adaptief leerproces vergelijkbaar met wetenschappelijke en medische experimenten. Socio-Technische Experimentatie gaat dus niet uit van een specifieke ethische theorie, maar bouwt voort op principes uit onderzoeksethiek en biomedische ethiek. Het is gebaseerd op bepaalde theoretische aannames over de relatie tussen technologie en samenleving. Ook impliceert het een visie op ontwerp waarbij het ontwerpproces niet eindigt zodra een technologie in een samenleving is geïntroduceerd: technologieën kunnen worden herontworpen op basis van nieuwe inzichten over morele implicaties die pas duidelijk worden nadat een technologie in gebruik is.
  • Value Sensitive Design (VSD) (Friedman & Hendry, 2019) en Participatory Design (bijvoorbeeld Bjögvinsson et al., 2012) benadrukken de verdeelde verantwoordelijkheid van stakeholders die betrokken zijn bij ontwerp- en innovatieprojecten. De uitkomsten zijn open en grotendeels gebaseerd op de posities en visies van de betreffende stakeholders. VSD is geworteld in conceptueel, empirisch en technisch onderzoek. Het ligt ten grondslag aan een aantal benaderingen in techniek en ontwerpethiek, zoals Design for Values (Van den Hoven et al., 2015).
  • Speculative Design (Dunne & Raby, 2013) wordt op de grens tussen begeleiding en beoordeling geplaatst omdat deze het stellen van provocerende ‘wat als’-vragen omvat die zowel beoordeling als begeleiding kunnen dienen. Hoewel Speculative Design nauw verwant is aan Critical Design vanwege een gedeelde kritische ethos, richt Speculative Design zich op toekomst terwijl Critical Design zich richt op parallelle, alternatieve realiteiten.

Beoordelingswerkwijze met een flexibele theoretische basis
(kwadrant linksonder)

Dit kwadrant weerspiegelt TA-benaderingen en omvat concrete protocollen en beoordelingsformats die veel worden gebruikt in de technologie- en ontwerpfilosofie.

  • Delphi is een voorbeeld van een wetenschappelijke methode die helpt bij het organiseren van diepgaande discussies om inzichten te genereren over controversiële onderwerpen die het gevolg zijn van snelle technologische en sociale veranderingen (zie ook Beiderbeck et al., 2021).
  • Daarnaast wordt een verscheidenheid aan computationele modellerings- en simulatietechnieken gebruikt om TA uit te voeren. Bovendien worden er specifieke ‘toolboxen’ ontwikkeld in bestuurscontexten, zoals de Responsible Research and Innovation (RRI) Toolkit, Ethically Responsible Innovation Toolbox, Ethische Data Assistent (DEDA) en de Impact Assessment Mensenrechten en Algoritmes (IAMA) om verantwoorde praktijken te faciliteren.
  • Ten slotte bestaan ​​er in ontwerponderzoek verschillende methoden voor gebruiks- en gebruikersonderzoek om bestaande technologieën te testen en opnieuw te ontwerpen in overeenstemming met ontwerpvereisten (bijvoorbeeld toegankelijkheid, duurzaamheid, et cetera).

Begeleidingswerkwijze met een flexibele theoretische basis
(kwadrant rechtsonder)

Dit kwadrant is voornamelijk gevuld met ontwerpmethoden en -benaderingen die actiegerichte begeleiding bieden voor ontwerpers, ingenieurs en andere ontwikkelaars van technologie. Dit komt omdat de taak van het interpreteren van een specifieke theorie en het omzetten ervan in toepasbare ontwerprichtlijnen vaak bij ontwerponderzoekers ligt, tenzij eerder onderzoek en/of casestudy’s begeleiding bieden die kan worden toegepast.

  • Design Fiction (Sterling, 2005; Bleecker et al., 2022) richt zich op het visualiseren van mogelijke werelden waar specifieke artefacten bestaan die ontwerpers in staat stellen hun ethische wenselijkheid te tonen en evalueren.
  • Vision in Product Design (ViP) (Hekkert & Van Dijk, 2011) benadrukt de vrijheid, authenticiteit en verantwoordelijkheid van de ontwerper als maatschappelijke actor. ViP nodigt ontwerpers uit om een eigen statement of een visie te formuleren die de behoeften van mensen balanceert met de manier waarop de ontwerper grotere factoren die de samenleving beïnvloeden (bijvoorbeeld technologische vooruitgang, economische factoren, psychologische factoren, sociaal-culturele ontwikkelingen) interpreteert. Dit vormt vervolgens de basis voor het ontwerpproces.
  • De Social Implication Design (SID) methode (Tromp & Hekkert, 2018) bouwt voort op ViP om ontwerpers te ondersteunen bij het redeneren van een maatschappelijk vraagstuk naar een ontwerpvoorstel door zich te richten op sociale dilemma’s. Op deze manier exploiteert het de impliciete maar onvermijdelijke rol van ontwerp bij het veranderen van menselijk gedrag in sociaal gewenste richtingen (bijvoorbeeld sociale cohesie, gezond leven).
  • Op dezelfde manier beschouwt Dilemma-Driven Design (Ozkaramanli et al., 2020) persoonlijke dilemma’s als waardevolle uitgangspunten voor het begrijpen van mensen en het bedenken van innovatieve ontwerpideeën. Door te benadrukken welke gemengde emoties en tegenstrijdige zorgen mensen kunnen ervaren in het gebruik van technologie, wordt de mens centraal gezet.
  • Begeleidingsethiek (Verbeek & Tijink, 2020) pleit voor een bottom-up en positieve benadering die concrete acties biedt voor degenen die betrokken zijn bij technologieontwikkeling. Begeleidingsethiek bestaat uit een workshop waarin verschillende stakeholders (variërend van burgers tot technologieontwikkelaars en managers) met elkaar in contact komen en brainstormen over de positieve en negatieve uitkomsten van technologie. Deze workshop kan worden gedaan in de conceptualisatiefase van een technologie, maar ook tijdens ontwikkeling of implementatie. De resultaten ervan hebben betrekking op concrete actiemogelijkheden voor technologie (hardware en software), technologiegebruikers (gedrag) en context (bijvoorbeeld onderwijs, management, beleid).
  • Values that Matter richt zich op een vergelijkbare manier op het analyseren en integreren van de dynamische aard van waarden in technologieontwerp en -ontwikkeling door de geleefde ervaringen van stakeholders in hun dagelijkse context te bestuderen door middel van actieonderzoek en Living Labs (Smits et al., 2022).
  • Het Design Justice Framework (Costanza-Chock, 2020) onderzoekt kritisch hoe ontwerp lasten, beloningen en risico’s onevenredig kan verdelen over verschillende maatschappelijke groepen. Gebaseerd op het idee van intersectionaliteit, pleit Design Justice voor de evaluatie van meerdere sociaal-economische en historische factoren bij het bepalen van de toewijzing van voordelen en schade. Dit zorgt ervoor dat rechtvaardigheid de kern blijft van ontwerpbeslissingen. De essentie van dergelijke op ethische principes gebaseerde benaderingen is niet alleen om ontwerpen te doordrenken met ethische overwegingen, maar ook om ze te verankeren als de basis waarop ontwerpen worden bedacht en gerealiseerd.
  • Werkwijzen met een flexibele theoretische basis omvatten vaak het creëren van scenario’s, die in verschillende vormen zijn geïmplementeerd, zoals Techno-Moral Change Scenarios (Swierstra et al., 2009), Value Scenarios (Friedman & Hendry, 2019), Socio-Technical Scenarios (Rip & Kulve, 2008) of Design Fiction (Sterling, 2005; Bleecker et al, 2022).
  • Een andere populaire techniek is het ontwerpen van prototypen die een ervaringsdimensie toevoegen aan discussies over waarden en ethische principes, waardoor het onderwerp toegankelijk wordt gemaakt voor een breder publiek. Prototypes worden soms op een opzettelijk provocerende manier gebouwd (zie ook Boer & Donovan, 2012) om debat te stimuleren en diepere emoties en discussies rondom waarden uit te lokken tussen stakeholders.

Ethiek & Verantwoordelijkheid in de praktijk

Videos

Sabine Niederer doet onderzoek naar de beeldtaal op social media-platforms, bijvoorbeeld door te vergelijken hoe die platforms op verschillende manieren urgente maatschappelijke thema’s zoals klimaatverandering in beeld brengen.

Methoden

Een kritische, experimentele en op theorie gebaseerde benadering van ontwerp die speculatieve ontwerpen inzet om een kritisch perspectief te delen en het publiek in debat te brengen over sociale, culturele of ethische kwesties.

Cases

Een netwerk van ontwerpers, filosofen, onderzoekers, zorgprofessionals en ervaringsdeskundigen maken samen een gewenst ontwerp van de GGZ in 2030. Door te innoveren vanuit betekenis zetten ze gezamenlijk de beweging in gang richting een betrouwbaar, toegankelijk en flexibel GGZ-netwerk.