Volg Software Zaken

Ethisch gebruik van data: Data Ethics Decision Aid

| Sieuwert van Otterloo | Artificial Intelligence

De Data Ethics Decision Aid (DEDA) is een papieren hulpmiddel om te zorgen voor verantwoord gebruik van data en intelligentie. De DEDA bestaat uit een poster en een handboek, die je in een workshop setting gebruikt. Na afloop van de workshop heb je dan een ethische analyse waarmee je kan besluiten of een algoritme of app verantwoord is om te gebruiken.

Hoe gaat een DEDA workshop

Het belangrijkste onderdeel van de DEDA is een poster met vragen. Om te spelen verzamel je een groepje mensen (3-10) en kies je een projectidee waarin data wordt gebruikt. Dit kan een project zijn dat je van plan bent om te doen, of een voorbeeld-project. Onderaan dit project staan enkele voorbeelden. Vervolgens besluit je dat één van de mensen aantekeningen maakt.

Daarna loop je met zijn allen de poster door. Op de poster staan vragen over het project. De antwoorden bespreek je met elkaar en schrijf je vervolgens op (bijvoorbeeld op een geel briefje). Als je geen antwoord kunt geven, schrijf dan op wat er voor nodig is om tot een antwoord te komen.

Tot slot komt fase 3. Als je alle inhoudelijke vragen hebt beantwoord, bespreek je een aantal ethische waardes: van openheid tot rechtvaardigheid en wettelijkheid. Bespreek met elkaar of de waarde voor dit project belangrijk is, en of de manier waarop het project is opgezet hieraan voldoet. Misschien is het nodig om eerdere antwoorden te wijzigen. Je kunt de waardes ook neerzetten bij de eerdere onderwerpen als de waardes daar ingevuld worden. Ook is het mogelijk dat bepaalde waardes niet voldoende geborgd zijn. Je moet dan bespreken of het projectidee veranderd kan worden, of dat het project niet moet worden uitgevoerd.

Hierna is de workshop afgelopen. Je kunt een foto maken van de poster om het resultaat vast te leggen, of een apart verslag maken.

De vragen en waardes van de DEDA

Op de poster komen de volgende blokken met vragen langs in fase 2:
Basisgegevens: wat is het projectdoel, welke data wordt gebruikt, wat zijn de voordelen en wie zijn de belanghebbenden

  1. Algoritmes: welke zijn dit, en zijn deze uitlegbaar?
  2. Bronnen: waar komt de data vandaan
  3. Anonimisatie: Wordt data anoniem gemaakt?
  4. Visualisatie: Hoe worden resultaten weergegeven
  5. Toegang: Wie heeft er toegang tot de data? Is er monitoring?
  6. Delen, hergebruik en extra gebruik.
  7. Verantwoordelijkheid
  8. Communicatie
  9. Transparantie
  10. Privacy
  11. Bias

In fase 3 worden de volgende waardes gebruikt:

  • Openheid
  • Respect voor autonomie
  • Efficiëntie
  • Integriteit
  • Inclusiviteit
  • Rechtvaardigheid
  • Legitimiteit

Het is natuurlijk ook mogelijk om je eigen waardes te gebruiken, als je organisatie zelf waardes heeft bepaald.

Wanneer en waarom moet je een DEDA doen

Er zijn meerdere redenen waarom je een DEDA zou willen doen. De eerste is de privacy-wet AVG. De AVG verplicht bedrijven om privacy by design toe te passen. Dit betekent dat je vroeg in een project al privacy moet meenemen in het ontwerp. Je kunt dit doen door met het ontwerp-team een DEDA-workshop te houden. Volgens de AVG is het ook verplicht om bij innovatieve projecten met persoonsgegevens een impact assessment te doen. De DEDA is leuke manier om informatie voor de impact assessment te verzamelen.

Verder is het ook zo dat de toepassing van kunstmatige intelligentie kan leiden tot extra zorgen of risico’s. Als AI op de verkeerde manier wordt toegepast, ontstaat er bijvoorbeeld bias, discriminatie of ongewenste uitkomsten. Een DEDA kan helpen om AI beter toe te passen. De AI impact assessment probeert dit ook, maar is veel minder interactief dan een DEDA workshop.

Voorbeelden om de DEDA bij te gebruiken

De volgende voorbeelden zijn project-ideeën waarbij AI gebruikt wordt, waarbij niet meteen duidelijk is of dit een goede manier is en of privacy voldoende beschermd is. Je kunt deze voorbeelden gebruiken als je DEDA een keer wilt uitproberen.

  • Persoonlijke content. Je bent developer bij een grote nieuwswebsite, en uit marktonderzoek blijkt dat lezers allemaal andere interesses hebben (sport, cultuur, reizen, gadgets, economie, opleidingen, …). Je bent daarom gevraagd om de website persoonlijk te maken. De website moet elke bezoeker herkennen, en weten waar de bezoeker de vorige keer op gezicht heeft en welke artikelen bekeken zijn. Vervolgens ga je met behulp van AI artikelen opzoeken die bij de interesses van de lezer passen. Ook de advertenties worden persoonlijk gemaakt: op basis van de gelezen artikelen en andere bezochte websites worden persoonlijke advertenties getoond.
  • Studie-uitval. Je werkt aan een universiteit bij een studie waar er veel uitval is van studenten: Veel studenten maken de studie niet af, vanwege gebrek aan kennis, inzet en motivatie. Dit kost de universiteit veel geld. Er wordt daarom gekozen om studie-uitval met behulp van AI te herkennen. Elke inschrijver moet een persoonlijkheidstest doen en zijn sociale media-profielen opgeven. Op basis hiervan wordt gekeken wat voor interesses je hebt en of die passen bij de studie. Tijdens de studie wordt er gekeken hoe vaak je inlogt en of je op tijd alle opdrachten maakt. Als het systeem denkt dat jij de studie niet gaat afmaken, ontvang je een negatief advies en mag je niet verder studeren.
  • Camera-toezicht. In een kleine stad met veel toeristen, hebben de winkeliers veel last van winkeldiefstal. Het vermoeden is er dat een kleine groep van slimme dieven op drukke momenten van alles steelt. De winkeliers zijn het zat en willen een slim camerasysteem. Alle personen die het winkelgebied inlopen worden met camera’s en gezichtsherkenning herkend, Winkeliers melden alle diefstal aan. Het systeem kijkt wie er vaak komt (en dus geen toerist is) en wie er vaak is op dagen dat er diefstal is. Als het systeem een mogelijke winkeldief gevonden heeft, wordt de foto van de mogelijke winkeldief aan alle winkeliers doorgegeven.
  • Online filmfestival. Gesteund door sponsors en een cultuurfonds, is er een ‘online filmfestival’ gestart. Dit festival wil onafhankelijke filmmakers helpen met publiciteit, maar ook met inhoudelijke feedback. Het filmfestival heeft daarom een app gemaakt waarmee iedereen ingezonden films kan bekijken. De app registreert welke films worden bekeken, maar ook welke delen wel en niet bekeken worden, welke stukken doorgespoeld en opnieuw bekeken worden. Ook gebruikt de app de camera om emoties te herkennen, zodat de app weet of mensen de film spannend vinden, moeten lachen, etc. Deze data wordt gebruikt om de beste films en de beste scenes te vinden en wordt beschikbaar gemaakt aan elke filmmaker zodat ze de film beter kunnen editen.

Meer informatie

De Data Ethics Decision Aid (DEDA) is ontworpen door Mirko Schäfer en Aline Franzke van de Utrecht Data School en de Universiteit Utrecht. De originele DEDA poster is daar verkrijgbaar, en ook de DEDA manual. Bij ICT Institute gebruiken we de DEDA soms bij agile workshop (als het team vragen heeft over verantwoord gebruik AI) en geven we op verzoek ook trainingen over het gebruik van DEDA of andere hulpmiddelen voor verantwoord AI-gebruik.

Author: Sieuwert van Otterloo
Dr. Sieuwert van Otterloo is IT-expert en startup enthusiast. Hij heeft veel ervaring met scrum, agile, IT-beveiling, IT-contracten, IT-strategie. Sieuwert is als expert toegelaten bij NVBI, LRGD en SGOA.