Hulpmiddelen voor verantwoord gebruik AI

Artificial Intelligence (AI) wordt al veel gebruikt, en het aantal toepassingen groeit nog steeds. AI kan bijvoorbeeld worden gebruikt voor adviezen, voorspellingen of opsporen problemen. Het is belangrijk dat AI verantwoord wordt ingezet, om problemen te voorkomen. Gelukkig zijn er veel tools, frameworks en hulpmiddelen die hierbij kunnen helpen. In dit artikel is een overzicht van bij ons bekende tools. Deze lijst is gemaakt met hulp van  deelnemers aan het AI-fieldlab dat georganiseerd is door Hogeschool Utrecht- lectoraat AI, Hogeschool Rotterdam  – lectoraat AI en Society en Media Perspectives met ook deelname van RTL.

Wat is een AI-hulpmiddel

We hebben gezocht naar hulpmiddelen die in een AI project in de beginfase gebruikt kunnen worden. Dit sluit aan bij het AVG-principe van privacy by design. Organisaties moeten tijdens het project zaken als privacy al meenemen. Verder is er een brede definitie van hulpmiddel gehanteerd: van bordspel tot boek of handleiding tot software-tool. Sommige hulpmiddelen zijn gericht op iedereen, anderen specifiek voor ontwerpers. We hebben de tools alfabetisch gerangschikt.

Overzicht AI-hulpmiddelen

AI Impact assessment

De AI impact assessment van het ECP is een boek  dat een tien-stappen-proces omschrijft waarmee men kan toetsen of kunstmatige intelligente verantwoord wordt ingezet. De impact assessment is ontwikkeld door ECP. Link naar uitleg-artikel en direct naar de AI impact assessment. 

Data Protection Impact Assessment

De Data Protection Impact Assessment (DPIA) is een assessment die omschreven is in de AVG/GDPR en die verplicht moet worden uitgevoerd bij projecten met persoonsgegevens die een hoog privacyrisico geven. Denk hierbij aan monitoring, zwarte lijsten, slim cameratoezicht en veel AI-applicaties. 

Datalabel.org

Datalabel.org is een initiatief voor een bijsluiter bij het kopen of verkopen van data. Het kopen/verkopen van data is niet helemaal in lijn met Europese privacyregels, maar als het gebeurt moet het transparant gebeuren en daar kan het datalabel bij helpen.

DEDA (Data Ethics Decision Aid)

De DEDA is een poster die gebruikt kan worden om een discussie te houden over een concreet initiatief. DEDA is in nauwe samenwerking met data-analisten van de Gemeente Utrecht ontwikkeld door de Utrecht Data School. Zie dit artikel over DEDA voor meer informatie.

DEON

DEON is een checklist voor verantwoord gebruik van data is data science projecten. Alle mogelijke ethische issues worden op een praktische manier uitgelegd met voorbeelden. DEON is hier te vinden. 

Design method toolkit

De Design Method toolkit bevat bekende design tools voor agile teamprojecten, aangeboden door Digital society school. De tools zijn niet AI-specifiek maar kunnen op elk project worden toegepast.

Envisioning cards

Envisioning cards zijn kleine kaartjes met een design-vraag of een stuk uitleg over mogelijk gebruik. De kaarten kunnen gebruikt worden voor het verbeteren van design-gesprekken of design-overleggen. De kaarten zijn gebaseerd op de methode value sensitive design.

Ethics guidelines AI van de EU

De Ethics Guidelines for Trustworthy Artificial Intelligence (AI) is een publicatie van een expert-groep van de Europese Unie. Er staan hier formele regels in die helpen bij het goed toepassen van AI.

Ethics Inc ontwerpspel

Ethics Inc is een kaartspel mede ontwikkeld door de Hogeschool Utrecht, waarmee men aan de hand van een voorbeeldcasus of een eigen casus een ethische discussie kunt voeren. Het kaartspel is te downloaden en een digitale versie is in de maak. 

Ethics toolkit van San Francisco

Ethics Toolkit.ai is een toolkit ontwikkeld om overheden te helpen om de impact van het gebruik van algoritmes te begrijpen.

Ethische codes (Sienna-project)

Een ethische code is een set van regels of principes. Het Sienna-project heeft een overzicht gemaakt van ethische codes voor inzet technologie. De volgende codes worden genoemd:

• SHERPA Guidelines for Use and Developments of AI or big data system
• ACM Code of Ethics and Professional Conduct
• IEEE Code of Ethics
• Asilomar AI Principles
• The Montreal Declaration for a Responsible Development of Artificial Intelligence
• Barcelona Declaration for the proper development and usage of artificial intelligence in Europe
• Humanitarian UAV Code of Conduct & Guidelines
• Mission Statement and Berlin Statement (Robotic weapons)
•  Software Engineering Code of Ethics
• Opinion 9/2016 EDPS Opinion on Personal Information Management Systems

Responsible innovation (Microsoft)

Microsoft heeft de responsible innovation toolkit gepubliceerd, die developers moet helpen om negatieve impact van technologie op mensen te voorkomen.

Meer informatie en uitbreiding

Voor dit artikel is onder andere gebruik gemaakt van het artikel Frameworks, tool kits, principles, and oaths by Kathy Baxter. (link verwijderd)

Afbeelding van de Design Method Toolkit.