Lezing ‘Human Centered AI’

Human Centered Artificial Intelligence (HCAI) is het op een verantwoorde manier toepassen van AI, met aandacht voor de gevolgen van de toepassing voor gebruikers en betrokkenen. Doordat AI steeds meer kan en te pas en te onpas wordt gebruikt, is er steeds meer behoefte aan HCAI-professionals. De Hogeschool Utrecht biedt daarom HCAI-onderwijs. Op 17 april was er een masterclass voor alle studenten (ICT en andere opleidingen) met onderzoekers Sieuwert van Otterloo en Marieke Peeters als sprekers.

HCAI – technisch

Een belangrijk aspect van het verantwoord inzetten van AI is het zorgvuldig trainen en testen van AI-systemen. Voordat je een AI-systeem kunt inzetten in de praktijk, moet het goed getest zijn zodat je weet hoe goed het werkt en wat voor fouten het systeem kan maken. In de masterclass is daarom een kort code-practicum opgenomen, waarbij studenten leren hoe je datasets onderzoekt en gebruikt om AI te trainen. Het hebben van goede data is hierbij essentieel: het gedrag van AI-systemen wordt bepaald door de data die je aan het systeem geeft. Gelukkig zijn er tegenwoordig veel interessante datasets, en is het relatief eenvoudig om deze met Python te bestuderen. In de masterclass is er zowel gekeken naar lineaire regressie (een eenvoudige en voorspelbare techniek) en neurale netwerken.

HCAI – Maatschappelijk

Het verantwoord toepassen van AI is gene puur technisch systeem: een groot deel van de problemen rond AI zin in de manier waarop het wordt toegepast: AI moet niet alleen goed werken, maar de toepassing moet ook transparant zijn, eerlijk, uitlegbaar en de privacy van mensen moet bewaakt worden. In de masterclass zijn een aantal praktijkvoorbeelden besproken, zoals:

• Het inzetten van AI om dove en slechthorende mensen te helpen, bijvoorbeeld door spraak naar tekst om te zetten.
• Medisch onderzoek met behulp van AI
• Het inzetten van camera-auto’s om foutparkeren op te sporen
• Het toestaan van automatisch rijdende systemen in auto’s om het aantal verkeer-slachtoffers te verminderen

In principe zijn dit allemaal waardevolle toepassingen. Echter al deze toepassingen kennen ook risico’s. De Europese Unie heeft daarom een aantal waardes opgesteld waar elk systeem aan moet worden getoetst. Belangrijke waardes zijn bijvoorbeeld:

• Uitlegbaarheid van systemen
• Het voorkomen van bias en discriminatie
• Het beschermen van privacy door het minimaliseren van persoonsgegevens
• Zorgen voor een bezwaar- en correctieproces
• Menselijk toezicht (‘human in the loop’)

Bij veel toepassingen kun je gelukkig de toepassing verantwoord maken, door met verschillende mensen samen de risico’s te bespreken en aanpassingen aan het systeem te maken. Het is belangrijk dat hierbij verschillende experts betrokken zijn: niet alleen machine learning experts maar ook mensen met domeinkennis, communicatie-ervaring en juridische kennis.

HBO-master HCAI

Een HBO-master is een één-jarige extra opleiding die mensen na een HBO-bachelor kunnen doen om zich nog beter voor te bereiden op een interessante banen. De HBO-master HCAI is opgericht om studenten een brede basis te geven met zowel technische als maatschappelijke kennis. De master duurt één jaar en is open voor studenten met verschillende achtergronden: studenten ICT, bedrijfskunde, rechten of medisch zijn allemaal welkom. Tijdens de HBO-master werk je in projectteams aan meerdere projecten, waarbij je leert over de verschillende HCAI-projecten. Meer informatie over de master is hier te vinden: HBO-master HCAI. De master is Nederlandstalig.

Meer weten

In de masterclass is er gebruik gemaakt van de Utrecht Housing dataset, ook te vinden op het dataplatform Kaggle, Dit is een eenvoudige dataset waarmee je datascience en machine learning kunt leren. Om zelf aan de slag te gaan is het handig om de programmeertaal Python te kennen. Een goed gratis boek hiervoor is het Python Data Science Handbook van Jake VanderPlas. Wie meer wil weten over het auditen van AI kan kijken naar de ECP AI Impact Assessment. Of deze Engelstalige checklist of AI audits.