Interview Stefan Leijnen over impact machine learning

AI en machine learning specialist Stefan Leijnen is 28 juni 2019 geïnterviewd op Digital Waves, een youtube-talkshow over technologie en innovatie. In het interview legt hij de verschillen tussen AI, machine learning en deep learning uit, de ethische dilemma’s en legt hij uit waarom hijzelf niet pessimistisch is.

Achtergrond Digital Waves Interview

Digital Waves is een online talkshow waarin Nederlandse innovators en ondernemers worden geïnterviewd. Het is een initiatief van consultancy-bureau Node1, en is inmiddels bezig met het tweede seizoen. In een eerdere aflevering werd Martin van Esschoten geïnterviewd over Robotic Process Automation.

Op vrijdag 28 juni werd hiervoor Stefan Leijnen geïnterviewd. Stefan is gepromoveerd op creativiteit en AI, één van de auteurs van de Artificial Intelligence Impact Assessment, associate professor en CTO van Warchild Nederland. Volgens Stefan zelf is het niet veel, maar vooral breed: “De rode draad is technologie, de impact hiervan op de samenleving, en dat het allemaal zaken zijn die ik leuk vind”.

Het gehele interview duurt iets meer dan een uur en is zeker de moeite van het kijken/luisteren waard. Voor wie weinig tijd heeft: de meest interessante clips zijn hieronder weergegeven.

Definities AI, Machine learning en deep learning

In discussies over de impact van AI worden de termen AI, machine learning, neurale netwerken en deep learning vaak door elkaar gebruikt. Stefan werd daarom gevraagd om deze termen uit te leggen: “Iedereen heeft verschillende definities. Hieronder zijn werkdefinities.

• Artificial Intelligence (AI) is een overkoepelend containerbegrip. 
• Datascience en AI worden ook vaak samen gebruikt. AI en Data science gaan beiden over het analyseren van data. Bij datascience wordt data weergegeven in een dashboard, en neemt de mens de beslissing. Bij AI wordt een betekenisvolle beslissing door de computer genomen, zonder tussenkomst van de mens.  
• Binnen AI heb je de tak van de  machine learning: dit zijn systemen die zelflerend zijn. De regels zijn niet van te voren ingeprogrammeerd. Bij Machine Learning gaat het systeem de regels zelf leren. Als wetenschapper voeg je de input van het systeem toe (de granulariteit van de data), en een doelfunctie. Vrijwel alle machine learningsystemen zijn optimalisatie-systemen: je geeft een score-functie, een meetlat. De machine gaat hierop optimaliseren. Machine learning is dus een andere manier van systemen bouwen dan programmeren, die je in staat veel complexere systemen te maken. 
• Neurale netwerken is een deelgebied van AI waarbij netwerken gebruikt worden om een systeem te definiëren
• Deep learning is weer een onderdeel van neurale netwerken: het zijn netwerken met meer dan één tussenlaag. Het is gebleken dat deze modellen veel meer kunnen leren van andere modellen.  

Ethische vraagstukken rond AI

Een hot topic in de discussie over de rol van AI en of AI gevaarlijk is en dus via regels aan banden gelegd moet worden. Stefan Leijnen legt uit waarom dit zo’n lastig vraagstuk is:

Een paar jaar geleden was ik op een conferentie bij Google, en er was een discussie over zelf-rijdende auto’s. Men vroeg aan het publiek wat het grootste probleem is met zelfrijdende auto’s: vision, aansturing. etc. Het grootste pobleem was echter ethiek. Stel je hebt een regel dat de auto remt als er iemand oversteekt. Het probleem is dat de auto nooit zeker weet of er iemand oversteekt. Er is nooit honderd procent zekerheid. Je moet dus als programmeur een punt kiezen. Een kans die zo klein is dat je wel door durft te rijden. Iemand moet deze kans stellen. Hier krijg je rechtszaken van en morele zaken. Dit was een probleem in 2010, 2011. Nu hebben we deep learning. Niemand stelt meer de waardes in. Uit de data volgt wat de auto doet. Voor Google is dit fantastisch, namelijk dat het ethische vraagstuk niet meer bij de maker ligt. De verantwoordelijkheid is verlegd, en opgedeeld. Deze discussie over verantwoordelijkheid is nog niet uitgespeeld. 

Meer informatie over dit onderwerp is te vinden in het artikel ‘The Moral Machine’ van Prof Iyad Rahwan, zie bijvoorbeeld dit artikel over driverless class in The New Yorker.

Hoopvol over AI

Je zou verwachten dat AI-expert pessimistisch zijn, gegeven alle mogelijke risico’s: er zijn veel voorbeelden te vinden van problemen met AI-toepassingen. Daarom wordt er door ICT Institute meegewerkt aan de AI impact assessment als middel om AI vooraf te toetsen. Stefan is echter niet pessimistisch: ”

Ik ben helemaal niet angstig over de toekomst van AI. De angst die er is bij sommige mensen komt voor uit onbekendheid met AI en angst voor het onbekende: bijvoorbeeld als mensen horen dat hun baan over tien jaar niet bestaat. Ik denk na over oplossingen en contingenties, maar niet vanuit angst.