AI: balanceren tussen veiligheid en innovatie – lezing Kinkelacademie

AI ofwel Kunstmatige intelligentie is al aanwezig in ons dagelijksleven, denk aan robots, gezichtsherkenning en zoekmachines. Moeten we hier alleen blij mee zijn? Of schuilen er ook nadelen in Kunstmatige intelligentie? Op 30 mei 2022 gaf Sieuwert van Otterloo een lezing bij de Kinkel-academie in Bemmel, gevolgd door een debat.

Lezing en debat

Cultureel centrum de Kinkel in Bemmel is een ontmoetingsplaats waar sociale en culturele activiteiten worden georganiseerd. Er worden elk seizoen lezingen georganiseerd over actuele en spraakmakende onderwerpen. Op 30 mei 2022 gaf Sieuwert van Otterloo een lezing over Kunstmatige Intelligentie (Engels: AI). Na de lezing is er kort gestemd en gedebatteerd over de volgende stellingen:

• Mag een AI-systeem voor recruitment meer mannen dan vrouwen selecteren?
• Mijn bank mag mijn data gebruiken om AI-modellen mee te ontwikkelen?
• Een beslissing, AI of niet, moet altijd uitlegbaar zijn
• Moet de EU meer investeren in Kunstmatige Intelligentie?

Het werd een interessant debat waarin de deelnemers het opvallend vaak met elkaar eens waren. De conlusie van de lezing was dat AI veel mooie en nuttige toepassingen heeft, maar dat we de risico’s niet uit het oog moeten verliezen. Iedereen moet kritisch blijven op AI-besluiten en blijven vragen hoe het werkt. De presentatie-slides zijn hier gratis te downloaden.

Geschiedenis van AI

AI is niet nieuw. Al in de 18e en 19e eeuw werd er al nagedacht over denkende machines. Vervolgens zijn er vier ontwikkelgolven geweest die geleid hebben tot de moderne, datagedreven AI. De bekende Engelse wetenschapper Alan Turing heeft een belangrijke bijdrage geleverd door het concept van de Turing machin, de  theorie over universele machines en ontwikkeling van de Turing-test. Vervolgens zijn er veel interessante AI-experimenten geweest, bijvoorbeeld op het gebied van computerschaak. Deze AI-systemen waren echter niet echt toepasbaar, omdat computers nog niet krachtig genoeg waren om de benodigde data te verwerken. Tussen 1970 en 1990 zijn er wel praktische expert-systemen gemaakt. Deze systemen bevatten echter vaak kennis-regels gebaseerd op klassieke logica, en gebruiken dus menselijke kennis. Pas rond 2000 zijn moderne, datagedreven AI-systemen toepasbaar geworden.

De huidige systemen zijn zo krachtig, dat het risico is dat ze niet meer begrepen worden door de organisaties zie ze gebruiken en dat fouten niet opgemerkt worden. Daarom is er nu debat nodig, zoals de Kinkel-academie dit heeft georganiseerd. We moeten als samenleving besluiten of en hoe we AI willen inzetten.

AI en uitlegbaarheid

Een groot probleem in de toepassing van AI in de praktijk is uitlegbaarheid. Als computers belangrijke besluiten gaan nemen, dan moeten we natuurlijk weten of deze besluiten correct zijn. Veel AI-besluiten zijn helaas moeilijk te begrijpen. Dit komt door de algoritmes zelf en door praktische problemen. Veel algoritmes zijn zeer complex en op een moelijke manier ontwikkeld. Ook er zijn vaak veel versies en er wordt veel data gebruikt. Veel modern onderzoek probeert om AI meer inzichtelijk te maken. Hieronder is te zien hoe dit werkt met beeldherkennen. Een computer is getraind om te herkennen wat er op een foto te zien is (vogel, speedboot). In de rood-blauwe plaatjes is weergegeven welke delen van de foto door de computer zijn gebruikt om bij een bepaalde conclusie te komen. De afbeelding is gemaakt met de open source library SHAP.

Investeringen in AI

Er wordt door met name China en de  Verenigde Staten veel geïnvesteerd in AI. De reden is dat moderne AI draait om grote datasets: wie de beste en grootste dataset heeft, kan de beste algoritmes maken en daarmee de concurrentie verslaan. Uit cijfers van de European Investment Bank blijkt dat Europa achterblijft. Er wordt minder grootschalig geïnvesteerd. Europa neemt wel veel stappen naar goede wetgeving voor AI, denk aan de AVG en de AIA, waar ICT Institute ook onderzoek naar doet. Ook investeert Nederland is goed onderwijs en doet veel kleine investeringen in startups en scale-ups. We zullen de komende jaren gaan zien of deze Europese bedrijven hiermee voldoende toegang hebben tot kennis en data om internationaal mee te komen, of dat Europa een inhaalslag moet gaan maken en eigen datasets gaan verzamelen.