Volg Software Zaken

Europese Commissie verbetert eigen definitie van AI

| Joost Krapels | Artificial Intelligence

De Europese Commissie heeft een High Level Expert Group voor AI, en deze heeft een definitie van AI opgesteld. Hieronder een samenvatting van deze officiële definitie. 

Achtergrond EU AI definitie

De Europese Commissie, het uitvoerend orgaan van de EU, schrijft voorstellen voor nieuwe wetten, handhaaft huidige wetten, en vertegenwoordigt de EU tegenover de rest van de wereld. Het is daarbij hun taak om “het standpunt van Europa” te communiceren, en dit op een duidelijke en genuanceerde manier te doen.

Om te zorgen dat standpunten, wetsvoorstellen, en mening ook echt inhoud hebben, stelt de EC regelmatig High Level Expert Groups, kortweg HLEGs, op. Deze groepen bestaan uit experts uit verschillende landen, die samen onderzoek doen en rapporten opstellen in opdracht van de Commissie.

In juni 2018 is de HLEG AI opgesteld, een groep van 52 AI experts die tot doel hebben de implementatie van de Europese strategie op het gebied van AI te ondersteunen. Het AI definitie document is te vinden op de website van de Commissie.

Voor het definitie van AI document, kwam de groep ook al met de Ethics Guidelines on AI, en Policy and Investment Recommendations. Daarnaast geven zij sturing aan de European AI Alliance (ALLAI). ALLAI, een  is opgericht door de drie Nederlandse deelnemers Catelijne Muller, Virginia Dignum, en Aimee van Wynsberghe.

De definitie van AI

Het document begint met een startdefinitie. Deze definitie werd tot nu toe gebruikt tussen Europese instanties, en is de basis waarop de expertgroep voortbouwt. De startdefinitie luidt:

AI refereert naar systemen die intelligent gedrag vertonen door hun omgeving te analyseren en actie ondernemen om, met een bepaald niveau van autonomie, specifieke doelen te behalen.

AI systemen kunnen puur softwaregebaseerd zijn, in de virtuele wereld acteren (bijvoorbeeld voice assistents, afbeeldingsanalysesoftware, zoekmachines, en spraak- en gezichtsherkenningssystemen), of AI kan ingebed zijn in hardware-apparaten. (geavanceerde robots, autonome auto’s, drones, of IoT applicaties).

In de daaropvolgende hoofdstukken wijdt de groep op deze definitie uit. In dit artikel zullen wij per hoofdstuk kort samenvatten wat de HLEG te zeggen heeft, en daar zelf enige voorbeelden aan toevoegen.

AI systemen

Aangezien er in de wetenschap geen consensus over  de term “intelligentie” is, maken AI onderzoekers liever gebruik van de term “rationaliteit”. Rationaliteit betekent dan dat een systeem, gegeven de omstandigheden, de beste actie kiest om zijn doel te behalen. Om rationeel te handelen, heeft een intelligent systeem drie onderdelen nodig: perceptie, verwerking van informatie, en actoren.

Perceptie

Om een beslissing te maken, heeft een intelligent systeem data nodig. Deze data moet op de een of andere manier binnen komen, wat vaak gebeurt met behulp van sensoren. Systemen hoeven de data niet altijd zelf te verzamelen. Het is ook goed mogelijk om een intelligent systeem te “voeden” met data vanuit een al bestaande database.

Informatieverwerking

Zodra het systeem data heeft, kan het deze data gaan analyseren. De data moeten eerst omgezet worden in informatie, zodat het systeem kan werken met de input. Het resultaat hiervan is wellicht nog niet als “logische informatie” te beschouwen voor mensen, maar een computer kan hier mee aan de slag. Zodra het systeem werkbare input heeft, kan het gaan redeneren en besluiten welke actie hem het dichts naar zijn doel brengt. (optimaliseren van de doelfunctie) Een doel kan bijvoorbeeld zijn om een afbeelding correct te classificeren. Zodra duidelijk is welke mogelijke actie de winnaar is, kan het systeem de actie uit gaan voeren.

Actoren

Een intelligent systeem dat zelf een actie uitvoert klinkt misschien als een risicovolle activiteit. De actie hoeft echter geen fysieke actie te zijn, het kan ook het versturen van een signaal om een mens te informeren zijn. De HLEG noemt een mooi voorbeeld van een robotstofzuiger. Zodra bepaald is dat er stof gezogen moet worden, wordt er een elektronisch signaal verstuurd om het simpele mechanische onderdeel van de stofzuiger aan te zetten.

Simpele rationele AI systemen reageren alleen op hun omgeving, maar passen gedrag over tijd niet aan. Lerende rationele systemen evalueren het effect van hun actie, om daarmee te berekenen hoe succesvol deze actie was. Met deze informatie kan in volgende redeneersituaties rekening gehouden worden.

Een ander voorbeeld van een digitale actie (niet uit het rapport), is de eerste schaakcomputer die een menselijke schaakgrootmeester wist te verslaan, Deep Blue. Deep Blue rekende de huidige situatie op het bord door, en gaf daarna aan een menselijk “hulpje”  aan welk stuk waar geplaatst moest worden.

AI als een wetenschappelijke discipline

Met de eerder beschreven drie componenten van een intelligent systeem uitgelegd, kan er dieper gekeken worden naar enkele disciplines binnen de AI. Veel onderzoek naar AI wordt gedaan in de sub-velden van redeneren, leren en robotica.

Redeneren

Om te redeneren en keuzes te maken zijn verschillende, op zichzelf al ingewikkelde, stappen nodig. Om data naar informatie te transformeren moet de data op een bepaalde manier gestructureerd en gepresenteerd worden. Dit wordt in de wetenschap ook wel kennis representatie genoemd. De volgende stap voor het systeem is om te redeneren op basis van deze kennis, waarbij gebruik gemaakt moet worden van logica, symbolische regels, planning (vooruitdenken), zoeken door een grote set van mogelijke oplossingen en tot slot uit de mogelijke oplossingen de best mogelijke oplossing kiezen.

Leren

Lerende systemen, die dus hun toekomstige acties aanpassen op basis van het succes van eerdere acties, vallen onder andere in de onderzoekstakken machine learning, neural networks, deep learning en beslisbomen. Deze vakgebieden overlappen vaak, en zijn soms zelfs onderdeel van elkaar.

Machine learning is ruwweg onder te verdelen in supervised learningunsupervised learning en reinforcement learning. Sommige machine learning algoritmes maken gebruik van deep learning, wat betekent dat de werking van het menselijk brein wordt nagebootst. Dit gebeurt door in het systeem connecties te maken die een positieve of negatieve invloed hebben op een andere interne laag. Systemen met meerdere van deze lagen worden ook wel deep learning systemen genoemd. dr. Stefan Leijnen, oprichter van The Asimov Institute, AI expert bij ICT Institute, en lector aan de Hogeschool Utrecht is gepromoveerd in machine learning, en doet momenteel onderzoek naar Deep Learning. Recentelijk was hij te gast bij Digital Waves, een videopodcast over innovatie en techniek.

Robotica

Bij robotica spelen, naast de al aanwezige softwarematige-, uitdagen van de tastbare wereld een grote rol. Intelligente robots moeten reageren op- en bestand zijn onvoorspelbare en imperfecte invoer. Ook is AI vaak slechts een deel van een groter systeem in robots.

Andere belangrijke AI-begrippen en kwesties

De volgende begrippen waren volgens de HLEG ook het benoemen waard:

Zwakke en sterke AI: Zwakke AI is, in tegenstelling tot wat de naam misschien doet vermoeden, geen slecht functionerende AI. Een zwak intelligent systeem is ontwikkeld om één taak uit te voeren, en is daarmee de technologie die wij in hedendaagse AI toepassingen tegenkomen. De Engelse term is narrow AI, wat duidelijk maakt dat het niet breed toepasbaas is. Sterke AI is, daarentegen, een intelligent systeem dat breed toepasbaar is. Sterke AI-systemen zijn de systemen die wij tot nu toe alleen nog kennen uit science fiction verhalen; intelligente systemen die allerlei verschillende problemen kunnen oplossen en soms zelfs zelfbewust zijn. Naast de techniek is de ethiek achter een systeem dat zelf zijn doelen kan bepalen en kan redeneren als een mens nog lang niet uitgedokterd.

Problemen met data en bias: Onzuiverheden en onvolledigheden in de data vinden ook hun weg in de uitkomsten die een intelligent systeem produceert. Afhankelijk van de hoeveelheid en kwaliteit van de trainingsdata kan een systeem te veel of te weinig generaliseren op data die het nog nooit gezien heeft. Sieuwert van Otterloo van ICT Institute schreef recentelijk een artikel over AI-specifieke risico’s.

Black-box AI en verklaarbaarheid: De redenatie van een computer is gebaseerd op de ingevoerde data en meegegeven regels, maar dit betekent niet dat dit voor een mens altijd makkelijk te volgen is. Complexe intelligente systemen, vooral deep learning systemen, zijn vaak voor een mens een soort black box; we zien wat er in gaat en uit komt, maar de stap er tussen is niet te volgen. Bij algoritmes die belangrijke beslissingen maken, zoals het remsysteem in een autonome auto of een kredietverleensysteem bij een bank is het erg belangrijk om achteraf terug te kunnen zien hoe een betwiste keuze gemaakt is. Uitlegbaarheid is de eigenschap van het systeem dat uitdrukt in welke mate het uit kan leggen hoe een beslissing tot stand is gekomen.

Doel-georiënteerde AI: Huidige AI systemen hebben een doel dat door mensen is gespecificeerd. Systemen die hun eigen doelen bepalen worden nog niet breed toegepast, maar het is zeker mogelijk om intelligente systemen enige vrijheid te geven in hoe zij het vooraf bepaalde doel behalen.

Uiteindelijke definitie van AI

Tot slot gebruiken de 52 experts de termen die zij zojuist uitgelegd hebben om tot een completere definitie van AI te komen. Dit is de volledige definitie in het Engels:

“Artificial intelligence (AI) systems are software (and possibly also hardware) systems designed by humans that, given a complex goal, act in the physical or digital dimension by perceiving their environment through data acquisition, interpreting the collected structured or unstructured data, reasoning on the knowledge, or processing the information, derived from this data and deciding the best action(s) to take to achieve the given goal. AI systems can either use symbolic rules or learn a numeric model, and they can also adapt their behaviour by analysing how the environment is affected by their previous actions.

As a scientific discipline, AI includes several approaches and techniques, such as machine learning (of which deep learning and reinforcement learning are specific examples), machine reasoning (whi ch includes planning, scheduling, knowledge representation and reasoning, search, and optimization), and robotics (which includes control, perception, sensors and actuators, as well as the integration of all other techniques into cyber-physical systems).”

Het verschil met de originele definitie zit vooral in het beschrijven van de stappen die een intelligent systeem neemt om zijn taak uit te voeren. De noemer AI-systemen wordt breder getrokken door naast systemen die vanuit een model leren ook systemen die door hun eigen acties leren te trekken. Ook zijn de praktische voorbeelden uit de eerdere definitie niet overgenomen, en zijn de verschillende onderzoeksdomeinen zoals machine learning, machine reasoning en robotica toegevoegd.

Meer weten?

Binnen ICT Institute is brede kennis over AI aanwezig, in de vorm van dr. Stefan Leijnen, dr. Sieuwert van Otterloo, dr. Joost Schalken-Pinkster, en Joost Krapels MSc. Wij vinden verantwoorde toepassing van ethische AI ontzettend belangrijk, en zijn dan ook grote voorstanders van initiatieven zoals de AI Impact Assessment. Mocht u meer willen weten over AI, of graag een keer met ons praten over de toepassing van AI binnen uw bedrijf, neem dan vooral contact met ons op!

Discussie

Ook dit artikel bediscussiëren wij graag in de open Linkedin Groep ‘Information Security NL’.  Information Security NL is een (gratis) discussiegroep voor kennisdeling over informatiebeveiliging.

Image credit: @pisitheng en @kowon via Unsplash

Joost Krapels
Author: Joost Krapels
Joost Krapels MSc. is afgestudeerd aan de Vrije Universiteit Amsterdam, op de ontwikkeling van tools ter ondersteuning van privacywetgeving. Zijn BSc. heeft hij gehaald in Lifestyle Informatics (Artificial Intelligence) en zijn MSc. in Information Sciences, beide aan de VU Amsterdam. Tijdens zijn masterstage bij SoftwareZaken / ICT Institute heeft hij ondernemers geïnterviewd over de impact van de nieuwe privacywet AVG. Bij SoftwareZaken / ICT Institute is hij verantwoordelijk voor de doorontwikkeling van privacy tools en templates en voor advies aan opdrachtgevers.