Artificiële intelligentie (AI)

Bovenstaande inleiding, een quote van de website van Mieke De Ketelaere, toont het belang van AI in ons leven. Mieke De Ketelaere is programmadirecteur AI bij imec na een specialisatie in robotica en artificiële intelligentie tijdens haar studies en een lange carrière in ICT – ondermeer bij het gerenommeerde SAS Institute. Ze werkte ook in opdracht van Microsoft, IBM en SAP. Wij spraken met haar en we ontdekten al gauw niet alleen een uiterst gedreven en gepassioneerde deskundige, maar bovendien iemand met veel zin voor ethiek. We voelen haar aan de tand over de vele mythes rond AI, iets waarover op 20 november 2020 trouwens haar (laagdrempelig) boek Mens versus Machine, Artificiële intelligentie ontrafeld verscheen.

Hoe bent u met AI in contact gekomen en erdoor gepassioneerd geraakt?

Al heel vroeg werd ik gebeten door ICT toen mijn ouders een Texas Instruments 99/4A kochten. Al mijn vrije tijd ging in mijn jeugd op aan programmeren – de standaard spelletjes van die tijd waren Pacman en Frogger, maar ik vond het leuker in de code te duiken en de regels van het spel te veranderen. Tijdens mijn Erasmus-uitwisseling ging ik, vanuit mijn passie, mij bewust verder verdiepen in de Duitse robotindustrie. Ik besloot aan de Universiteit van Stuttgart “Technical Cybernetics” te studeren, waar ik voor het eerst in aanraking kwam met artificiële intelligentie (AI). Ik was sterk onder de indruk van de mogelijkheden van AI en startte daarom in 1995 een doctoraatstudie aan de Universiteit van Auckland. Het liep echter op een sisser af doordat ik ethisch niet kon verantwoorden wat gynaecologen daar van mij vroegen. In een project voor het National Women’s hospital werd me gevraagd een systeem op te zetten om gynaecologen te ondersteunen in hun beslissingen, om hierdoor het nobele doel mensen gezond te houden te bereiken. Het hospitaal had namelijk vastgesteld dat gynaecologen te veel bevallingen via medicatie gingen inleiden, wat niet echt gezond is voor mama en baby. Ik had uit de verschillende interviews met gynaecologen de parameters vastgesteld waarmee ik een systeem kon maken dat de risico’s tijdens de laatste zwangerschapsweken (39-41) automatisch kon inschatten en daarmee kon bepalen wanneer het al dan niet zin had om de bevalling in te leiden. De gynaecologen waren echt niet akkoord met mijn geautomatiseerd advies, echter niet omdat het een black box was die zij niet begrepen. De echte reden was dat zij vooral geld verdienden met de bevalling zelf, het opvolgen van de zwangere vrouwen tussendoor leverde hen veel te weinig geld op en telde voor hen enkel als patiëntenbinding. Zij konden niet leven met mijn systeem omwille van hun financiële agenda, waarmee mijn AI-systeem natuurlijk geen rekening hield.

Voor ik bij programmadirecteur AI werd bij imec, werkte ik gedurende 10 jaar in de ‘customer intelligence’ afdeling van SAS Institute. Mijn team hielp Europese bedrijven om ongekende klanteninzichten te krijgen in allerlei databronnen die over de jaren heen door de digitalisatie steeds meer werden ingericht. Het was de wereld van de big data analytics, en dus eigenlijk AI.

In België werd ik als één van de 25 experten gevraagd door het toenmalige federale kabinet “Digitale Agenda”, onder leiding van Alexander De Croo, om een Belgische beleidsnota voor AI te schrijven. Tijdens de actieve workshops in aanloop naar de nota, was ik enorm geinspireerd door de toekomstvisie van imec op vlak van AI, en besloot dan ook hierin actievere een rol te spelen.

Wat is eigenlijk de definitie van AI?

Ruim gesproken is het een tool of een machine die op een kunstmatige manier iets intelligents doet. Maar deze beschrijving is natuurlijk niet de manier zoals de term nu in de media ingezet wordt, want ook bijvoorbeeld een lichtsensor om de klep van het kippenhok te sluiten bij het invallen van de duisternis zou hieraan beantwoorden. Meestal wordt het nu eerder begrepen als een systeem dat in staat is, zonder geprogrammeerde regels, patronen te ontdekken in een hoeveelheid data en dat verder in staat is hierop zelfstandig een actie te ondernemen.

Wat doet AI en wat kan het (niet)?

De meeste commerciële AI systemen vandaag zijn ‘enge’ AI. Dit wil zeggen, ze zijn goed in het verwerken van informatie en het zoeken van patronen, maar ze bezitten geen redeneervermogen en handelen niet buiten hun specifieke context. AI biedt op die manier veel waarde, maar het is nog ver verwijderd van wat we in de volksmond intelligent zouden noemen.

Daarmee hebben we vandaag slechts gedeeltelijk de originele droom van AI, namelijk om computersystemen te bouwen die menselijke intelligentie nabootsen, ingevuld. Initieel was deze droom gefocust op gevaarlijke, saaie, vuile of moeilijke taken en om die over te nemen. In het Engels zijn dit de 4 D taken: dull (saai werk), dangerous (gevaarlijk werk dat je liever uitbesteedt aan machines), dirty (vuil werk dat geen mens nog wil doen, en difficult (bijvoorbeeld heel complex, waarbij je moet rekening houden met heel veel data). De huidige grotere droom achter die autonome en zelflerende systemen is om alle vormen van menselijke intelligentie na te bootsen.

De stand van AI vandaag kan je vergelijken met de intelligentie van een tweejarig kind. Om te groeien moet het nog gigantisch veel vormen van menselijke intelligentie aanleren. Denk maar aan verbaal-linguïstische intelligentie, logisch-mathematische intelligentie, visueel-ruimtelijke intelligentie, muzikale intelligentie, creativiteit, lichamelijke intelligentie, interpersoonlijke intelligentie (intelligentie die gaat over de samenwerking tussen personen) of intrapersoonlijke intelligentie (inzicht in hoe je jezelf mentaal en lichamelijk in balans houdt), etc.

Een zesjarig kind is bijvoorbeeld in staat zich in de Theory of Mind van de andere te zetten, dit kan AI nog lang niet. Denk maar aan de semi-zelfrijdende auto’s van Tesla, BMW of Volkswagen. Die kunnen nog niet met elkaar communiceren. Dit terwijl mensen voortdurend met elkaar communiceren in het verkeer, bijvoorbeeld door oogcontact te maken, een handgebaar enz. AI heeft dus nog een lange weg te gaan.

Waar loopt AI in de fout? Waar is AI verschillend van menselijke intelligentie?

Commerciële AI-systemen kunnen vandaag over het algemeen wel kennis aanleren en inzetten, maar nog niet echt redeneren. Om AI nu al te kunnen inzetten op zowat alle zaken, zouden we als het ware de hele complexe wereld in die algoritmes moeten plaatsen, wat onbegonnen werk is. Een AI-systeem past zich immers nog niet aan: als de context verandert, moet je het systeem nog zelf aanpassen.

Die tekortkomingen, die mensen van nature vaker automatisch in zich hebben, kunnen echter zware gevolgen hebben, zeker in het HR-domein. Sommige bedrijven hebben hun selectieproces al grotendeels geautomatiseerd, maar daarmee begeven ze zich op hachelijk terrein. Die systemen baseren zich doorgaans op het cv, maar dan kan er veel verkeerd gaan. Een voorbeeld: een Belgisch bedrijf liet in Polen een selectiesysteem bouwen dat zich onder andere baseerde op IP-adressen van vroegere sollicitanten. Kandidaten uit Brasschaat bleken veel vaker geselecteerd te worden dan mensen uit Schaarbeek, wat mee opgenomen werd in het systeem. De Poolse data scientists, die vooral alles inzetten om op basis van de geleverde data een accuraat algoritme af te leveren, gingen er immers mee aan de slag zonder de Belgische vooroordelen te kennen tegenover die woonplaatsen. Dergelijke gebreken kunnen op tal van vlakken ontstaan. Denk maar aan gender, huidskleur, leeftijd,… Velen denken dat bias juist wordt uitgesloten omdat je automatiseert en er dus geen menselijke scheeftrekking kan gebeuren, maar je houdt er geen rekening mee dat bepaalde vooroordelen wel al in je materiaal zitten, soms heel subtiel. Je kan vooroordelen zelfs versterken omdat ze vastgebeiteld worden in het algoritme. Bekend is een pijnlijke case bij Amazon dat een selectiesysteem geïnstalleerd had waardoor er maandenlang geen enkele vrouw aangeworven werd voor bepaalde functies en promoties. Als zo’n fout zich voordoet in een productieproces, gaat er al vrij vroeg een alarm af omdat je producten afwijken van de gewenste norm. Dat kan je rechtzetten door de fouten er uit te halen en de machine beter te programmeren. Als het over mensen gaat, kan je dat echter niet rechtzetten. Die kandidaten hebben de job of promotie niet gekregen en niemand denkt eraan de afgewezen kandidaten te contacteren.

Jammer genoeg gooide Amazon dat systeem overboord en startte het met een nieuwe ontwikkeling, waardoor we nu niet meer kunnen meeleren met hen hoe we die bias het best uit de systemen kunnen verwijderen. Ik ben dan ook voorstander om via een multidisciplinair debat bij aanvang van elk project “by design” al deze punten grondig door te nemen alvorens systemen te bouwen.

AI is nu zoals de auto’s die rondreden op de grote autostrades in de jaren 50; AI-systemen kunnen massale gegevens verwerken omdat de infrastructuur dit toelaat. Maar er is wel een probleem, namelijk dat er een zeer groot gebrek is aan een omringend kader. Het is vergelijkbaar met de auto’s die op de autostrade reden in de eerste jaren: zonder rijbewijs, zonder verkeersregels, zonder politie, zonder pechstrook en zonder hulpdiensten. Dat is de deplorabele toestand van AI momenteel in de wereld. We hebben dringend nood aan een wetgevend kader, controlemechanismen, tolerantiestandaarden zoals we die kennen voor de betrouwbaarheid van auto’s en vliegtuigen, en industrie-standaarden die uitwisseling tussen AI mogelijk maken, denk aan de problemen van communicatie tussen de automerken die allemaal afzonderlijk met zelfrijdende auto’s bezig zijn. Op deze manier kunnen we samenwerken aan een veilige toekomst met onze AI-systemen.

Ten slotte zal ik het persoonlijk altijd een slecht idee vinden om HR-selecties te maken zuiver op basis van AI. Het valt voor mij niet onder de D-taken die hogerop werden beschreven. Volgens mij kan je de toekomst niet voorbereiden door je te baseren op profielen en patronen uit het verleden. Als je medewerkers zoekt die verandering kunnen brengen, is AI niet de juiste keuze.

Waar kunnen we dan AI wel inzetten in HR context?

AI kan je volgens mij wel al gebruiken in HR, maar dan als hulpmiddel of in gebieden waar er geen grove fouten gemaakt kunnen worden, zoals preventie en welzijn. Door AI in te zetten op stressmonitoring kan je absenteïsme en burn-out voorkomen. Daar is iedereen bij gebaat, zowel het bedrijf als de medewerker en de samenleving.

Als ondersteuning van HR-beslissingen kan het ook aangewend worden, maar dan alleen als hulp. We leven in een complexe en veranderende wereld die nog niet kan gesimuleerd worden in één algoritme. Belangrijke beslissingen moet daarom nog steeds door de mens gemaakt worden, op basis van een multidisciplinair team dat geautomatiseerde inzichten zeer kritisch onder de loep neemt. Het kan ook niet de bedoeling zijn je achter AI te verschuilen bij het nemen van beslissingen.