Misvattingen over artificiële intelligentie

Vraag: wat zijn volgens u de belangrijkste mythes, misvattingen of mis- verstanden rond AI? 

Mark Coeckelbergh: Er zijn veel misverstanden rond AI maar hier zijn enkele belangrijke: 

Een eerste misverstand, dat tegenwoordig wel aandacht krijgt, is de verwachting dat AI in de vorm van large language models-technologie zoals ChatGPT altijd de waarheid spreekt. Het probleem is hier niet dat mensen dat niet weten, maar dat ze het altijd weer tijdelijk vergeten tijdens de interactie met dergelijke chatbots. Dat komt omdat deze niet ontworpen zijn om de waarheid te vertellen, maar wel om tekst zodanig aan te vullen dat het geloofwaardig overkomt. Ook de grootste onzin klinkt dus alsof het waar is en wordt vaak zelfs in pseudowetenschappelijke taal gegoten. Dit is erg misleidend. De ontwikkelaars van de technologie zijn er weliswaar in geslaagd om het percentage van fouten en onzin wat terug te brengen, maar helaas is dit nog steeds veel te hoog.  

Een tweede probleem is dat AI vaak voorgesteld wordt als iets dat buiten de mens staat en zelfs als iets totaal vreemd, buitenaards. Dat komt vooral voor in scenario’s over de toekomst van de technologie, waarin gesuggereerd wordt dat omdat het kan leiden tot het vermijden van verantwoordelijkheid. Als een god komt, hoeven wij niet verantwoordelijk te handelen. Dan kunnen we gewoon verder doen zoals altijd. Technologie zal ons wel helpen. Een zeer problematische mythe dus. AI een groot gevaar voor de mensheid vormt, van mensen de macht zal overnemen, of zelfs de mensheid zal vervangen. Hier vergeet men nogal gemakkelijk dat AI niets is en niets kan zonder de mens. Weliswaar heeft AI veel mogelijkheden naar automatisering toe: het kan gebruikt worden om machines heel veel zelf te laten doen zonder direct menselijk ingrijpen. Maar de mens heeft deze technologie gemaakt en draait nog steeds aan de knoppen. Bovendien is er geen noodzakelijke relatie tussen menselijke intelligentie en macht, zoals de huidige ministers van de regering Trump laten zien. Het is niet omdat een systeem intelligent is, dat het zomaar de macht zou kunnen overnemen. Dat hangt helemaal van mensen af. Wat op de achtergrond blijft, zijn de mensen achter de machine en hun macht. 

Een dieper probleem, dat niet zo gemakkelijk op te lossen is, is de misplaatste hoop die vaak gesteld wordt in AI. Met name gaat het om de hoop dat de technologie al onze problemen zal kunnen oplossen (technosolutionism) en dat het de mensheid zal redden, bijvoorbeeld van de klimaatcrisis en van de menselijke domheid. Er wordt dan op quasireligieuze wijze gehoopt dat wat we ook als mensen (mis)doen, er een god zal komen die ons zal redden. Deze hoop, die diep in onze Westerse cultuur zit, is gevaarlijk 

Vincent Ginis: Generatieve AI als vage kopie van het internet Veel mensen denken dat AI enkel een wazige kopie uitspuwt van de data waarop het getraind is. Hoewel generatieve AI-modellen zoals GPT getraind worden op internetdata, kunnen ze nieuwe, contextspecifieke resultaten genereren. Dit is dus niet puur op memoriseren gebaseerd. 

AI is enkel nuttig voor saaie,  repetitieve taken 

De opvatting dat AI beperkt is tot repetitieve, simpele taken is achterhaald. Moderne AI, zoals GPT-4, is in staat vrij complexe problemen op te lossen, zoals het samenvatten van documenten, het uitvoeren van data-analyse of zelfs medische en juridische ondersteuning bieden. Deze veelzijdigheid maakt generatieve AI uniek als een general-purpose tool (ook toevallig afgekort als GPT), iets wat nog weinig begrepen wordt. Het is overigens veel moeilijker om generatieve AI in te zetten op saaie, repetitieve taken, omwille van het feit dat je daar vaak hallucinaties moet vermijden. Hallucinaties zijn een fenomeen dat zich voordoet wanneer AI-systemen resultaten produceren die los staan van hun invoergegevens of de realiteit die deze gegevens vertegenwoordigen. Het lijkt dan alsof de AI een geheel eigen verhaal begint te vertellen, los van de feiten of context die het heeft gekregen. Voorbeeld: een saaie en repetitieve taak is het invullen van de eindcijfers van mijn studenten in de officiële software van de universiteit. Niet meteen een taak die ik zou uitbesteden aan een taalmodel. Studenten met gehallucineerde eindcijfers, dat is pas hallucinant! 

Grote taalmodellen werken enkel met taal 

Toegegeven, de naam “grote taalmodellen” voedt dit misverstand heel erg. Hoewel AI-systemen zoals GPT vaak worden geassocieerd met taal (samenvattingen of vertalingen maken), reiken hun toepassingen echter veel verder. Ze kunnen afbeeldingen genereren, data analyseren, wiskundige redeneringen produceren, en zelfs fysieke systemen zoals robots aansturen. Deze diversiteit wordt vaak gemist in de publieke discussie, die zich vooral richt op puur tekstgebaseerde toepassingen. 

Steven Latré: Misvatting 1: AI-systemen zijn objectief 

Omdat AI-systemen gebaseerd zijn op de verwerking van heel veel data, veronderstellen mensen soms onterecht dat AI-systemen objectief zijn. In werkelijkheid kunnen AI-systemen vooroordelen vertonen die voortkomen uit de data waarmee ze zijn getraind. Als de trainingsdata bevooroordeeld of onvolledig zijn, kan de AI deze bias repliceren of zelfs versterken. Het is heel moeilijk om die bias er volledig uit te filteren, maar er wordt wel gewerkt aan wiskundige technieken om dat probleem aan te pakken. Hier worden jaarlijks honderden papers over geschreven. 

Misvatting 2: AI kan redeneren 

In het ene na het andere domein steekt AI in vergelijkende benchmarks de mens naar de kroon: het herkennen van beelden, taalkennis, begrijpend lezen … Deze zomer haalden twee AI-systemen van Google een zilveren medaille op de Internationale Wiskunde-Olympiade. Maar dat impliceert nog niet dat die AI-systemen kunnen redeneren – laat staan dat ze een breed begrip zouden hebben over de wereld. AI is veel beter dan mensen in het herkennen en repliceren van patronen op basis van eerdere voorbeelden. AI-modellen herkennen correlaties in data maar daardoor nog niet de oorzakelijke verbanden. Er wordt wel veel onderzoek gevoerd naar ‘causale AI’ en het ontdekken van relaties in patronen, maar dat staat nog in zijn kinderschoenen. 

Computerwetenschapper Hans Moravec merkte al in 1988 op dat het relatief eenvoudig is om computers beter te laten presteren dan een volwassen mens wat betreft complexe taken zoals schaken of een invullen van een intelligentietest, maar dat het moeilijk is om de vaardigheden van een eenjarige te evenaren in eenvoudige taken die waarnemingsvermogen en motoriek vereisen. Vandaag is de paradox van Moravec nog niet voorbijgestreefd. Een afbeelding van een ruiter op een paard genereren is tegenwoordig een koud kunstje voor generatieve AI. Maar stel je de applicatie vervolgens de vraag of de ruiter nu op het paard zit of het paard op de ruiter, dan kan het systeem al beginnen haperen. 

Misvatting 3. AI zal alle jobs overbodig maken 

De geschiedenis heeft aangetoond dat technologische vooruitgang en automatisering vaak leidt tot een verschuiving in de arbeidsmarkt, maar niet tot een volledige reductie van jobs. AI-copiloten kunnen werknemers helpen om routinetaken te automatiseren en mensen de kans te geven zich op complexere of creatieve taken te richten. Dat zal wel om nieuwe vaardigheden vragen op de werkvloer. Artificiële intelligentie zal niet de job van mensen overnemen, maar andere mensen die efficiënter werken dankzij AI-tools zullen dat misschien wel doen. 

Ludo Lauwaerts: Misvatting 1. Om erg gevaarlijk te zijn moet AI (zelf)bewust zijn. 

Neen: grote rekenkracht alleen volstaat om grote schade te veroorzaken. Dat kan zelfs louter online zijn. 

Misvatting 2. Mensen kunnen geen controle verliezen over AI. 

Klopt niet: grote rekenkracht en snelheid van handelen zullen ervoor zorgen dat mensen de acties van AI niet kunnen voorzien, en er ook niet kunnen op anticiperen en tijdig reageren. 

Misvatting 3: We kunnen de AI-race niet stoppen 

Waarom niet? In het verleden werden veel technologieën gestopt: het klonen van mensen, toepassingen van CRISPR voor genetische manipulatie van mensen, het verder ontwikkelen van wapens als antipersoonsmijnen en atoomwapens. De risico’s van AI zijn nog groter. AI is geen natuurproduct, maar een product van (onze) keuzes. 

ChatGPT 4.0: 1. AI is echt "intelligent" en begrijpt de wereld zoals mensen dat doen 

Veel mensen denken dat AI menselijke intelligentie evenaart of zelfs overtreft, inclusief het vermogen tot creativiteit, emotie en begrip. 

Waarom niet waar? Huidige AI-systemen, zoals taalmodellen en beeldherkenningsalgoritmen, zijn goed in het verwerken en analyseren van data, maar begrijpen die niet op een menselijke manier. Ze werken op basis van patronen en statistische waarschijnlijkheden, zonder bewustzijn, emoties of echt begrip. Dit kan leiden tot verkeerde verwachtingen over wat AI wel en niet kan. 

2. AI is volledig objectief en vrij van vooroordelen 

Omdat AI gebaseerd is op data en algoritmes, zou het altijd objectieve beslissingen nemen. 

Waarom niet waar? AI-modellen zijn zo goed als de data waarmee ze zijn getraind. Als die data vooroordelen bevat (bijvoorbeeld sociaal, cultureel of economisch), zal de AI deze vooroordelen repliceren of zelfs versterken. Dit is een bekend probleem, bijvoorbeeld in gezichtsherkenningstechnologie en geautomatiseerde besluitvorming. 

Bijkomende vraag: wat is het grootste probleem met AI dat miskend of  verwaarloosd wordt door de media? 

Mark Coeckelbergh: Veel ethische en politieke problemen worden tegenwoordig aangekaart door de media en in het publieke debat. Er is zeker vooruitgang op dat gebied. Toen ik mijn boek AI Ethics schreef, bijvoorbeeld, waren veel problemen nog niet gekend bij het algemene publiek. Dat is nu anders. Wel is er nog veel ruimte om specifieke problemen aan te kaarten. Met name denk ik dat er nog te weinig aandacht is voor de milieugevolgen van AI. Computertechnologie lijkt clean, maar onze gadgets moeten geproduceerd worden, wat energie en grondstoffen vraagt, en bijvoorbeeld het trainen van large language models geeft ook heel wat CO₂-uitstoot. Wetenschappers beginnen daar nu op te werken, om dat te verbeteren. Maar er is nog niet echt veel beleid rond. 

Vincent Ginis: Het aligneringsprobleem. Dit betreft de vraag of doelen en gedragingen van AI overeenkomen met menselijke waarden en intenties. Media focussen vaak op zichtbare risico’s zoals deepfakes, potentieel banenverlies en menselijke manipulatie. Deze zijn uiteraard belangrijk, maar verbleken volgens mij bij het risico van een ongecontroleerde AI die autonoom doelen nastreeft die niet in lijn liggen met menselijke waarden en belangen. Zowel externe als interne afstemmingen zijn problematisch. Extern kan een slecht gedefinieerd doel catastrofaal uitpakken (denk aan de paperclip maximizer¹). 

Maar ook intern kunnen AI-systemen onzichtbare subdoelen ontwikkelen die onverwachte en gevaarlijke uitkomsten genereren. Op beide gebieden hebben we momenteel weinig inzicht hoe we dit probleem oplossen. Waarom is dit zo belangrijk? De traditionele aanpak van de mensheid rond de veiligheid van nieuwe technologie draagt een stevige Jean-Luc Dehaene-stempel: problemen worden opgelost als ze zich stellen. Deze aanpak is hier ontoereikend. Bij ongecontroleerde AI is de foutenmarge nihil: een verkeerde uitkomst kan existentiële gevolgen hebben. Het ontbreken van duidelijke oplossingen voor het aligneringsprobleem en het negeren ervan door een groot deel van de media onderstrepen de urgentie ervan. 

Steven Latré: Het snel stijgende energieverbruik van AI is een probleem dat (nog steeds) onderbelicht wordt. Ik heb daar twee jaar geleden al voor gewaarschuwd. Generatieve AI vraagt enorm veel rekenkracht en cloud-infrastructuur. De laatste tien jaar neemt het aantal benodigde berekeningen elk jaar met een tien- tot vijftienvoud toe. Dat levert weliswaar heel krachtige AI-systemen op die goed zijn in één welbepaald domein, maar daar staat wel een gigantische kost tegenover, niet alleen financieel, maar ook ecologisch. De rekenkracht blijven vertienvoudigen voor een iets beter resultaat is simpelweg niet houdbaar. Het recente nieuws dat techspelers zoals Amazon, Microsoft en Google gaan investeren in kernenergie met het oog op het trainen van grote AI-modellen, genereert nu wel meer media-aandacht en bewustwording rond die problematiek. En terecht: als we er niet in slagen om duurzame oplossingen te bouwen, dan riskeren we in een nieuwe AI-winter te belanden en zullen de grote doorbraken over tien jaar uitblijven. 

ChatGPT 4.0: Een van de grootste problemen met AI die vaak miskend of verwaarloosd worden door de media, is de impact van AI op sociale ongelijkheid. Hoewel technologische vooruitgang veel voordelen biedt, kan het ondoordachte gebruik van AI bestaande ongelijkheden versterken. Hier zijn enkele aspecten van dit probleem: 

1. Versterking van bestaande bias 

AI-modellen leren van historische data, en als deze data sociaal-economische, gender- of raciale vooroordelen bevat, zullen de modellen deze biases reproduceren. Voorbeelden zijn discriminerende algoritmes in de rechtspraak, rekrutering of kredietverlening. Dit probleem wordt vaak oppervlakkig besproken, zonder de diepere implicaties ervan te belichten. 

Waarom verwaarloosd? Veel mediaverhalen richten zich op spectaculaire AI-ontwikkelingen (zoals ChatGPT of zelfrijdende auto's), terwijl systemische kwesties zoals bias minder mediageniek zijn. 

2. Toenemende ongelijkheid door ongelijke toegang 

AI-ontwikkelingen worden voornamelijk gedreven door grote techbedrijven die enorme datasets en computerkracht bezitten. Dit creëert een kloof tussen landen, bedrijven en individuen die toegang hebben tot deze middelen en zij die dat niet hebben. 

Waarom verwaarloosd? De nadruk in de media ligt vaak op succesverhalen van AI, zoals hoe het ziektes kan detecteren of het leven efficiënter kan maken, zonder te bespreken wie deze voordelen écht ervaart. 

3. Milieu-impact van AI 

AI-modellen, vooral grote zoals GPT-4, vereisen enorme hoeveelheden energie voor training en werking. Dit draagt bij aan de ecologische voetafdruk van technologie, iets wat zelden in verband wordt gebracht met AI. 

Waarom verwaarloosd? De focus ligt op de functionaliteit en vooruitgang van AI, terwijl de milieu-impact vaak wordt gezien als een secundair probleem. Bovendien blijft het voor de gemiddelde lezer abstract omdat het niet direct zichtbaar is.

Mark Coeckelbergh is hoogleraar filosofie aan de Universiteit van Wenen. Hij is ook lid van meerdere comités die beleidsadviezen geven over AI. Hij is de auteur van o.a. AI Ethics (MIT Press), The Political Philosophy of AI (Polity), en eerder dit jaar Why AI Undermines Democracy and What to Do About It (Polity Press). 

Vincent Ginis is professor aan de Vrije Universiteit Brussel en visiting professor aan Harvard University. Zijn onderzoek bevindt zich op het snijvlak van fysica, complexe systemen en artificiële intelligentie. Hij publiceert en reflecteert regelmatig over de invloed van AI op kennisvorming, maatschappelijke structuren en ethiek. 

Steven Latré is hoofd AI en Algorithmes bij Imec, een onafhankelijk onderzoekscentrum voor digitale technologie en nanoelektronica in Leuven. Hij is ook deeltijds professor aan de Universiteit Antwerpen. 

Ludo Lauwaert is professor techniekfilosofie aan de KU Leuven. 

ChatGPT 4.0 is een geautomatiseerde gesprekspartner (chatbot) ontwikkeld door het Amerikaanse bedrijf OpenAI. Het is in korte tijd de bekendste toepassing van AI geworden. Uiteraard is de “mening” die dit programma hier formuleert, gebaseerd op wat daarover allemaal gepubliceerd is. (een deel van het antwoord van ChatGPT werd ingekort, wegens het overschrijden van de gevraagde maximale lengte…)

Voetnoot

1. Stel dat we een AI hebben die enkel tot doel heeft zoveel mogelijk paperclips te maken. Deze AI zou kunnen streven naar een wereld met veel paperclips maar zonder mensen. Immers, mensen zouden kunnen besluiten om de AI uit te zetten, en daardoor zouden er minder paperclips worden gemaakt. Bovendien bevatten menselijke lichamen veel atomen die tot paperclips gemaakt zouden kunnen worden.