Kunstmatige Intelligentie (AI) transformeert verschillende sectoren snel, waaronder onderwijs, gezondheidszorg en bedrijfsleven. Met de groeiende invloed van AI rijzen echter vragen over vertrouwen en ethische kwesties.
Op 11 juni vond er een interessant evenement plaats over kunstmatige intelligentie, getiteld Science and Education in the Age of AI”, georganiseerd door Science Cafe Nijmegen. Prof. dr. Sascha Caron (Radboud Universiteit), Prof. dr. Suzan Verberne (Leiden Universiteit), Prof. dr. Henk de Regt en Prof. dr. Luca Consoli (Radboud Universiteit) gaven korte presentaties over AI in de wetenschap (natuurkunde en taalmodellen) en de ethische en maatschappelijke implicaties van de groeiende rol van AI in kenniscreatie en -verspreiding.
Wij spraken met Dr. Consoli, Universitair Hoofddocent Ethiek van de Wetenschap aan de Radboud Universiteit Nijmegen en Institute for Science in Society, over de ontwikkelingen rondom AI, ethische vraagstukken over het inzetten hiervan in het onderwijs en de complexiteit van Human Capital op de arbeidsmarkt. 
Prof. dr. Luca Consoli
AI begrijpen
Wat is AI precies en wie maakt het? Consoli legt uit dat AI een breed scala aan technologieën omvat, van aanbevelingssystemen online, op tv of op sociale media tot generatieve AI zoals ChatGPT en Microsoft Copilot.
“De gemeenschappelijke factor is dat deze systemen zich gedragen op een manier die intelligent lijkt en daarmee vaak menselijke interactie imiteren.” Van het praten met de klantenservice (vaak eerst met een chatbot), tot het automatiseren in bedrijven of het nakijken van een werkstuk, we hebben tegenwoordig allemaal te maken met AI, of we dat willen of niet.
Generatieve AI in het Onderwijs: reactie op een snelgroeiende trend
Generatieve AI, zoals in grote taalmodellen, heeft een merkbare impact gehad op het onderwijs. Consoli benadrukt dat AI in het onderwijs niet is ontstaan vanuit de onderwijsinstellingen maar juist vanuit de studenten, die AI-programma’s gebruiken om hun werkstukken te (helpen) maken of als zoekmachines. “Studenten hebben deze tools snel omarmd, wat onderwijsinstellingen heeft gedwongen om te reageren.” De uitdaging in het onderwijs ligt in het verantwoord integreren van AI en toch onafhankelijk zijn van big tech, waarbij vaak problemen spelen met het waarborgen van privacy en wet- en regelgeving. Dit heeft ertoe geleid dat hogere onderwijsinstellingen nu zelf hun eigen AI-systemen aan het ontwikkelen zijn.
Consoli is niet tegen het gebruik van AI in het onderwijs, maar pleit voor het verantwoord omgaan en inzetten hiervan. Daarnaast moet onderwijs een belangrijke taak vervullen: studenten kritische vaardigheden aanleren. Hoe pas je dat toe in dit tijdperk waarin studenten denken alles te kunnen vertrouwen wat AI genereert? Voor Consoli ligt het in het leren van kernvaardigheden zoals kritisch denken, zodat ze de output van AI kritisch kunnen beoordelen op juistheid. Consoli: “Vandaar worden er steeds meer cursussen over digital literacy aangeboden voor zowel studenten als docenten op de universiteiten.” Hierbij is de hoop dat er meer bewustwording gecreëerd wordt.
Verantwoordelijk omgaan met AI
Als het gaat over wie de koplopers zijn op het gebied van het ontwikkelen van AI in Nederland, is Consoli’s antwoord: “Iedereen en niemand. Big tech (Google, Microsoft, OpenAI) heeft op dit moment de grootste marktaandelen op dit gebied.”
Kleinere bedrijven met aanzienlijk minder budget kunnen nog niet concurreren met het aanbod van big tech. “Onderwijsinstellingen, bedrijven, gezondheidsinstellingen enzovoort staan voor moeilijke keuzes: het integreren van big tech AI in hun gevoelige systemen, met daarbij de keuze tussen ‘goedkope’ opties die mogelijk weinig rekening houden met AVG-regels, of kiezen voor zeer dure opties waarbij privacy wel gewaarborgd wordt. Of kiezen voor kleinere AI-systemen die wellicht nog in de kinderschoenen staan.”
Het Nationale Onderwijslab AI (NOLAI) voor het basis-, voortgezet en speciaal onderwijs van Nederland, gefinancierd door het Nationaal Groeifonds, ontwikkelt en onderzoekt verantwoorde educatieve AI. Hierbij staat de samenwerking tussen onderwijs, bedrijfsleven en wetenschappers centraal. Consoli zegt: “Onderwijsinstellingen voelen zich ethisch verplicht om verantwoord om te gaan met AI in het onderwijs, door goed onderzoek te doen naar welke AI-systemen er worden gebruikt en met welke richtlijnen.”
Vertrouwen en uitlegbaarheid
Vertrouwen in AI is veelzijdig. Het omvat betrouwbaarheid—ervoor zorgen dat AI taken uitvoert zoals verwacht—en uitlegbaarheid—begrijpen hoe AI tot conclusies komt. Consoli merkt op dat de “black box” aard van veel AI-systemen het moeilijk maakt om ze volledig te vertrouwen. Transparantie en het vermogen om AI-beslissingen uit te leggen zijn cruciaal voor het opbouwen van vertrouwen.
Ethische overwegingen: kan AI de mens volledig vervangen?
De maatschappelijke impact van AI reikt verder dan het onderwijs. Consoli bespreekt de mogelijkheid dat AI bepaalde banen vervangt, met name die welke repetitieve taken omvatten. “Er gaan bepaalde banen verloren. Neem bijvoorbeeld de klantenservice, die grotendeels vervangen wordt door chatbots. Maar AI kan de mens niet volledig vervangen.” Zijn ideale oplossing is het inzetten van AI om mensen te bevrijden van eentonig werk, zodat ze zich kunnen richten op meer creatieve en betekenisvolle activiteiten.
De ethische implicaties van AI, met name generatieve AI, zijn echter aanzienlijk. Consoli benadrukt het belang van ethische overwegingen bij de ontwikkeling en inzet van AI. Kwesties als privacy, duurzaamheid en bias zijn cruciaal. Op de arbeidsmarkt is nu de uitdaging dat werknemers nieuwe vaardigheden moeten ontwikkelen om banenverlies tegen te houden. “Er zullen nieuwe beroepen gecreëerd worden zodat mens en AI samen kunnen werken” aldus Consoli.
Een belangrijke rol
Naarmate AI zich blijft ontwikkelen, blijven ethische overwegingen en vertrouwen van het grootste belang. Consoli vindt dat universiteiten, kennisinstellingen, bedrijven en andere partijen een cruciale rol zouden kunnen spelen bij het bevorderen van bewustwording en het begeleiden van verantwoord AI-gebruik. Hij zegt, “Door de ethische uitdagingen aan te pakken en transparantie te bevorderen, kunnen we het potentieel van AI benutten en tegelijkertijd de risico’s beperken.”
