Artificiële intelligentie

Context

Eind 2022 kwam ChatGPT online, een AI-chatbot die vragen waarvoor specifieke en diepgaande kennis vereist is, beantwoordt met natuurlijk klinkende tekst. Het platform is revolutionair door zijn vermogen om complexe vragen aan de hand van hun context te beantwoorden. Sindsdien lijkt een discussie over artificiële intelligentie in hoger onderwijs nooit ver weg. 

Het veelzijdige karakter van ChatGPT, in combinatie met het de massale ingebruikname bij het bredere publiek, stelt onze universiteit voor fundamentele vraagstukken over het gebruik van evaluatievormen die verworven capaciteiten waarheidsgetrouw moeten toetsen, het belang van leren schrijven, ghost writing en fraude, het belang van een kritische blik, de rol van een universiteit om studenten AI-bekwaam tem maken, AI als hulpmiddel voor zelfstudie, en het belang van transparante communicatie over tekortkomingen van tools zoals ChatGPT. Artificiele intelligentie zal in de komende jaren en decennia steeds prominenter voorkomen in onze professionele levens, dus is het belangrijk dat we er mee om leren gaan.  

Het is belangrijk om in het achterhoofd te houden dat AI al zeer ingebed is in onze levens en in ons onderwijs. Zoals Zweeds filosoof en schrijven Nick Bostrom ruim anderhalf decennia geleden, in 2006, zei: 

"A lot of cutting edge AI has filtered into general applications, often without being called AI because once something becomes useful enough and common enough it's not labelled AI anymore."

- Nick Bostrom, CNN

Naast ChatGPT komen in vermelden we in deze nota ook andere AI’s zoals DeepL, Github Copilot, Dall-E, en andere tekstgenererende AI’s vergelijkbaar aan ChatGPT van Google en Microsoft die gebruikt kunnen worden in onderwijs. We willen duidelijk maken dat, alhoewel ChatGPT de aanzet was voor het schrijven van deze nota, AI zich zeker niet beperkt tot ChatGPT alleen. 

We geloven in de uitstekende expertise van onze universiteit op het gebied van artificiële intelligentie en we willen met deze nota graag de aandacht vestigen op de belangrijke behoeften van onze studenten, zowel op korte als lange termijn. We luisterden hiervoor in de eerste plaats naar de stem van de stuver, en haalden daarnaast ook inspiratie uit opinieschrijvers en rapporten. 

Adviezen 

Over duidelijke communicatie over de regels rond fraude en ghost writing 

Fraude en ghost writing zijn geen nieuwe verschijnselen. Studenten die essays laten schrijven door anderen, hun examens laten invullen door anderen, teksten overnemen zonder bronvermelding, en met elkaar communiceren tijdens een examen komen al langer dan vandaag voor. Misschien is het dan correcter om de rol van AI te bekijken als een tool die ghost writing toegankelijk maakt voor een breder publiek, en niet als een nieuw, op zichzelf staand fenomeen.  

Daarnaast zijn er veel verschillende manieren om AI in te zetten, en veel van hen zouden volgens ons niet onder ghost writing mogen vallen. Enkele voorbeelden van verschillende gradaties in gebruik van ChatGPT: 

• ​vragen stellen en het antwoord woord voor woord overnemen en indienen;
• zelf een tekst schrijven en vragen om schrijfstijl te veranderen (“Verwoord dit op een formelere manier”);
• ChatGPT vragen om advies, maar de tekst wel zelf schijven; 
• ​​uitleg vragen over error messages uit computerprogramma’s tijdens een programmeeropdracht;
• uitleg vragen over hoe je iets specifiek moet doen (“Hoe werken kruisverwijzingen in Word?”); 
• kleine commando’s die tijd besparen (“Zet dit om in een tabel: A: 1, 2; B: 3, 4; C: 5, 6;”) 

Het bestempelen als “ghost writing” is dus moeilijk en vereist nuance. 

OpenAI, het bedrijf achter ChatGPT, werkt aan “het statistisch watermerken van de uitvoer van tekst [afkomstig van ChatGPT]” om plagiaat en propaganda geschreven door AI tegen te gaan. De ontwikkeling van dit digitale watermerk loopt echter stroef, en er zijn daarnaast nog zaken die het moeilijker maken voor docenten om plagiaat op te sporen.  

Zo bestaan er nog andere tekstgenererende AI’s, zoals Writesonic, Perplexity, en de aankomende chatbots van Google (Bard AI) en Microsoft (Bing Chat), waarvan de makers nog niet bekend gemaakt hebben of ze werken aan gewatermerkte uitvoer. Externe tools voor fraudedetectie, zoals ZeroGPT, geven dan weer vaak een vals positief resultaat, waardoor studenten vals beschuldigd kunnen worden. Ze zijn hierdoor onbetrouwbaar en we raden het gebruik door docenten ten strengste af. 

Vanuit de studentenpopulatie horen we vooral de vraag naar duidelijkheid over in welke contexten gebruik maken van AI toegestaan is, en in welke zeker niet. Als studenten in de problemen kunnen komen omdat het gebruik van ChatGPT gezien wordt als ghost writing, is het belangrijk dat ze hiervan op de hoogte zijn. We vragen daarom om actief in te zetten op transparante communicatie rond het fraudebeleid van de universiteit rond AI. 

Over transparante communicatie rond de valkuilen van AI 

We achten het belangrijk dat studenten worden ingelicht over de valkuilen van AI. Drie van de voornaamste valkuilen lijken ons het genereren van misinformatie, het ontbreken van bronvermeldingen, en de beperkte schrijfvaardigheid van AI.  

Misinformatie 

AI-tools zoals ChatGPT (Generative Pre-trained Transformer) zijn getraind op bestaande teksten, en dat brengt enkele risico’s met zich mee. Zo neemt het systeem bijvoorbeeld makkelijk misinformatie over of interpreteert het correcte informatie op een foute manier. Een opiniemaker van The Financial Times legt de vinger op de wonde met de volgende uitspraak: 

"But ChatGPT is also like some people I know: it can turn sketchy information into fluent and convincing answers. It sounds right even when it is making things up on the basis of something it read somewhere, which was itself regurgitated from other sources. Its smooth, articulate voice is usually persuasive, but cannot be relied on fully."

- John Gapper, Financial Times

De inhoudelijke kwaliteit van antwoorden geformuleerd door ChatGPT is vaak bedenkelijk, maar misschien moeten we ons voorbereiden op een tijd waarin AI wél betrouwbare en correcte antwoorden zal kunnen bieden. Een onderzoek door AnsibleHealth, een Amerikaans bedrijf in de gezondheidssector, onderzocht of ChatGPT in staat was om te slagen voor de United States Medical Licensing Examination (USMLE) (het examen voor medische vergunningen in de VS). Het examen beoordeelt het vermogen van een arts om kennis, concepten en principes toe te passen en fundamentele vaardigheden te demonstreren.

De slagingsdrempel voor het examen varieert van jaar tot jaar maar ligt doorgaans rond de 60%. In het onderzoek behaalde ChatGPT scores tussen 52,4% en 75%, wat voldoende zou moeten zijn om te slagen voor het examen. De onderzoekers spreken zelf over “een verrassend en indrukwekkend resultaat”. Dat is het zeker vergeleken met testen uit 2020 met eerdere versies van GPT’s, waar scores werden behaald tussen 36,7% en 50%. AI wordt dus steeds beter, waardoor hogere scores in de nabije toekomst niet zijn uitgesloten. 

Voor nu is het vooral belangrijk dat studenten weten dat AI-tools inhoudelijk niet betrouwbaar genoeg zijn om elke vraag correct te beantwoorden en om papers te schrijven, zeker niet wanneer gebruikers geen andere bronnen consulteren ter controle. Een initiatief van een docent aan onze universiteit was om een taak te geven waarbij studenten een klein onderzoek moeten uitvoeren en daarvoor interviews moeten afnemen bij zowel mensen als bij ChatGPT. Door het maken van de taak ondervinden studenten dat de antwoorden van ChatGPT in vergelijking met de interviews voorspelbaar en ongenuanceerd zijn, en dat ze weinig nieuwe inzichten bijbrengen.  

Ontbrekende bronvermelding 

Een andere tekortkoming van tekstgenererende neurale netwerken, zoals ChatGPT, is dat ze in wezen functioneren als zwarte doos. Je ziet de in- en uitvoer, maar krijgt geen achterliggende redenering van het resultaat. Dit wil zeggen dat geen bronnen worden gegeven. Als je aan ChatGPT vraagt om bronnen te genereren, zijn die vaak fout.

Docenten zullen een extra inspanning moeten doen om de meerwaarde van kwalitatieve bronnen aan te tonen. 

Beperkte schrijfvaardigheid 

Tot slot denken we dat de beperkte schrijfvaardigheid van ChatGPT een valkuil kan zijn voor studenten die de tool intensief willen gebruiken voor opdrachten en papers. Teksten geschreven door AI kunnen worden gezien als collages van de bestaande teksten waarop het algoritme getraind is.  

Dit is de ervaring die een schrijver voor The Economist had toen hij ChatGPT vroeg om een artikel over ChatGPT te schrijven in de stijl van Shakespeare: 

"Not bad, except that there is more to Shakespeare than “ ‘tis” and “hath”. And the text seems like a pastiche of information to be found on the internet. (…) It will be a while before your correspondent has to look for a new field of work. He will pen the next article by himself."  

- Anonieme auteur, The Economist

We vinden het daarom belangrijk dat vooral generatiestudenten, die nog niet veel ervaring hebben met schrijven, zich ervan bewust worden dat in teksten geschreven door AI’s dikwijls inzichten ontbreken en dat nuance (nog) niet op een hoog genoeg niveau ligt. 

Net zoals leerlingen in het eerste leerjaar ook nog geen rekenmachine mogen gebruiken en de rekentafels vanbuiten moeten leren, mis het belangrijk dat studenten eerst het schrijven onder de knie krijgen. 

Over het belang van te leren schrijven 

We moeten terugkeren naar de essentie en ons de fundamentele vraag stellen, “Waarom schrijven we, en wat is het belang van te kunnen schrijven?”. Als de opdracht eruit bestaat om lijsten met feiten te verzamelen en om te vormen tot paper, kunnen we net zo goed vervangen worden door een AI-chatbot. Maar als mens zijn we tot meer in staat. Hetzelfde principe is toepasbaar op onderzoek, waar we later op terugkomen bij het deel “Over evaluatievormen”.  

We hopen dat een diploma halen aan onze universiteit in de toekomst nog altijd garant zal staan voor iemand die bekwaam kan schrijven. We vragen daarom aandacht voor het belang van doordachte schrijfopdrachten waarbij studenten leren schrijven als schrijver.  

AI kan zeker ook een hulpmiddel zijn in het leerproces van schrijven. We raden ChatGPT for Higher Education and Professional Development: A Guide to Conversational AI, door The University of Rhode Island, aan als inspiratiebron, waar in hoofdstuk 5 wordt besproken hoe ChatGPT gebruikt kan worden voor grammaticacontrole, proeflezen, herstructureren en als hulpmiddel voor creatief schrijven. 

Over het belang van kritisch te leren zijn 

In tegenstelling tot een rekenmachine, die altijd hetzelfde antwoord geeft, kunnen AI’s zoals ChatGPT meerdere unieke antwoorden verzinnen op dezelfde vraag. Dit maakt de antwoorden onvoorspelbaar en vergroot het belang van de kritische lezer. 

"Meer dan een halve eeuw geleden verklaarde de Franse filosoof Roland Barthes de dood aan de auteur. De betekenis van de tekst ontstaat in de lezer, stelde hij. Met zijn fameuze doodverklaring wilde Barthes de lezer emanciperen en aanvuren tot actieve en kritische lectuur."

- Marlies De Munck, professor Wijsbegeerte aan UAntwerpen

Ondertussen wordt gretig gebruik gemaakt van AI om teksten te genereren. Zo zijn al minstens 200 boeken te koop bij de online boekenhandelaar Amazon waarbij ChatGPT als auteur of medeauteur wordt gegeven. Dit zorgt, terecht, voor bezorgde academici. 

"The danger is that ChatGPT and other AI agents create a technology version of Gresham’s Law on the adulteration of 16th century coinage, that “bad money drives out good”. If an unreliable linguistic mash-up is freely accessible, while original research is costly and laborious, the former will thrive."

- John Gapper, Financial Times 

Studenten kritisch leren lezen en redeneren is belangrijker dan ooit, en het is de taak van docenten om dit op te nemen in hun vakinhoud en taken.  

Over evaluatievormen  

Hoe kunnen docenten een evaluatie afnemen bij studenten die hun verworven competenties zo correct mogelijk weergeeft? We vestigen de aandacht graag op zijn twee zaken die, in een wereld waarin AI alomtegenwoordig is, cruciaal zijn om te evalueren: de bekwaamheid van AI-gebruik, en soft skills. 

Bekwaam AI-gebruik 

Aan verschillende hogeronderwijsinstellingen worden taken gegeven waarbij studenten ChatGPT moeten gebruiken als informatiebron. Studenten moeten dan niet alleen het antwoord, maar ook het gebruikte commando bijhouden. Een opdracht als deze toetst naar het vermogen van studenten om op een effectieve manier gebruik te maken van AI. Als uitbreiding op deze taak zouden studenten bijvoorbeeld ook gevraagd worden om het antwoord van AI te bekritiseren. 

Het is hierbij uiteraard belangrijk dat docenten zulke taken op een doordachte manier organiseren en dat ze een gestaafde manier hebben om te oordelen. 

Soft skills 

De verspreiding van AI is ook een kans om onze evaluatiecriteria te herbekijken op een manier die focust op soft skills zoals kritisch denken, morele integriteit, en samenwerkingsvaardigheden, eigenschappen die algoritmes niet kunnen leren. Daarnaast zullen vaardigheden zoals AI-governance in de toekomst steeds waardevoller worden, wat in onze visie voor levenslang leren past. 

We vragen daarom dat docenten aangezet worden tot nadenken over hoe relevant de huidige eindcompetenties van hun vakken in de toekomst zullen zijn. Inzetten op soft skills lijkt ons daarbij een stap in de juiste richting.  

Evaluatiemethoden opvolgen op facultair niveau 

Faculteiten zouden elk afzonderlijk evaluatiemethoden kunnen uitproberen en proefondervindelijk bekijken wat voor hen werkt, waarbij ze ondersteund worden door een kennisnetwerk dat wederzijds overleg tussen faculteiten faciliteert. 

Een goed initiatief is om bij papers bijkomende toelichting te vragen, en dat kennis wordt afgetoetst op andere evaluatiemomenten waar het gebruik van hulpmiddelen gemonitord kan worden, zoals op examens. Hierbij vragen we speciale aandacht voor het toezien dat de werkdruk van het vak gelijk blijft aan het aantal studiepunten. 

Voor opdrachten in het algemeen willen we de volgende vuistregel voorstellen: als ChatGPT de taak kan maken, verzin je best een andere taak. Als je opdracht volledig door een AI gemaakt kan worden, ben je namelijk niet bezig met innoverend onderzoek. AI's zouden kunnen helpen om je sneller de basis te geven of om  praktische zaken uit te schrijven, maar om tot frisse inzichten te komen hebben we menselijke denkkracht nodig. 

Over artificiële intelligentie als tool voor zelfstudie 

Het tijdperk van artificiële intelligentie als docent is nog lang niet aangebroken. Toch kunnen studenten nu gebruik maken van AI als hun assistent tijdens het studeren. We denken daarbij aan het maken van samenvattingen, het uitleggen van woorden en concepten, het brainstormen over mogelijke onderzoeksthema’s en argumenteringen voor/tegen een standpunt, het genereren van vragen over de leerstof als voorbereiding op examens, het maken van flashcards, het uitstippelen van een planning voor een onderzoeksproject, het helpen bij het zoeken naar bronnen over een bepaald onderwerp, en het geven van feedback op teksten. 

Naast ChatGPT zijn nog andere AI’s die domeinspecifieke toepassingen kunnen hebben. Zo kan Dall-E bij Ontwerpwetenschappen waardevol zijn als inspiratiebron voor visuele en creatieve opdrachten. Vertaler DeepL wordt bij Letteren en Wijsbegeerte als benchmark beschouwd voor het feilloos vertalen van teksten waardoor studenten hun eigen vaardigheden kunnen bijschaven. Bij Informatica kan het leren gebruiken van Github Copilot studenten efficiënter doen werken en voorbereiden op het werkveld. 

Docenten kunnen duidelijk maken aan studenten dat gebruik van AI als hulpmiddel toegestaan is en ze kunnen ideeën geven over hoe studenten dat concreet kunnen doen, maar ook hierbij het belang van een kritische blik benadrukken. Achteraf kan hen gevraagd worden voor welke delen van hun opdracht ze AI gebruikt hebben zodat studenten van elkaar kunnen leren. 

Over het leren gebruiken van AI als voorbereiding op het werkveld 

"We envision a world where everyone, no matter their profession, can have a Copilot for everything they do."

- Satya Nadella, CEO van Microsoft

We eindigen deze nota graag met een vooruitblik naar de toekomst, wanneer huidige UAntwerpen-studenten, waaronder ook wij van de Studentenraad, terecht zullen komen in het werkveld.  

Uit een onderzoek van adviesbureau McKinsey blijkt dat dit jaar 50% van de bedrijven over de hele wereld heeft geprobeerd om AI op de een of andere manier te gebruiken, tegenover 20% in 2017.

Met het vooruitzicht op een toekomst waarin AI een grote rol speelt, is het belangrijk dat onze universiteit niet achterblijft. Het is daarom belangrijk dat ze ál haar studenten bekwaam maakt in het gebruik van AI en het ontwikkelen van soft skills. Zo blijft onze universiteit jong en kan ze concurreren met andere universiteiten die AI steeds vaker zullen integreren in hun onderwijs. Want zo kunnen we mee de toekomst bepalen.