Wanneer de Aanklager een Chatbot Is
Wat een Braziliaans Plagiaatschandaal Ons Leert over AI en Academische Integriteit
eyesoneurope
Medio 2023 ging een verhaal uit Brazilië viraal, om een onverwachte reden. Het ging niet over een student die betrapt werd op het gebruik van ChatGPT om te frauderen. Het was juist andersom: een docent had ChatGPT zelf gebruikt om te bepalen dat een scriptie van een student door AI was geschreven — en had het mis.
Een studente in Brasília zag de afstudeerscriptie van haar oom door de examencommissie geblokkeerd worden, nadat een docent de tekst door ChatGPT had gehaald en had gevraagd of de tool die had geschreven. ChatGPT antwoordde, zoals altijd zelfverzekerd, van wel. De beschuldiging kostte hem bijna zijn cijfer — totdat hij een manier vond om terug te vechten: hij liet hetzelfde chatbot een van de eigen gepubliceerde artikelen van de docent beoordelen. Ook dat artikel werd, even zelfverzekerd, door ChatGPT geclaimd als eigen werk. De zaak kreeg landelijke aandacht, haalde miljoenen weergaven, en legde een veel groter probleem bloot.
Zodra het verhaal zich verspreidde, meldden zich meer studenten met vergelijkbare klachten. Een informaticastudent uit Rio de Janeiro vertelde dat zijn projectgroep een nul kreeg nadat een docent hen beschuldigde van AI-gebruik — zonder enig bewijs, alleen de beschuldiging zelf. Hij en zijn groepsgenoten stapten naar de docent, de opleidingscoördinator en de ombudsdienst van de universiteit, zonder succes. Tegelijkertijd had een docente Portugees in São Paulo meer geluk: zij gebruikte ChatGPT om essays van twee leerlingen uit de tweede klas te controleren die haar wantrouwig hadden gemaakt, en toen ze onthulde wat ze had gedaan, gaf één leerling toe de tool te hebben gebruikt. Maar haar aanpak werkte vooral omdat ze het schrijfwerk van haar leerlingen door jarenlange klaservaring goed kende — niet omdat de chatbot daadwerkelijk een plagiaatdetector was.
Waarom “het de chatbot vragen” niet werkt
Het is de moeite waard om precies te begrijpen waarom dit steeds weer misgaat, want de technische details doen ertoe bij het opstellen van beleid.
ChatGPT genereert tekst door de meest waarschijnlijke volgende woorden te voorspellen op basis van patronen uit de training — het houdt geen doorzoekbaar archief bij van alles wat het ooit voor iemand heeft gegenereerd. Informaticus Lucas Lattari, die dit vraagstuk heeft bestudeerd, wijst erop dat zodra een model getraind en uitgebracht is, geen enkele nieuwe interactie wordt teruggevoerd in de kennis van het model, totdat er een volledig nieuwe versie wordt gebouwd. Als een docent dus vraagt “heb jij dit geschreven?”, wordt er geen database geraadpleegd. Het model genereert simpelweg opnieuw een gok, in dezelfde zelfverzekerde toon die het voor alles gebruikt — ook voor inhoud die het aantoonbaar niet heeft geschreven.
Dat laatste punt was eenvoudig aan te tonen. De factcheckorganisatie Aos Fatos deed een experiment: ze voerden ChatGPT twee alinea’s uit een Braziliaanse editie uit 1998 van De Age of Extremes van historicus Eric Hobsbawm — een tekst uit 1994, oftewel 24 jaar vóór de release van ChatGPT — en vroegen of die door AI was gegenereerd. ChatGPT antwoordde bevestigend en schreef de passage aan zichzelf toe.
Vervolgens deden ze het omgekeerde experiment: ze namen een tekst die daadwerkelijk door ChatGPT was geschreven en lieten die beoordelen door verschillende gespecialiseerde AI-detectietools. De meeste van die tools — specifiek gebouwd voor dit doel — concludeerden ten onrechte dat de tekst door een mens was geschreven. Alleen de experimentele classifier van OpenAI zelf kwam tot de juiste conclusie, en zelfs die tool waarschuwde nadrukkelijk dat hij niet betrouwbaar genoeg is voor beslissingen met grote gevolgen, en slechter presteert bij teksten van kinderen of niet-Engelstalige schrijvers.
De ongemakkelijke conclusie, gedeeld door onderzoekers en privacy-experts, is dat betrouwbare AI-detectie voorlopig geen probleem is dat de technologie zelf oplost — en dat het behandelen van elke bestaande tool als een oordeelsmachine op zichzelf een vorm van wanpraktijk is.
De echte schade zit niet in fraude — maar in valse beschuldiging
Het is verleidelijk om dit te scharen onder “kinderziektes van nieuwe technologie” en verder te gaan. Maar de gevolgen hier zijn niet abstract. Studenten beschreven reële consequenties: een genulde groepsopdracht, het risico op een onvoldoende voor een heel semester, maanden studievertraging — allemaal veroorzaakt door een tool die niet kan wat er van gevraagd werd, zonder enig ondersteunend bewijs en, in minstens één geval, zonder werkelijke mogelijkheid tot beroep.
Rafael Zanatta, directeur van de Braziliaanse organisatie Data Privacy Brasil, ziet dit minder als een verhaal over verleide studenten en meer als een verhaal over institutionele onvoorbereidheid. Chatbots zijn ontworpen om zelfverzekerde, vloeiende antwoorden te geven, ongeacht of die antwoorden waar zijn — precies dat ontwerpkenmerk misleidt een onvoorbereide beoordelaar. Het risico is groter bij instellingen waar docenten onvoldoende ondersteund en uitgerust zijn, zonder enige echte infrastructuur om AI-gerelateerde integriteitskwesties te behandelen — zij grijpen naar het middel dat toevallig voorhanden is, omdat hen niets beters is aangereikt.
Dat is een probleem dat wél op te lossen is. Alleen niet door een chatbot over zichzelf te laten oordelen.
Een betere scheidslijn: proces, niet proza
Als de uitkomst van een tekst niet langer betrouwbaar terug te herleiden is naar de vraag of AI betrokken was, is de logische stap om te stoppen met het reverse-engineeren van auteurschap uit de eindtekst, en in plaats daarvan te kijken naar het proces dat tot die tekst leidde. Die herformulering heeft een dubbel effect: ze beschermt onschuldige studenten tegen valse beschuldigingen, én ze geeft echte structuur aan wat “legitiem AI-gebruik” precies inhoudt.
Kenmerken van legitiem, productief AI-gebruik:
- De student kan elke claim, structuurkeuze en elk bewijsstuk in het werk in eigen woorden uitleggen en verdedigen, zonder aansporing.
- Er is een zichtbaar spoor — concepten, aantekeningen, een outline, een revisiegeschiedenis — dat laat zien hoe het werk zich in de tijd heeft ontwikkeld.
- AI werd gebruikt zoals je een bijlesdocent of onderzoeksassistent zou gebruiken: om ideeën te verkennen, een argument op de proef te stellen, een lastig concept te verduidelijken, of grammatica te verbeteren — niet om de kernideeën of analyse zelf te bedenken.
- De student maakt AI-gebruik kenbaar waar relevant, in plaats van het te verbergen, omdat de instelling openheid hierover normaal en veilig heeft gemaakt in plaats van automatisch een schuldbekentenis.
- Het eindresultaat weerspiegelt de eigen stem van de student, het eerdere niveau, en de specifieke cursuscontext — dingen die een generiek AI-antwoord zelden treft.
Signalen die daadwerkelijk onderzoek verdienen (zorgvuldig, en met behoorlijke procedure):
- Er zijn helemaal geen ondersteunende concepten, aantekeningen of onderzoekssporen — het werk lijkt kant-en-klaar te zijn verschenen.
- De student kan de eigen redenering, terminologie of bronnen niet uitleggen wanneer daar in een gesprek rechtstreeks naar wordt gevraagd.
- De inhoud gaat over stof die nooit in de les is behandeld, of presteert op een niveau dat sterk afwijkt van eerder, geverifieerd werk van de student.
- Er is een patroon zichtbaar over meerdere inleveringen heen van generieke formuleringen, opvallend uniforme structuur, of dezelfde kenmerkende fouten die ook bij medestudenten voorkomen.
Merk op wat ontbreekt in de tweede lijst: “een chatbot zei het.” Dat is bewust. Elk van deze signalen vereist een menselijke beoordelaar die de student, de cursus en het werk kent — niet het uitbesteden van dat oordeel aan hetzelfde middel dat het beleid probeert te controleren.
Wat dit in de praktijk betekent
Voor studenten: de veiligste en meest waardevolle gewoonte is om een zichtbaar spoor van je eigen denkproces bij te houden — bewaar concepten, noteer wat je een AI-tool hebt gevraagd en waarom, en zorg dat je de redenering achter je werk kunt toelichten zonder het document voor je te hebben. Die gewoonte beschermt je op twee manieren: het is hoe echt leren eruitziet, én het is je beste verdediging als je ooit ten onrechte wordt beschuldigd.
Voor instellingen: stop met het behandelen van welke chatbot dan ook — inclusief de tool die studenten mogelijk zelf gebruiken — als een oordeelsmachine. Bouw beoordeling op rond proces (mondelinge tussentijdse gesprekken, concepten, revisiegeschiedenis) in plaats van rond één eindproduct dat geïsoleerd wordt beoordeeld. Geef docenten echte training en duidelijk beleid, zodat zij niet, onder druk en zonder ondersteuning, zelf detectiemethoden hoeven te verzinnen. En bouw een werkelijke beroepsprocedure, voordat een valse beschuldiging een student een cijfer, een semester, of het vertrouwen in de instelling kost.
Zoals Zanatta het verwoordde: studenten die vastbesloten zijn te frauderen, zullen altijd creatieve manieren blijven vinden, ongeacht welk beleid er bestaat. De echt urgente oplossing is niet een betere detector — het is een institutionele cultuur die AI behandelt als onderwerp voor open, eerlijk gesprek met studenten, in plaats van als verboden vrucht die achteraf moet worden opgespoord. De zaak in Brasília bewees niet dat Braziliaanse studenten fraudeerden met AI. Ze bewees dat het straffen van verdenking in plaats van bewijs een veel gemakkelijkere valkuil is — voor instellingen net zo goed als voor wie dan ook.
