CHATGTP KAN ONHERROEPLIJK GEVOLGEN HEBBEN VOOR LEREN EN BESLUITVORMING
De moderne koers van de mensheid is bepaald door verschillende keerpunten. De uitvinding van elektriciteit, de gloeilamp, het telegraaf systeem, de computer en het internet, onder andere, hebben allemaal nieuwe onomkeerbare mijlpalen aangegeven in onze modus vivendi. De recente introductie van ChatGPT kan echter meer zijn dan een keerpunt.
ChatGPT en AI-modellen zoals deze kunnen een blijvende verstoorder zijn van ons leven; hun blunders daargelaten.
ChatGPT is nu de snelst groeiende consumenten-app in de geschiedenis. Binnen twee maanden na de lancering in november 2022 slaagde ChatGPT erin meer dan 100 miljoen gebruikers te verzamelen. De ontwikkelaar, OpenAI, die begon met 375 werknemers en dunne inkomsten, wordt nu gewaardeerd op $30 miljard en telt nog steeds.
Hoe werkt het?
ChatGPT verzamelt gegevens van het internet (hoewel het niet rechtstreeks verbonden is met het internet in realtime) en synthetiseert binnen enkele seconden antwoorden op een vraag. Het is momenteel het meest veelzijdige en stabiele van de nieuwe AI-aangedreven grote taalmodellen. Het kan muzikale noten componeren, softwarecode schrijven, wiskundige vergelijkingen oplossen, romans, essays en proefschriften schrijven, en nog veel meer taken uitvoeren. Het kan door wetenschappers worden gebruikt om hun originele werken – geschreven in een moedertaal – in het Engels te vertalen. Naarmate AI-tools zoals ChatGPT evolueren, kunnen ze menselijke activiteit over een breed, maar onberekenbaar, spectrum vervangen. Honderden miljoenen banen staan op het spel.
De meest onmiddellijke impact zal echter liggen op het gebied van menselijk leren en besluitvorming.
Menselijk leren is een levenslang proces dat wordt gevormd door talloze factoren. Dit omvat (maar is niet beperkt tot) ervaring, instinct, interacties, fouten (en correcties), introspectie, persoonlijke angst, durf, begeleiding, tekstuele gegevens en individuele psyche. De meeste van deze vereisten zijn vreemd voor ChatGPT. Het axioma “geen pijn, geen winst” van menselijk leren en ontwikkeling is hier niet van toepassing.
AI-tools zijn ook onaangetast door menselijke beperkingen zoals tijdbeperkingen, vermoeidheid, “slechte dagen” en ziekten. Deze beperkingen kunnen uiteindelijk mensen dwingen om hun existentiële behoefte om na te denken en te leren aan machines over te dragen. Onvermijdelijke digitalisering heeft ons al bekwaam gemaakt in het weten waar of hoe we informatie moeten zoeken in plaats van te leren hoe we diezelfde informatie moeten onthouden. Hierdoor is een digitale steun nu een must-have geworden om wegen te navigeren (bijv. Waze, Google Maps), te koken (culinaire videokanalen), apparaten te repareren (DIY- Do It Yourself kanalen) en een groot aantal andere alledaagse activiteiten. Onze dagelijkse taken worden snel meer mechanisch, wat onze mogelijkheid om iets nieuws of baanbrekends te creëren overtreft. We worden verlengstukken van onze machines in plaats van andersom. Als gevolg hiervan staat de mensheid voor een tijdperk van collectieve verdoving en conformiteit.
Er is geen betere manier om te beoordelen hoe AI-tools ons vermogen om na te denken en te leren kunnen beïnvloeden dan door de impact van ChatGPT op de wereldwijde onderwijssector te observeren. Studenten en docenten gebruiken ChatGPT nu als aanvulling, vals speel hulpmiddel of digitale steun.
Een recent onderzoek van de Walton Family Foundation en Impact Research ontdekte dat de meeste leraren (51%) en veel studenten al ChatGPT gebruiken op school.
Een ander onderzoek onder 1000 Amerikaanse hogescholen ontdekte dat 30% van de studenten ChatGPT gebruikte voor geschreven opdrachten, waarbij 60% van hen het gebruikte voor “meer dan de helft van hun opdrachten.” ChatGPT is geslaagd voor veel hoog niveau-examens, waaronder het Wharton MBA-examen, het Amerikaanse medische licentie-examen, verschillende wetsexamens en een eindexamen aan de Stanford Medical School.
Kranten, schrijvers en uitgevers, kunnen ChatGPT ook gebruiken om wetenschappelijke artikelen en rapporten te fabriceren. Onderzoekers die de gegevens gebruiken (onthoud dat de AI “soms onjuiste antwoorden kan produceren”), of die opzettelijk het onderzoeksproces vervalsen door generatieve AI, kunnen uiteindelijk beleid en producten bevorderen die schadelijk zijn voor de samenleving. De wereld kan zich geen andere coronapsychose veroorloven!
Over het algemeen zijn zowel studenten als docenten steeds meer geïntimideerd door de almachtige AI. AI legt de lat hoger voor studenten, professoren en verschillende professionals. Het sorteren van echte artefacten wordt ook steeds moeilijker. Zoals Christopher Kanan, Associate Professor of Computer Science aan de Universiteit van Rochester onlangs opmerkte: “Het wordt gewoon moeilijker om uit te zoeken wie wat weet en wie hulp krijgt van dingen als ChatGPT.” Als gevolg hiervan hebben een paar scholen in New York, Hong Kong, Bangalore en elders studenten verboden ChatGPT te gebruiken in hun opdrachten vanwege zorgen over plagiaat, valsspelen en misinformatie.
Hoewel ChatGPT een geweldige tool is om complexe concepten en kennisintegratie te bestuderen, kan het in werkelijkheid de meeste gebruikers reduceren tot volgzame consumenten van AI-gegenereerde gegevens. Langdurige digitaal-gemedieerde passiviteit vermindert de denkvaardigheid. Een ander nadeel van ChatGPT is het potentieel om de veelbesproken digitale kloof te vergroten. Aanvragen voor banen, promoties, beurzen enzovoort zullen overwegend in het voordeel zijn van de digitale “hebbers” ten opzichte van de digitale “niet-hebbers”, vooral als er abonnementskosten vereist zijn voor toegang.
Op dit moment zijn onderwijsgevenden niet in staat om de ethische grenzen van ChatGPT te definiëren en nemen ze momenteel een afwachtende houding aan. Het ethische kader zelf kan worden geschreven door, of met behulp van, tools zoals ChatGPT zelf. Aini Suzana Ariffin, Associate Professor of Policy Studies aan de Universiti Teknologi Malaysia, is ervan overtuigd dat onderwijsgevenden zich geen zorgen hoeven te maken. “Een ethisch kader voor generatieve AI-tools zoals ChatGPT zal bepalen wat het leerproces bevordert en wat het belemmert. Dit kan tijd en zal veel discussie vergen, maar we kunnen maar beter nu beginnen.”
Menselijke besluitvorming
De regering van Singapore heeft onlangs aangekondigd dat haar ambtenaren ChatGPT zullen gaan gebruiken om hun werklast te verminderen. Dit is logisch omdat repetitieve of saaie taken kunnen worden versneld door AI-tools. Naarmate generatieve AI-tools echter exponentieel intelligenter en efficiënter worden, kan het governance-complex geleidelijk worden overgenomen door machines. Deze opkomende vorm van sociale ordening wordt “algocratie” genoemd, waarbij algoritmen, met name AI en blockchain, worden toegepast over het hele spectrum van de overheid. Algocratie houdt onvermijdelijk voorspellend bestuur in. De Berlijnse politiemacht heeft al een embryonale vorm van algocratie opgenomen in haar voorspellende politiebewakingssysteem. Zijn we op weg naar een Minority Report-samenleving in de nabije toekomst?
ChatGPT versnelt ook de stroom van informatie naar de hoogste besluitvormingsniveaus van een overheid of organisatie – omzeilt de traditionele rol van bureaucratische gatekeepers op tussenliggende niveaus. Hoewel dit als een welkome ontwikkeling tegen bureaucratie kan worden beschouwd, kan het gebrek aan traditionele controlemechanismen leiden tot peremptoire beslissingen met rampzalige sociaaleconomische gevolgen. Stel je voor dat een dergelijk algocratisch proces wordt geïntroduceerd in de nucleaire wapeninfrastructuur van een militaire grootmacht.
ChatGPT loopt ook het risico op het schenden van privacy en het lekken van persoonlijke gegevens in sectoren zoals bankieren en gezondheidszorg. De effectiviteit van generatieve AI-tools wordt gevoed door een steeds groter wordende hoeveelheid gegevens die voortdurend worden teruggekoppeld naar hun neurale netwerken. Deze zoektocht naar nauwkeurigheid, efficiëntie en snelheid kan ertoe leiden dat privégegevens worden gecompromitteerd als onderdeel van het machine learning-proces.
Op het gebied van gezondheidszorg kan geïnformeerde toestemming voor AI-ondersteunde gezondheidszorg worden beperkt omdat patiënten mogelijk niet begrijpen waar ze toestemming voor geven of omdat ze te veel vertrouwen hebben in een “intelligent en onpartijdig” op machines gebaseerd systeem. Het wordt nog dreigender wanneer triage nodig is in kritieke situaties. Traditioneel wordt triage bepaald door de integriteit en vaardigheden van medisch personeel ter plaatse en de beschikbare middelen. Een algoritme kan echter op een emotieloze manier triage regelen op basis van de “waarde voor de samenleving” van een patiënt; op gegevens gebaseerde levensverwachting; en kosten die gepaard gaan met het redden van het leven van de patiënt.
Aan het eind van de dag zal een ethisch AI-framework worden tegengehouden door Tech Titans die het ontwerp, de parameters en de doelen van generatieve AI-tools kunnen bepalen? Of zullen onze gekozen leiders proberen een synergistisch samenleven tussen AI en mensen te zoeken?
