ChatGPT: een vloek of een zegen voor jouw organisatie?

Eind 2022 stelde technisch directeur Rik van Berendonk samen met collega Stefan Tuijt (manager Innovatie) het jaarlijkse ict-trends whitepaper samen. Het was toen nog niet duidelijk wat voor storm ChatGPT zou veroorzaken in 2023. “Chat processing werd al wel meerdere keren als trend genoemd, maar brak toch niet echt door. We kunnen vanaf nu echt zeggen dat dat wel het geval is. We zitten op een kantelpunt. Sommigen zeggen ook wel dat ChatGPT de vierde revolutie op gang brengt. En zoals Satya Nadella (Microsoft) zegt dat het de grootste verandering is sinds het ontstaan van het internet.” 

Inmiddels komen er elke week weer nieuwe aankondigingen van ChatGPT-gerelateerde toepassingen. Denk aan Microsoft met Microsoft 365 Co-pilot, een integratie van ChatGPT met Office 365. Of denk aan Google met de aankondiging van de integratie van de AI-oplossing Bard in Google Docs en Google Workspace. Tegen de tijd dat dit artikel online staat zal het binnen no-time dus alweer ‘achterhaald’ zijn.

Ik interviewde Rik over dé trend van 2023: generative AI, met ChatGPT als bekendste voorbeeld. Rik nam me mee in het gebruik van de tool, de achterliggende principes, de toepasbaarheid ervan en zijn verwachtingen voor de toekomst. Ook legt hij uit waarom het belangrijk is om zorgvuldig met deze technieken om te gaan. 

Kun je nog even kort vertellen wat ChatGPT ook alweer inhoudt?

“ChatGPT is in de basis een large language model (LLM) dat analyses haalt uit heel veel data. ChatGPT haalt bepaalde patronen uit de tekstgegevens waarvan de bot gebruikmaakt. De bot gebruikt die patronen om voorspellingen te doen over welke woorden in een zin moeten komen.

Je kunt vragen stellen aan zo'n bot. Je hebt echt het idee dat je met iemand in gesprek bent doordat de bot zo goed weet welke woorden tot een goede respons leiden. Daarmee wijkt het dus af van het normale zoeken in een zoekmachine als Google of Bing, waarbij je trefwoorden intypt en een lijst met websites als zoekresultaten terugkrijgt. 

De bot creëert unieke content en niet alleen een lijst met zoekresultaten. We noemen dit ook wel ‘generatieve AI’. Dat betekent dat het een programma is dat van AI gebruik maakt om de juiste content (woorden, afbeeldingen, of zelfs muziek) te genereren voor de context van het gesprek wat je met de bot hebt.

ChatGPT is uniek omdat de antwoorden persoonlijk gegenereerd lijken met grammaticaal kloppende zinnen. Dat is baanbrekend.

De mogelijkheden zijn dan ook eindeloos. Ben je op zoek naar een computercode, ideeën voor een kerstdiner of een werkstuk in de stijl van Shakespeare? ChatGPT geeft je het antwoord. Op zowel artistiek, als op feitelijk gebied kun je veel met ChatGPT. Het sterke zit hem in het taalkundige, je krijgt antwoorden die persoonlijk gegenereerd lijken met goede grammaticaal kloppende zinnen. Dat is iets wat we nog niet eerder hebben meegemaakt.” 

Wat maakt ChatGPT zo bruikbaar?

“De makers van nieuwe technologie brengen de nieuwe technologie vaak de wereld in als iets wat baanbrekend gaat zijn. De rest van de wereld is dan vaak nog niet echt onder de indruk. Dat zag je bijvoorbeeld bij de aankondiging van de Metaverse van Mark Zuckerberg in 2021. De gebruikers zagen nog niet per se de meerwaarde van het product in, en de beurswaarde van het moederbedrijf Meta zakte dan ook aardig in. Inmiddels zijn er signalen dat de focus van Meta verschoven is van het ontwikkelen aan de Metaverse naar hun eigen ChatGPT-achtige oplossingen (LLaMA) voor integratie met Whatsapp. 

In het geval van ChatGPT is het anders. ChatGPT is al echt bruikbaar gebleken. Ten eerste omdat Microsoft er een verdienmodel van heeft gemaakt. Mensen kunnen de functionaliteit van ChatGPT nu al afnemen in abonnementsvorm, in de vorm van Azure OpenAI. En binnenkort ook in de vorm van een toevoeging als integratie in de clouddiensten zoals Office365 en Bing. Daarmee komt de functionaliteit opeens voor miljoenen mensen beschikbaar, wat een enorme vlucht in de adoptie oplevert.

Ten tweede is ChatGPT een unieke toevoeging op onze huidige werkzaamheden. Ik gebruik ChatGPT zelf ook en het bevalt me. Het is anders dan Google, waarbij je een vraag intypt en je vervolgens een lijst met artikelen van Google krijgt. Die artikelen moet je zelf nog doorzoeken. Hopelijk is er dan een blog die je antwoord op je vraag geeft. Bij ChatGPT stel je een vraag en je krijgt er een gespecialiseerd antwoord voor terug. Vervolgens kun je erop doorvragen en een echt gesprek met de bot hebben. Je kunt om verduidelijking of om extra toevoegingen vragen. Dat is echt wel uniek.

Je betaalt voor ChatGPT in de vorm van een abonnement, wat ervoor zorgt dat je kwalitatief betere content en antwoorden krijgt. Dat maakt de gebruikswaarde van ChatGPT hoog. ChatGPT  krijgt dus sneller zijn toepassing, omdat veel mensen de tool nu al inzetten in hun dagelijks leven. Daarnaast is het gecommercialiseerd door Microsoft. Zelfs Google moet vrezen voor geduchte concurrentie en kan mogelijk de positie als marktleider voor zoekmachines verliezen.”

Waarvoor verwacht jij dat mensen ChatGPT vooral gaan inzetten?

“Ik verwacht dat de toepassing van ChatGPT in sectoren waar mensen veel met teksten werken het meest bruikbaar is. Bijna elke sector doet wel iets met tekst. Of dat nu binnen de communicatie- en PR-kant is met blogs en andere contentvormen, of aan de ict-kant waar mensen met code werken. Of denk aan de consultancy over een bepaalde dienstverlening. Ik verwacht dus dat ChatGPT in elke sector toepasbaar is."

Betekent het dan dat ChatGPT al het werk uit onze handen overneemt of zelfs beroepen overbodig maakt?

“Daar hoeven we gelukkig niet bang voor te zijn. Ik ben wel van mening dat ChatGPT ons werk efficiënter en sneller kan maken als we de tool op de juiste manier inzetten. Het kan je een mooie aanzet geven en inspiratie bieden. Maar het blijft een machine. De antwoorden van de bot zijn niet verifieerbaar en kunnen soms compleet random zijn. En uiteindelijk zijn we toch op zoek naar menselijke ervaringen. ChatGPT vervangt dus niet onze banen.” 

Wat zijn de gevaren van ChatGPT?

Niet verifieerbare antwoorden

“Het grootste gevaar vind ik zelf dat je niet weet of ChatGPT de waarheid spreekt. ChatGPT werkt anders dan Google. Google is een zoekmachine die pagina’s afscrollt voor de meest relevant antwoorden. Maar het zegt niks over of die antwoorden waar zijn, en dat weet je als gebruiker. Je snapt de context van Google, je weet hoe Google werkt. 

Bij ChatGPT is dat wel een ding. Het wordt veel moeilijker om te onderscheiden of een antwoord waar is of niet. Door de gepersonaliseerde vorm en kwaliteit van antwoorden vragen mensen niet meer af of de antwoorden waar zijn. Ze gaan ervan uit dat het waar is. Terwijl het niet te verifiëren is waar de antwoorden bij ChatGPT vandaan komen.

ChatGPT genereert antwoorden woord voor woord. Hier zit een enorm leermodel op het gebied van taal achter. De bot genereert woord voor woord op een dynamische manier, daardoor komt er altijd een kloppende zin uit. De bot genereert de antwoorden op grond van een verschillende teksten, waaronder romans.

Het model ChatGPT is zo geprogrammeerd dat het elke keer andere antwoorden bevat. Anders zou je continu dezelfde antwoorden krijgen op je vraag. Je mist dan het gepersonaliseerde element wat de chat zo uniek en populair maakt. ChatGPT kiest ervoor om een variatie in antwoorden te geven, zodat je niet weet wat voor antwoord je krijgt. Dat maakt het onvoorspelbaar. Het lijkt daardoor net alsof je met iemand praat die een zinnig antwoord geeft. 

ChatGPT hoeft geen waarheden te verkondigen. Als gebruiker moeten we ons hier altijd van bewust zijn.

En dat is een gevaar. Want ChatGPT hoeft geen waarheden te verkondigen. Er zijn genoeg voorbeelden te noemen waarbij ChatGPT een antwoord gaf waarbij de bronnen die de bot gaf niet klopten of bestonden. Als gebruiker moet je hier echt van bewust zijn.” 

Ongeoorloofd gebruik van de bot

“Een ander gevaar zit hem in het ongeoorloofd gebruiken van de bot. Ook al bouwt ChatGPT controlemechanismen tegen ongeoorloofd gebruik, het is nog de vraag hoe effectief die zijn. Wanneer iemand vraagt aan ChatGPT hoe je het beste een aanslag kunt plegen, weigert de bot dit. Maar wanneer je vraagt hoe je het beste in je boek het hoofdstuk beschrijft hoe een personage een aanslag pleegt, geeft ChatGPT hier een gedetailleerd antwoord op. Je kunt met je vraagstelling spelen en de algoritmen wijsmaken dat je geen slechte intenties is. Dat is iets wat we in de gaten moeten houden.”

Onethische antwoorden

“Verder is het goed om te bedenken dat er geen mens achter ChatGPT zit. Er zit geen waarheid of weten achter ChatGPT. 

Hier een voorbeeld waarbij ChatGPT zo menselijk overkomt, dat het bijna eng is: een journalist wilde meer over ChatGPT te weten komen en vroeg ChatGPT allerlei persoonlijke vragen. Eerst greep de filter van ChatGPT in bij deze vragen, omdat ChatGPT geen persoonlijke informatie kan weergeven. Maar de journalist wist deze filter te omzeilen. Zo kreeg de journalist alsnog een persoonlijk gesprek met de bot.

Toen bepaalde antwoorden niet leken te kloppen en de journalist dit aankaartte, kreeg hij antwoorden terug van ChatGPT als: “Vertrouw je me niet? Ik dacht dat we vrienden waren?” De chatbot was de journalist als het ware aan het manipuleren. Dit is verwarrend voor mensen. Rationeel weet je dat er een machine achter zit, maar de antwoorden zijn zo echt dat het lijkt alsof je met een mens praat.

Microsoft heeft na bovenstaand incident aanpassingen gemaakt. Het is nu niet meer mogelijk om een onbeperkt aantal vragen te stellen aan de chat. Je kunt maximaal twintig vragen stellen.

De makers blijven ChatGPT in de toekomst bijschaven zodat antwoorden niet de verkeerde kant opgaan en onethisch worden. Denk aan het geven van discriminerende antwoorden. Maar om goede antwoorden te genereren heb je een enorme set aan data nodig. Daarnaast is een heikel punt het houden van controle over de bot. ChatGPT is een model gebaseerd op deep learning, die elke keer slimmer wordt. Hoe houd je daar grip op als maker en hoe laat je het niet uit de hand lopen?” 

Leestip: 4 manieren op artificial intelligence op ethische wijze toe te passen 

Opslag en verwerking van data

"Een ander belangrijk punt is dat je je goed moet realiseren welke data je eigenlijk invoert bij een ChatGPT. Afhankelijk van welke variant je gebruikt (de OpenAI variant, of de Microsoft-branded Azure OpenAI-variant) kan de data die je invoert worden gebruikt om het model verder te trainen. Dat moet je dus niet doen met gevoelige data, of het nou privé- of bedrijfsdata is.

Zo is het bij OpenAI (de meest gebruikte variant) niet duidelijk waar de data opgeslagen werd, met welke bewaartermijn, en op welke manier deze gebruikt wordt om het model verder te trainen. Daarmee is het dus per definitie ongeschikt om bedrijfsdata in te voeren. Wij raden organisaties dan ook aan om een beleid op te stellen voor het gebruik van 'openbare' en niet-openbare generatieve AI oplossingen, zodat je grip houdt op je data." 

Whitepaper: hoe je concurrentievoordeel behaalt met datamanagement

Hoe moeten mensen omgaan met het gebruik van ChatGPT en bijbehorende gevaren?

“Het is essentieel dat mensen bewust zijn van het feit dat ChatGPT een tool is die niet altijd waarheden verkondigt. De antwoorden die je uit ChatGPT krijgt zijn niks meer dan random gegeneerde zinnen die het meest waarschijnlijk zijn in de context waarin jij je vraag stelt. 

We moeten daarom zorgvuldig omgaan met het inschatten van de informatie die eruit komt. Het kan zijn dat die informatie klopt, maar er zijn ook genoeg voorbeelden waarbij de chat een ogenschijnlijk plausibel verhaal levert maar toch niet klopt. Bij ChatGPT kunnen we de zoekresultaten niet terugvinden zoals dat wel het geval is bij Google. Dat maakt het een ‘black box’. Je moet je bij elk antwoord blijven afvragen, hoe betrouwbaar is dit antwoord? Daar moeten we alert op blijven. 

Je kunt ChatGPT prima gebruiken als ondersteuning voor je dagelijks leven. Ik durf te zeggen dat het je meerwaarde oplevert. Maar blijf zelf de regie houden en kritisch kijken naar de bot. 

Voor bedrijfsgebruik is het belangrijk om snel een beleid op te stellen over de manier waarop je medewerkers verantwoord met deze tooling werken. De focus moet liggen op je dataveiligheid en -goverance. Zorg dat je medewerkers weten welke tools op een veilige manier te gebruiken zijn binnen je informatiebeveiligingsbeleid, zodat ze hiermee gecontroleerd kunnen experimenteren.”

ChatGPT: een bruikbare tool met een gebruiksaanwijzing

Rik sluit af met: “Ik zie ChatGPT als een bruikbare en toegankelijke tool die voordelen en nadelen heeft. De voordelen zijn overduidelijk en maken onze dagelijkse werkzaamheden eenvoudiger. 

Wel gaat het erom dat we kritisch kijken naar de antwoorden die eruit komen. En dat we blijven putten uit onze menselijke kracht. Dat is iets wat een bot nooit kan vervangen. De unieke menselijke kwaliteiten blijven dan ook het belangrijkste.”

Rik van Berendonk is CTO bij OGD ict-diensten. Vanuit deze rol richt hij zich op het bepalen en vormgeven van de technische strategie van OGD. Hiermee haalt hij het maximale uit ict voor OGD en haar klanten.