Wat is ChatGPT?

ChatGPT is een voorbeeld van een large language model (LLM): een zogeheten groot taalmodel. Eigenlijk is ChatGPT een interface om met een groot taalmodel (genaamd GPT-3.5) aan de slag te gaan. ChatGPT heeft de vorm van een chatbot. Iemand stelt vragen aan de chatbot en krijgt antwoord. Een groot taalmodel is een vorm van artificial intelligence (AI).

Een groot taalmodel wordt getraind op basis van enorme hoeveelheden data. In dit geval is dat geschreven taal. Op basis van de woorden die in een commando staan voor het taalmodel, genereert het tekst. Het algoritme van het taalmodel doet steeds voorspellingen over wat het volgende woord in de tekst zal zijn om zo tot een goede tekst te komen.

Taalmodellen zijn op zich niet nieuw, maar ze worden wel steeds krachtiger. Dankzij grote hoeveelheden data is het mogelijk om de modellen te trainen en te verbeteren. Het taalmodel is getraind op een enorme hoeveelheid via het internet beschikbare teksten, tot en met september 2021. ChatGPT zoekt dus niet live naar informatie op het internet. Los van de data, zijn de taalmodellen zelf ook geavanceerder geworden. Daardoor produceren ze snellere en complexere resultaten die steeds beter overtuigen als bruikbare tekst. Interessant detail: ChatGPT is ook bruikbaar om bijvoorbeeld programmeercode te genereren of tabellen te maken.

Grote taalmodellen hebben geen idee of hun resultaten kloppen of niet. Ze zijn goed in het maken van taal die lijkt op de taal waarmee ze zijn getraind. ChatGPT heeft dus geen ‘kennis’, ook al lijkt dat soms wel zo. Wie experimenteert met ChatGPT zal zien dat de resultaten lang niet altijd correct zijn. ChatGPT kan ook overtuigende teksten produceren die complete onzin zijn.

ChatGPT heeft ons allemaal verrast. Of zat zoiets eraan te komen?

ChatGPT is een hype die veel mensen in het onderwijs en daarbuiten bezighoudt. De combinatie van zeer bruikbare teksten, de vrije beschikbaarheid hiervan én het feit dat studenten en scholieren volop experimenten met de software, roept onmiddellijk vragen op bij leraren en schoolorganisaties.

Wie de ontwikkelingen rond zogenaamde generatieve AI volgt, is hier minder verrast over. Het was niet zozeer de vraag óf een dergelijk taalmodel belangrijk zou gaan worden, maar eerder wanneer en in welke vorm. Nu is het ChatGPT, volgend jaar staat waarschijnlijk weer een andere vorm van generatieve AI in de spotlights.

Het algemene kenmerk van generatieve AI is dat een gebruiker op basis van een getraind model iets automatisch kan laten produceren. Er bestaat generatieve AI voor tekst, video, stemmen, muziek, programmeercode, enzovoort. In de creatieve wereld zorgen bijvoorbeeld DALL-E en Stable Diffusion voor reuring. Met deze tools is het mogelijk om geautomatiseerd afbeeldingen te genereren.

Deze tools maken gebruik van grote hoeveelheden data. De modellen achter deze tools vinden hier patronen in. Op basis van de input die gebruikers geven én de beschikbare dataset wordt dan iets unieks geproduceerd.

Er zijn meer grote taalmodellen (large language models – LLM), bijvoorbeeld LaMBDA (van Google), Galactica en OPT-66B (van Meta). De ontwikkeling van deze taalmodellen zal verder gaan en we verwachten hiervan meer en nieuwere versies. Bedrijven zoals Google en Microsoft zijn bezig met het integreren van grote taalmodellen in allerlei diensten, zoals zoekmachines.

Wie zit er achter ChatGPT?

ChatGPT is eigendom van het bedrijf OpenAI. Achter het bedrijf zitten diverse investeerders. OpenAI begon als non-profitorganisatie, maar werd later een bedrijf om investeringen aan te kunnen trekken voor ontwikkeling. Microsoft heeft onlangs een flinke investering gedaan in het bedrijf om technologie van OpenAI ook te kunnen integreren in zijn eigen diensten.

De naam van het bedrijf kan de indruk wekken dat het gaat om opensourcesoftware, maar dat is ChatGPT niet. Open source wil namelijk zeggen dat de broncode en data publiek beschikbaar zijn en dat iemand daarmee zijn eigen versie kan maken. Dat is hier niet het geval.

Waarom is ChatGPT vrij beschikbaar?

OpenAI heeft het model ter beschikking gesteld in de vorm van een publieke testversie. Iedereen kan, na het aanmaken van een account, gebruikmaken van ChatGPT. Door het model ter beschikking te stellen, leert het bedrijf allerlei dingen:

• Hoe gebruiken mensen het taalmodel in de praktijk?
• Hoe kan OpenAI het taalmodel verder verfijnen, door te leren van alle interactie die mensen hebben met ChatGPT

Lees hier het gehele artikel

Bron: kennisnet

Auteur: Wietse van Bruggen