Hoe werkt een LLM?

Het voorspelt woord voor woord wat er moet komen, op basis van trainingsdata.

• LLM staat voor Large Language Model: software getraind op enorme hoeveelheden tekst
• Claude weet niets, het voorspelt: elk woord in een antwoord is de meest waarschijnlijke opvolger van het vorige
• Dat verklaart waarom Claude soms fouten maakt die heel overtuigend klinken
• Tekst wordt verwerkt in tokens, kleine stukjes tekst van gemiddeld een woord
• Elk model heeft een contextvenster: een limiet op hoeveel tekst het tegelijk verwerkt
• Meer context in je prompt levert altijd een beter antwoord op

Claude geeft antwoord alsof het een mens is. Het stelt vragen, schrijft offertes en legt dingen uit. Maar wat gebeurt er eigenlijk op de achtergrond? Als je dat begrijpt, gebruik je het een stuk slimmer.

LLM staat voor Large Language Model

Een LLM is een taalmodel: software die getraind is op enorme hoeveelheden tekst. Denk aan boeken, websites, artikelen, code en gesprekken. Tijdens die training heeft het model geleerd welke woorden en zinnen vaak samen voorkomen, hoe vragen worden beantwoord en hoe teksten zijn opgebouwd.

Claude is zo'n LLM. Net als ChatGPT van OpenAI of Gemini van Google. Ze werken allemaal op hetzelfde basisprincipe.

Het model voorspelt, het weet niet

Dit is het belangrijkste om te begrijpen: een LLM weet niets. Het voorspelt. Elke keer dat je een vraag stelt, berekent het model op basis van jouw tekst wat het meest waarschijnlijke volgende woord is. Dan het woord daarna. En daarna weer. Zo ontstaat een antwoord.

Dat klinkt simpel, maar de modellen van nu zijn zo groot en zo goed getraind dat die voorspellingen verrassend bruikbaar zijn. Ze schrijven coherente tekst, redeneren over problemen en passen hun toon aan op de situatie.

Het verklaart ook waarom een LLM soms iets stellig beweert wat niet klopt. Het model kiest het meest waarschijnlijke antwoord, niet per se het juiste.

Wat zijn tokens?

Een LLM leest geen woorden, maar tokens. Een token is een stukje tekst, vaak een woord of een deel van een woord. Het woord "ondernemer" is één token. Het woord "onverwacht" kan in twee tokens worden gesplitst. Een gemiddelde zin bevat zo'n tien tot vijftien tokens.

Waarom is dat relevant? Elk model heeft een limiet op hoeveel tokens het tegelijk kan verwerken. Dat heet het contextvenster. Claude kan momenteel tienduizenden tokens in één keer verwerken, wat neerkomt op een fors document of een lang gesprek. Alles buiten dat venster ziet het model niet.

Stuur je Claude een hele offerte om na te kijken, dan past dat makkelijk. Maar vraag je Claude om iets te onthouden uit een gesprek van drie weken geleden, dan werkt dat niet. Elk nieuw gesprek begint blanco.

Hoe is het getraind?

De training van een LLM gebeurt in grote lijnen in twee stappen. Eerst leert het model taal door enorme hoeveelheden tekst te verwerken. Daarna wordt het bijgestuurd door mensen die goede antwoorden beoordelen en foute antwoorden afstraffen. Dat tweede deel zorgt ervoor dat een model als Claude beleefder, eerlijker en nuttiger reageert dan een model dat alleen op ruwe internettekst is getraind.

Anthropic legt daarbij extra nadruk op veiligheid. Claude is zo getraind dat het bepaalde verzoeken weigert en transparant is over wat het niet weet.

Wat betekent dit voor jouw gebruik?

Concreet: hoe meer context je geeft, hoe beter het antwoord. Een LLM heeft geen geheugen buiten het gesprek, dus alles wat relevant is moet je zelf meegeven. Beschrijf je situatie, geef een voorbeeld van wat je wil en geef aan voor wie de tekst bedoeld is.

Probeer het vandaag: open Claude, kopieer een klantmail die je moeilijk vond om te schrijven en vraag Claude om uit te leggen waarom de toon niet goed zit. Je ziet direct hoe het model redeneert.

Hoe kan het dat Claude soms iets heel stellig beweert wat gewoon niet klopt, en hoe gebruik ik het dan toch betrouwbaar?

Veelgestelde vragen