Wat is large language model (LLM)?

Large language model (LLM) uitgelegd

Een LLM voorspelt steeds het meest waarschijnlijke volgende stukje tekst, een token, op basis van alles wat eraan voorafgaat. Daardoor kan het teksten schrijven, samenvatten, vertalen en code of SQL genereren. Het kan ook overtuigend klinkende onzin produceren, wat een hallucinatie heet.

Omdat een LLM tekst voorspelt in plaats van rekent, is het geen betrouwbare rekenmachine en kent het je bedrijfsdata niet. Voor vragen over cijfers laat je het model daarom liever een query of formule schrijven die een database uitvoert, dan het model zelf het antwoord te laten verzinnen.

Bij zakelijk gebruik let je op waar het model draait, wat er met je invoer gebeurt en of die wordt gebruikt om het model te trainen. Zakelijke API's van aanbieders zoals OpenAI, Anthropic en Google hebben daarvoor andere voorwaarden dan de gratis consumentenapps.

Voorbeeld

Een medewerker van Acme Groothandel vraagt een LLM om de omzet van vorig kwartaal. Zonder toegang tot de data verzint het model een getal of weigert het; via text-to-SQL schrijft het in plaats daarvan een query, en de database geeft het echte bedrag.