Hoe groot moet mijn context zijn voor effectieve ICL?

Afhankelijk van de taak. Voor few-shot: 1–10 voorbeelden. Voor RAG: genoeg chunks om de vraag te beantwoorden, maar niet zoveel dat relevante info "lost in the middle" raakt. Test verschillende context-lengtes.

Wat is "lost in the middle"?

Onderzoek toont dat informatie in het midden van een lange context slechter wordt onthouden dan aan het begin of eind. Plaats de belangrijkste info (bijv. de vraag, key documents) aan het begin of eind van de prompt wanneer mogelijk.

Wat is In-Context Learning? - Uitleg & Betekenis

Leer wat In-Context Learning (ICL) is, hoe LLMs patronen uit de prompt leren zonder gewichts-updates, en waarom het fundamenteel is voor prompting.

Definitie

In-Context Learning (ICL) is het vermogen van LLMs om te leren uit de informatie in de huidige prompt — voorbeelden, instructies, documenten — zonder dat de modelgewichten worden bijgewerkt. Het model past zijn output aan op basis van wat in de context staat.

Technische uitleg

Het model heeft geen gradient updates nodig; het "leert" door de context te lezen en patronen te volgen. Few-shot en zero-shot zijn vormen van ICL. Retrieval-augmented prompts (RAG) vullen de context met relevante documenten — ook ICL. De volgorde van voorbeelden en de keuze van welke in de context komen, beïnvloeden sterk de output. ICL heeft limits: context window, noisy examples, en "lost in the middle" (midden van lange context wordt minder goed verwerkt).

Hoe AVARC Solutions dit toepast

AVARC Solutions ontwerpt prompts met bewuste ICL: we kiezen de juiste voorbeelden, ordenen ze logisch en combineren RAG-documenten met few-shot voor optimale resultaten. We monitoren context-usage om binnen token-limits te blijven.

Praktische voorbeelden

RAG: relevante documentchunks in de context; het model beantwoordt op basis van die informatie.
Few-shot: 3 voorbeelden van input→output; het model volgt het patroon voor de nieuwe input.
Instruction following: een gedetailleerde system prompt; het model past zijn gedrag aan.

Gerelateerde begrippen

few shot learning zero shot learning rag retrieval pipeline llm

Veelgestelde vragen

Klaar om te starten?

Neem contact met ons op voor een vrijblijvend gesprek over uw project.

Neem contact op

Gerelateerde artikelen

Wat is Few-Shot Learning? - Uitleg & Betekenis

Leer wat Few-Shot Learning is, hoe LLMs leren van een klein aantal voorbeelden in de prompt, en wanneer u het inzet voor gespecialiseerde taken.

Wat is Chain-of-Thought? - Uitleg & Betekenis

Leer wat Chain-of-Thought (CoT) is, hoe het stap-voor-stap redeneren in LLMs verbetert, en wanneer u het inzet voor complexe AI-taken.

Wat is Zero-Shot Learning? - Uitleg & Betekenis

Leer wat Zero-Shot Learning is, hoe LLMs taken uitvoeren zonder training of voorbeelden, en wanneer zero-shot voldoende is voor uw use case.

Beste Open Source LLMs 2026 - Vergelijking en Advies

Vergelijk de beste open source large language models van 2026. Llama, Mistral, Qwen en meer — ontdek welk model het beste past voor uw AI-project.