Betrouwbare antwoorden

De assistent is op zijn scherpst in een kort, gericht gesprek over één onderwerp. Hoe langer en voller een chat wordt — veel vragen, veel documenten, meerdere onderwerpen door elkaar — hoe meer de assistent tegelijk moet overzien. Op een gegeven moment kan hij daardoor details door elkaar halen of een passage “aanvullen” die er niet letterlijk staat. Dit is geen eigenaardigheid van PrudAI: het geldt voor alle huidige AI-modellen en is meetbaar — hoe langer het gesprek, hoe groter de kans op zulke fouten.

Het goede nieuws: je hebt dit grotendeels zelf in de hand.

Start een nieuwe chat per onderwerp

Dit is verreweg het effectiefst. Begin een nieuwe chat voor elk nieuw onderwerp of dossieronderdeel. Een korte, gefocuste chat houdt de assistent verankerd aan precies de stukken die er voor díe vraag toe doen — en juist dat voorkomt dat hij bronnen door elkaar gaat halen.

Vuistregels:

• Nieuw onderwerp? Nieuwe chat. Ga niet in dezelfde chat door van de aansprakelijkheidsvraag naar de proceskosten naar de dagvaarding.
• Houd het aantal documenten per chat gericht — alleen wat voor die vraag relevant is, niet je hele dossier in één doorlopend gesprek.
• Merk je dat een chat “moe” wordt (antwoorden worden vager, of de assistent verwijst naar iets dat je niet herkent)? Begin opnieuw in een verse chat. Je verliest niets: je documenten en projecten blijven gewoon staan.

Het product waarschuwt je zelf

Je hoeft dit niet alleen op gevoel te doen: de chat zegt het wanneer een gesprek te vol wordt.

Meldingen die oplopen. Naarmate een gesprek langer wordt, verandert de melding mee:

1. “Dit gesprek wordt lang”: bij lange gesprekken kan de kwaliteit van de antwoorden geleidelijk afnemen.
2. “Dit gesprek is erg lang”: we raden aan een nieuw gesprek te starten.
3. “Dit gesprek is zeer lang”: de kwaliteit neemt waarschijnlijk merkbaar af; we raden sterk aan opnieuw te beginnen.
4. “Dit gesprek nadert de limiet”: binnenkort worden oudere berichten automatisch samengevat en kan er detail verloren gaan.

Een blijvende melding in de chat. Naast die tijdelijke meldingen kan er een kaartje in het gesprek blijven staan met twee knoppen: Start een gefocust gesprek (die neemt je dossier mee) en Hier verdergaan. Het kaartje heeft twee koppen, afhankelijk van de oorzaak: “Dit gesprek wordt lang” als het aan het aantal berichten ligt, en “Dit gesprek bevat veel stukken” als de lengte vooral in de opgehaalde documenten zit. Dat tweede is de reden om ook je documenten per chat gericht te houden.

Samenvatten. Grijp je niet in, dan vat de assistent oudere berichten op een gegeven moment zelf samen. Je ziet dan de melding “Gesprek samengevat”. Het antwoord blijft op de hoogte van het volledige gesprek, maar detail uit die oudere berichten kan verloren gaan. Dat is precies het moment dat je liever vóór had willen zijn.

Behandel deze meldingen dus niet als ruis. Ze zijn het signaal om het onderwerp waar je nu mee bezig bent in een verse chat verder te brengen.

Controleer altijd de bron

Behandel elk antwoord als een concept. Klik in de tekst van het antwoord op de bronpil of het documentcitaat en lees de brontekst zelf na vóór je iets overneemt in je advies of processtuk. Zie je een verwijzing naar een document of passage die je niet herkent? Vertrouw hem niet, start een nieuwe chat en stel de vraag opnieuw met alleen het relevante stuk erbij. Meer hierover: Citaten & bronbeschikbaarheid en Chat.

Dit is ook geen vrijblijvend advies van ons: onder het invoerveld staat daarom een vaste disclaimer dat je met een AI-systeem werkt en belangrijke antwoorden altijd zelf controleert. Zie Chat.

Wat de assistent hoort te doen

Als de assistent een document niet daadwerkelijk heeft opgehaald, hoort hij dat te zeggen — niet de inhoud ervan te raden. Merk je dat hij toch een passage citeert die niet klopt? Geef het bericht dan een 👎 (Kan beter) met een korte toelichting bij “Wat ging er mis?”. Dat signaal komt bij ons binnen en helpt ons de assistent verder aan te scherpen.

Wat het onderzoek laat zien

Dit is geen PrudAI-eigenaardigheid maar een breed gedocumenteerd kenmerk van álle huidige AI-modellen:

• Lange invoer wordt minder betrouwbaar. Onafhankelijk onderzoek testte 18 toonaangevende modellen van verschillende aanbieders en vond dat de prestaties stelselmatig teruglopen naarmate de invoer langer wordt — óók bij eenvoudige taken.
• Informatie in het “midden” wordt slechter benut. Modellen gebruiken informatie aan het begin en eind van een lange context beter dan informatie die in het midden verstopt zit.
• Lange gesprekken versterken dit. Over meerdere beurten zakt de nauwkeurigheid gemiddeld met ongeveer 39% vergeleken met één gerichte vraag. Een belangrijke oorzaak: als een model iets mist, “vult” het dat soms in met een aanname en houdt het daar daarna aan vast — precies het patroon dat je wilt voorkomen.

Dit is meteen waaróm “nieuwe chat per onderwerp” werkt: je houdt de context kort, zodat het model niet in dit patroon terechtkomt.

Verder lezen

• Kelly Hong, Anton Troynikov, Jeff Huber — Context Rot: How Increasing Input Tokens Impacts LLM Performance (Chroma, 2025).
• Nelson F. Liu e.a. — Lost in the Middle: How Language Models Use Long Contexts (TACL, 2024).
• Philippe Laban, Hiroaki Hayashi, Yingbo Zhou, Jennifer Neville — LLMs Get Lost in Multi-Turn Conversation (2025).
• Lei Huang e.a. — A Survey on Hallucination in Large Language Models (2023).