Kennisprobleem
Wat je moet valideren voordat AI erop mag
Een model dat kennis toepast, kan niet zelf beoordelen of die kennis nog klopt. Die beoordeling hoort vóór ontsluiting plaats te vinden, met eisen die zwaarder worden naarmate het systeem zelfstandiger handelt.
01Uitgangspunt
Een model beoordeelt geen geldigheid
Een taalmodel weegt patronen in tekst, geen feitelijke juistheid. Het kan overtuigend klinkende tekst produceren op basis van een verouderd document net zo goed als op basis van een actueel document; het model zelf heeft geen mechanisme om dat verschil te herkennen.
Wie kennisvalidatie aan het model overlaat, delegeert een beoordeling naar een systeem dat daar structureel niet toe uitgerust is. Validatie is een menselijke, inhoudelijke beslissing over de vraag of kennis nog klopt, wie daarvoor tekent en tot wanneer die geldigheid standhoudt. Die beslissing moet zijn genomen vóórdat kennis een model of agent bereikt, niet erna.
02Eisen
Wanneer kennis geschikt is voor ontsluiting
- Kennis heeft een aangewezen inhoudelijk eigenaar
- Niemand kan bevestigen of intrekken; het systeem verspreidt kennis zonder verantwoordelijke.
- Geldigheidsstatus is expliciet vastgelegd
- Concept, herzien en ingetrokken materiaal zijn niet te onderscheiden van vastgestelde kennis.
- Toepassingsvoorwaarden zijn beschreven
- Instructies worden toegepast buiten de situaties waarvoor ze zijn bedoeld.
- Herzieningsmoment of -termijn is bepaald
- Kennis veroudert onopgemerkt en blijft zonder controle in gebruik.
- Bron en validator zijn herleidbaar
- Bij twijfel is niet vast te stellen wie de kennis heeft goedgekeurd of waarop ze berust.
03Wie valideert
Validatie hoort bij inhoudelijk gezag, niet bij IT
De keuze wie kennis mag valideren is geen technische keuze maar een organisatorische. Het is de rol van degene die inhoudelijk verantwoordelijk is voor een domein: een kwaliteitsmanager voor procedures, een technisch specialist voor uitvoeringsinstructies, een compliance-functionaris voor regelgeving. Zij beoordelen of een stuk kennis nog aansluit op de huidige praktijk en regelgeving.
IT en een AI-team richten de infrastructuur in waarmee die validatie wordt vastgelegd, gevolgd en zichtbaar gemaakt, maar nemen het inhoudelijke oordeel niet over. Die scheiding voorkomt dat een technisch team validatiebeslissingen neemt waarvoor het geen mandaat en geen vakkennis heeft.
Bij twijfel over eigenaarschap ontstaat vaak de facto geen validatie: niemand voelt zich verantwoordelijk, dus niemand keurt af of goed. Dat is een organisatierisico dat losstaat van welk model of platform wordt ingezet.
04Onderscheid zichtbaar houden
Gevalideerde kennis versus modelinterpretatie
Zodra een model een antwoord samenstelt uit meerdere fragmenten, ontstaat een nieuwe laag tekst die niemand heeft gevalideerd: de synthese van het model zelf. Die synthese kan feitelijk correct zijn, maar ze heeft niet dezelfde status als de onderliggende gevalideerde bron, en dat verschil verdwijnt gemakkelijk in een vloeiend geformuleerd antwoord.
Een systeem dat kennisvalidatie serieus neemt, houdt dat onderscheid zichtbaar: welk deel van een antwoord rechtstreeks herleidbaar is tot gevalideerde kennis, en welk deel een interpretatie of combinatie is die het model zelf heeft gemaakt. Zonder die scheiding presenteert elk antwoord zich met dezelfde schijnbare autoriteit, ongeacht de herkomst.
Dat onderscheid zichtbaar maken vraagt om herkomstregistratie die verder gaat dan een bronvermelding onderaan een antwoord; het vraagt dat elk fragment zijn validatiestatus meeneemt tot in de uiteindelijke toepassing.
05Kernregel
Autonomie verhoogt de eis aan de kennislaag
- Raadplegend systeem
- Een gebruiker die een antwoord leest en zelf beoordeelt, kan een deel van de restrisico's opvangen met eigen vakkennis.
- Adviserend systeem
- Een systeem dat een aanbeveling doet zonder directe uitvoering vraagt al een hogere zekerheid over de onderliggende kennis, omdat de gebruiker minder zelf toetst.
- Handelend systeem
- Een agent die zelfstandig acties uitvoert op basis van kennis, laat geen menselijke correctie meer toe vóór het effect optreedt; hier moet de kennis al bij ontsluiting aantoonbaar gevalideerd zijn.
06Wat aantoonbare validatie oplevert
Effect van validatie vóór ontsluiting
Herleidbaarheid
Elk antwoord is terug te voeren op een bron met bekende status en validator.
Beheersbare autonomie
De mate van zelfstandigheid van een systeem kan worden afgestemd op de aantoonbare kwaliteit van de onderliggende kennis.
Minder stille veroudering
Herzieningstermijnen zorgen dat kennis niet ongemerkt buiten gebruik raakt zonder herbeoordeling.
Start gratis met KOS.
Bouw uw eerste kennisdomein op en doorloop de volledige kenniscyclus.
Alle onderwerpen in het kennisoverzicht.
Elk thema staat op zichzelf: het probleem, de sector of het moment waarop kennis wordt vastgesteld.