Op zoek naar open en Europese taalmodellen

'Open washing'

Dat concludeert TNO, dat in opdracht van het ministerie van Binnenlandse Zaken en Koninkrijksrelaties (BZK) een verkennend onderzoek deed naar open AI-taalmodellen, Europese taalmodellen en de mogelijke inzet ervan door de overheid. Om het gebruik van zulke taalmodellen te bevorderen, is het nodig om eerst een duidelijk begrip te hebben van wat concepten zoals ‘open source’, ‘open source AI’ en ‘Europees’ inhouden, stelt TNO. Niet in de laatste plaats omdat AI-leveranciers nogal eens aan ‘open washing’ doen: punten binnenslepen die openheid aangeven, zonder echt transparant te zijn over juist die informatie die onderzoek en toetsing mogelijk maakt.

Mist rondom begrippen

Eerst een voorbeeldje van de mist die rond de begrippen hangt. Acht ministeries werken met Vlam-chat, onderdeel van het bredere project vlam.ai. Het gebruik van Vlam-chat sluit aan bij de Nederlandse Digitaliseringsstrategie (NDS), die onder meer tot doel heeft om de inzet van (open) Europese taalmodellen bij de overheid te bevorderen en om meer digitale autonomie na te streven.

Het onderliggende taalmodel van Vlam-chat is van Mistral, een Frans bedrijf. Is dit een open, Europees taalmodel? Je zou zeggen dat Mistral Europees is, maar een model van Mistral kan ook worden gebruikt via de Microsoft Azure Foundry. Het model mag dan Europees zijn, het draait in zo’n geval wel op een Amerikaans serviceplatform. Daarnaast is ‘openheid’ een spectrum en geen schakelaar, aldus het rapport van TNO. Mistral biedt open-weight modellen aan (het biedt openheid over de werking van de modellen), maar is niet transparant over de trainingsdata en -processen (waardoor je niet kunt bepalen of er bijvoorbeeld bias in de data zit).

Schaal van openheid

Er zijn nog helemaal geen breed gedragen definities voor ‘open’ en ‘open source’ taalmodellen, concludeert TNO. Wel bestaan er verschillende raamwerken voor de betekenis van openheid, waaronder het Model Openness Framework (MOF) en de European Open Source AI index (EOSAI). Met behulp van deze raamwerken zet TNO de mate van openheid van een taalmodel op een rijtje, met aan de ene kant Closed Source (onder andere GPT-5 en Claude Opus), via Open Code naar Open Weights naar Open Research naar Fully Open Source (onder andere OLMo en Apertus). In de praktijk komen de categorieën Closed Source en Open Weights het vaakst voor.

Ook het begrip ‘Europees’ blijkt minder eenduidig dan je zou denken. Het land van herkomst van de ontwikkelaar is een belangrijke indicator, maar zoals het voorbeeld van Mistral laat zien, is het niet allesbepalend. Je kunt kijken naar de herkomst van de trainingsdata en naar waar ze worden opgeslagen en verwerkt. Draait het model op Europese infrastructuur, bij aanbieders die voldoen aan alle EU-wetgeving? Als het gaat om publieke waarden, dan maakt het ook nog uit of het model is getraind op Europese talen.

Wat is de belangrijkste overweging?

Het is uiteindelijk aan de overheid om te bepalen wat de belangrijkste overwegingen zijn. Heb je liever een model dat meer ‘Europees’ is, of liever een volledig open model? Of is het belangrijker dat de data binnen de EER blijven, of zelfs lokaal?

Het blijkt hoe dan ook behoorlijk lastig om geen nieuwe vormen van afhankelijkheden te creëren als je als overheid AI wil zetten. Zo maken taalmodellen altijd deel uit van een digitale stack: je kunt wel inzetten op het laagje ‘taalmodel’, maar dan komen de grondstoffen, de chips, de infrastructuur en de data ook altijd nog ergens vandaan (en vaker niet dan wel uit Europa). Ook belangrijk om je te realiseren: een model is nog geen applicatie. De meeste foundational modellen en modellen voor algemene doeleinden, zoals Claude en DeepSeek, zijn afkomstig uit de Verenigde Staten en China. Van alle AI-applicaties die op deze modellen zijn gebouwd, kun je je dus afvragen hoe ‘Europees’ ze zijn en ook hun mate van openheid hangt hier mede van af.

Dit artikel verschijnt ook op Binnenlands Bestuur.