Het toezicht op AI moet per 1 augustus 2025 staan
Twee keer zoveel aanmeldingen als normaal kreeg iBestuur voor AI en overheid, vertelt dagvoorzitter Tom Jessen bij de aanvang van het congres. Het zegt iets over de interesse voor AI bij de overheid en de vragen die breed leven over het thema van het congres, verantwoord opschalen.
Gladheidsbestrijding
Dat beaamt Ron Kolkman, CIO bij Rijkswaterstaat. Zijn organisatie zet onder meer AI in om de mensen van de gladheidsbestrijding te ondersteunen. De belangrijkste les is wat hem betreft dat AI veel meer dan je op eerste gezicht zou denken. De grootste uitdaging? Implementatie, mensen meekrijgen met wat je hebt bedacht.
Grip krijgen op AI
Als markttoezichthouder op AI weet Angeline van Dijk, inspecteur-generaal bij de Rijksinspectie Digitale Infrastructuur (RDI), goed hoe moeilijk het kan zijn om grip te krijgen op wat er binnen een organisatie met AI gebeurt. Toch is het heel belangrijk dat dit gebeurt, want op 1 februari 2025 zijn de verbodsbepalingen uit de AI-verordening van kracht. Daarna is het de beurt aan AI-modellen voor algemene doeleinden (generatieve AI) en AI-systemen met een hoog risico.
Het toezicht op AI moet per 1 augustus 2025 staan. De AI-verordening geldt voor nieuwe marktproducten die gebruikmaken van AI, maar voor de overheid gelden andere regels dan voor de markt. Het is daarom voor overheden belangrijk om ook bestaande AI-systemen tegen het licht te houden. Van Dijk: ‘Dit gaat over de sturing van de totale organisatie. AI is een onderdeel in de bestaande governance. Meer grip krijg je door het te bespreken, bijeenkomsten te organiseren en kennis uit te wisselen.’
Wat moeten overheidsorganisaties doen?
Afgaand op de respons in de zaal zijn er nog niet veel overheidsorganisaties die een AI officer hebben aangesteld. Van Dijk adviseert:
- Maak iemand verantwoordelijk om te achterhalen in welke producten binnen de organisatie AI zit.
- Ga van producten met AI na of het gaat om verboden of hoogrisico-AI. Neem bij twijfel contact op met de toezichthouder op jouw sector.
- Update het interne AI-beeld ieder half jaar of jaar. Behoud zo het overzicht.
Sandboxes
De RDI wil graag meewerken aan een innovatievriendelijk klimaat, zegt Van Dijk. Daarom heeft het ministerie van EZK in samenwerking met de Autoriteit Persoonsgegevens regulatory sandboxes in het leven geroepen, waar bedrijven en overheden terecht kunnen met vragen over wat er is toegestaan. Ze raadt organisaties aan er vooral gebruik van te maken.
Lees ook:
- AI en Overheid: ‘Ga niet zelf het wiel uitvinden, maar werk samen’ – iBestuur
- Toezichthouders willen toezicht op AI snel geregeld zien – iBestuur
Op 13 november organiseerde iBestuur AI & Overheid 2024. Angeline van Dijk ging in gesprek met Tom Jessen over hoe overheden de kansen die AI biedt beste kan benutten.
