Persoonlijke data beschermen bij AI-gebruik; hoe doe je dat?

Instanties die omgaan met persoonlijke gegevens zijn verplicht deze te beschermen. Dat weegt nog eens extra zwaar voor overheden. Zij leveren immers unieke producten en diensten waarvoor inwoners niet terecht kunnen bij andere partijen. Met de komst van AI is privacy een nog heter hangijzer geworden. Hoe garandeer je dat met autonome AI agents het gebruik van persoonlijke data binnen veilige kaders blijft. Dat vereist richtlijnen en waarborgen in de systemen zelf en transparante uitleg aan betrokkenen.

Salesforce heeft AI geïntegreerd in zijn oplossingen. Zo is Agentforce het platform voor het creëren, op maat maken en inzetten van AI agenten om taken autonoom of semi-autonoom uit te voeren. Het is gekoppeld aan wat Salesforce noemt zijn “Einstein Trust Layer”, een set van richtlijnen, veiligheids-, data- en privacy-controles, bedoeld om eindgebruikersgegevens veilig te houden tijdens het gebruik van generatieve AI-oplossingen.

Gedeelde verantwoordelijkheid

Het uitgangspunt bij alle overeenkomsten met Salesforce is dat klanten (waaronder overheden) eigenaar blijven van de data. ‘Onze samenwerking met hen is altijd gebaseerd op gedeelde verantwoordelijkheid’, vertelt Jo Copping, hoofd van het privacy team van Salesforce voor Europa, het Midden-Oosten en Afrika. ‘Zij vertrouwen data toe aan Salesforce, wij helpen in de manier waarop zij die data willen gebruiken en de controles die daarvoor beschikbaar zijn. Wil een gemeente bijvoorbeeld dat een Agent een heel proces overneemt of maar een gedeelte daarvan?’

Nul retentie beleid

Data worden niet opgeslagen in Agentforce. Agentforce is verbonden met robuuste Salesforce oplossingen, zoals Sales Cloud en Service Cloud die zorgen voor de dataopslag. Ook de samenwerking met “Large Language Models (LLM’s)”, noodzakelijk voor generatieve AI-toepassingen, berust op het principe van “alleen die data benutten die specifiek nodig zijn voor een taak”. ‘Wij werken met deze LLM-leveranciers op basis van een “nul retentie beleid”. Dat betekent dat zij geen klantdata mogen vasthouden, inclusief persoonlijke data, noch dat zij met deze data hun modellen mogen trainen of verbeteren.’

Welke privileges heeft een AI-agent?

Andere mechanismen die zijn ingebouwd om persoonlijke data veilig en gecontroleerd te gebruiken, is het gegeven dat AI agents, net als gebruikers, alleen informatie kunnen gebruiken, waartoe hen expliciet toegang is verleend voor generatieve AI-doeleinden (secure data retrieval). Deze data zijn voorzien van context die op dat moment en voor dat betreffende doel relevant is, niets meer of minder dan dat (dynamic grounding). ‘Het lijkt ingewikkeld, maar het komt steeds op hetzelfde neer: de klant bepaalt met welke privileges een AI-agent wordt uitgerust en wij leveren de mogelijkheden om ervoor te zorgen dat enkel de juiste data beschikbaar is.’

Copping begrijpt dat het gebruik van AI soms argwaan opwekt bij overheden en gebruikers, zeker vanuit de combinatie overheid en privacy. Zoals eerder gezegd, is de risicotolerantie bij publieke dienstverlening een stuk lager. Haar advies: focus op implementaties die direct toegevoegde waarde bieden aan inwoners. Elke inwoner stelt een snellere en betere service op prijs. Een succesvolle praktijk is de beste manier om vertrouwen op te bouwen.

AI-geletterdheid

‘Daarnaast vind ik het belangrijk dat mensen inzicht krijgen hoe je omgaat met data en wanneer en hoe je AI inzet. Noem het de bevordering van AI-geletterdheid. Bij Salesforce krijgen onze klanten specifieke handleidingen die op een eenvoudige manier uitleggen hoe onze systeemoplossingen werken en in elkaar grijpen. We publiceren veel artikelen en onderzoeken. Ook maken we het makkelijk voor klanten om transparantie te bieden aan hun klanten, bijvoorbeeld door gebruik van AI te vermelden in het Nederlandse Algoritmeregister.’

Maar in Coppings’ overtuiging is AI ook een kans om privacy juist te beschermen. De mens is een van de belangrijkste factoren in het maken van fouten. ‘Zodra we het menselijk oog verwijderen uit routinetaken en Agenten inschakelen, is de kans op een succesvolle en veilige uitvoering groter. Natuurlijk blijft dat menselijk oog altijd essentieel voor de controle op deze acties. En AI kan ook nooit de meer ingewikkelde maatwerkadviezen voor haar rekening nemen. AI zorgt er wel voor dat je daar als medewerker nu meer de tijd voor krijgt’.