Generatieve AI kan veel werkprocessen efficiënter maken, ook bij overheden. Daarbij is het extra belangrijk dat gevoelige gegevens van burgers beschermd blijven. En dat het gebruikte systeem betrouwbare en verantwoorde resultaten oplevert. Je wilt immers niet dat er iets mis gaat met je eigen data, klantinformatie of klantinteractie. Hiervoor heeft Salesforce de Einstein Trust Layer gemaakt.
De razendsnelle ontwikkelingen van generatieve AI met toepassingen als ChatGPT zorgen voor verbluffende resultaten. Zulke slimme systemen kunnen ook overheden potentieel veel werk uit handen nemen. Een welkome oplossing in tijden van toenemende arbeidstekorten en doorlopende verandering van wet- en regelgeving, weet Yuri Zagt van Salesforce. ‘Door taken voor onder meer informeren, registreren en procesbewaking uit te besteden aan AI houden medewerkers meer tijd over om echt iets te betekenen voor burgers. Die burgers krijgen ondertussen bijvoorbeeld alvast proactief en doorlopend de juiste persoonlijke informatie, een ingeplande afspraak of de stukken die ze nodig hebben voor een aanvraag direct aangeleverd.’
Speciale verificatie- en beveiligingslaag voor AI-toepassingen
Toch hebben overheden goede redenen om terughoudend te zijn met de inzet van AI. Om te beginnen zijn er zorgen over de bescherming van gevoelige gegevens van burgers. Een systeem heeft zulke gegevens nodig om de juiste informatie te verstrekken binnen de context van de vraag. ‘Maar je wilt natuurlijk niet dat AI-leveranciers deze data gebruiken om hun modellen te trainen of dat derden die gegevens in handen krijgen’, benadrukt Zagt. ‘Om daarvoor te zorgen, leiden alle Salesforce-toepassingen die gebruikmaken van AI de gebruikte prompts door een speciaal daarvoor ontwikkelde laag: de Einstein Trust Layer.’
Gevoelige gegevens beschermen
Voor de Einstein Trust Layer (ETL) heeft Salesforce contracten getekend met bedrijven die AI-oplossingen en -technologieën aanbieden. Daarin garanderen deze bedrijven onder meer dat zij de gegevens niet opslaan, niet gebruiken voor modeltraining of productverbetering, en niet doorspelen naar derden. Daarnaast bevat de laag robuuste beveiligingstechnologie zoals versleuteling en voldoet het aan privacyregels als de AVG. Bovendien kan ETL gevoelige gegevens als namen en contactgegevens gaan detecteren, en deze als het ware zwart lakken voordat een prompt naar een AI-model gaat. Zagt: ‘Als organisatie kun je zo controleren welke gegevens je wel en niet wilt meegeven. Later plakt het systeem de weggelaten gegevens weer in het door AI gegenereerde antwoord, zodat het eindresultaat weer specifiek en relevant is.’
Betrouwbare en gepaste resultaten
Het is belangrijk dat uitkomsten van AI-toepassingen relevant en betrouwbaar zijn. ‘Het gebeurt nog wel eens dat modellen onzin genereren en die zo overtuigend brengen dat je het voor waar aanneemt’, vertelt Zagt. ‘Om dat te voorkomen, haalt de Trust Layer relevante informatie uit Salesforce-records om context te bieden voor AI-prompts. Daarbij respecteert het systeem gebruikersrollen en permissies, zodat alleen geautoriseerde gegevens worden gebruikt. Dit leidt tot nauwkeuriger en gepersonaliseerde AI-reacties – en daarmee tot efficiënte besluitvorming en werkprocessen. Daarnaast gebruiken we zogeheten Prompt Defense, om bescherming te bieden tegen kwaadwillenden en geven we duidelijke instructies mee om hallucinaties en de kans op onbedoelde of schadelijke resultaten van het model te beperken. Dat maakt de gegenereerde informatie veel betrouwbaarder en veiliger.’
Controleren en optimaliseren
Zulke voorzorgsmaatregelen maken het systeem natuurlijk niet onfeilbaar. Daarom biedt Salesforce aanvullend mogelijkheden om resultaten te controleren voor optimalisatie. Een onderdeel van de ETL beoordeelt door AI gegenereerde antwoorden op mogelijk onjuiste of ongewenste inhoud en hanteert scores daarvoor. Ongewenste uitkomsten kunnen zo direct ondervangen worden. Ook kunnen aangewezen medewerkers met auditlogs indien noodzakelijk nagaan wie welke prompts gebruikt heeft en welk resultaat dat opleverde. Bovendien kunnen klanten nieuwe prompts en mogelijke uitkomsten eerst uitproberen in een afgeschermde testomgeving voordat deze daadwerkelijk worden ingezet. Dit vergemakkelijkt innovatie en experimenten terwijl de gegevensbeveiliging en de bestaande productieomgeving behouden blijven.
Zeer frequente updates en uitbreidingen
Een belangrijk voordeel van ETL is de integratie van alle deelaspecten die nodig zijn om AI veilig en gecontroleerd te gebruiken. Het is noodzakelijk om ervoor te zorgen dat alle door AI ondersteunde activiteiten van een organisatie door deze controlelaag gaan. Zagt: ‘Er zijn allerlei interessante tools voor deeloplossingen op de markt. Maar die moet je als organisatie dan zelf integreren in je bedrijfsproces, met elkaar verbinden, optimaliseren en doorlopend onderhouden. Wij zorgen voor een volledig geïntegreerde aanpak in de werkprocessen, en voor de in deze dynamische markt benodigde frequente updates. Daarbij breiden we het systeem continu uit met nieuwe relevante modellen, een gebruiksvriendelijke interface waarin je niet afhankelijk bent van technische specialisten, en bijvoorbeeld meertalige ondersteuning en optimalisaties.’
Gratis trainingen stimuleren verantwoord AI-gebruik
Tot slot biedt Salesforce gratis trainingen en certificeringen aan. ‘Wij vinden het belangrijk dat iedereen kennismaakt met de mogelijkheden én risico’s van generatieve AI’, legt Zagt uit. ‘Door toegewijd te blijven aan innovatie, maatschappelijk verantwoord ondernemen en opleidingen, zorgen we dat gebruikers altijd uitgerust zijn met de nieuwste AI-tools en de daarvoor benodigde kennis. Bij Salesforce zien we de impact van AI in onze samenleving als enorm, onvermijdelijk en onderscheidend. Daarom hebben we besloten om relevante opleidingen en de bijbehorende certificeringen voor iedereen gratis toegankelijk te maken. Deze trainingen zijn niet alleen gericht op onze eigen tools, maar besteden ook veel aandacht aan algemene informatie op dit onderwerp. Zo helpen we gebruikers om de AI-mogelijkheden te begrijpen en effectief te benutten. Daarmee ontstaat een win-winsituatie: de organisatie benut de voordelen van AI en de betrokken ambtenaar blijft doorlopend meegaan in deze enorm snelle marktontwikkeling.’
Meer informatie
Meer weten over de werking van de Einstein Trust Layer? Bekijk de uitlegpagina.
