Die uitkomst is om twee redenen opvallend. Ten eerste omdat AI in de zorg zelden een geïsoleerde keuze van één individu is: het wordt ingekocht, ingericht en geaccordeerd door organisaties en leveranciers. Ten tweede omdat de professionals zelf nauwelijks vertrouwen hebben in de betrouwbaarheid van die systemen. Slechts 3 procent noemt AI-toepassingen in de zorg op dit moment zeer betrouwbaar. 35 procent noemt ze enigszins betrouwbaar. 22 procent is ronduit sceptisch.
AI in de zorg loopt voor op zijn eigen spelregels
Als een AI-toepassing een fout maakt in de zorg, wie is dan verantwoordelijk? 41 procent van de zorgprofessionals wijst naar zichzelf. Niet naar de zorgorganisatie, niet naar de leverancier van de technologie, maar naar de professional die met het systeem werkt. Dat blijkt uit nieuw onderzoek van SureSync onder 212 professionals in IT, data en compliance binnen de Nederlandse zorg.
Toch legt een aanzienlijke groep de verantwoordelijkheid bij zichzelf neer. Niet omdat ze geloven in de techniek, maar omdat er geen andere plek is waar die verantwoordelijkheid formeel belegd is.
Kaders lopen achter op de praktijk
De zorg werkt in een context van medische aansprakelijkheid, strikte privacy-eisen en patiëntveiligheid. Die kaders zijn er niet voor niets. Ze zijn alleen geschreven voor een werkelijkheid waarin AI nog geen rol speelde. Dat wringt: 55 procent van de zorgprofessionals ervaart de huidige wet- en regelgeving als rem op verantwoorde AI-inzet, niet als vangnet dat helpt om die inzet zorgvuldig vorm te geven.
Tegelijkertijd stellen zorgprofessionals zichzelf hoge eisen. 81 procent vindt dat AI binnen de eigen organisatie pas mag worden ingezet als zij honderd procent zeker weten dat data veilig en verantwoord wordt gebruikt. Dat is geen sector die halsoverkop wil digitaliseren. Dat is een sector die vooruit wil, en tegelijk voelt dat de bestuurlijke en juridische infrastructuur eromheen niet klaar is.
Sander Odijk, managing director bij SureSync, ziet daarin een structureel patroon: "Het is opvallend dat de verantwoordelijkheid bij AI-fouten vooral bij de behandelend professional wordt gelegd. Dat laat zien hoe nieuw dit vraagstuk nog is: de zorgsector werkt al met AI, terwijl juridische en morele kaders nog achterlopen."
Het resultaat is een verantwoordelijkheidsvacuüm. Adoptie gaat door, technologie wordt uitgerold, en bij gebrek aan heldere kaders komt het gewicht van eventuele fouten op de schouders van de individuele professional te rusten. In een werkomgeving waarin tijdsdruk hoog is en fouten directe gevolgen hebben voor patiënten, is dat een precaire situatie.
Waarom dit een bestuurlijk vraagstuk is
Het is verleidelijk om AI in de zorg te framen als een technologievraagstuk: welke modellen zijn betrouwbaar, welke data mag je gebruiken, hoe zit het met de AI Act. Die vragen zijn belangrijk, maar ze dekken de kern niet af.
De kern is bestuurlijk. Als 41 procent van de professionals aansprakelijkheid bij zichzelf legt terwijl slechts 3 procent de techniek vertrouwt, is dat geen individueel probleem maar een governance-probleem. Het gaat over hoe verantwoordelijkheden binnen zorgorganisaties belegd worden. Over hoe toezichthouders omgaan met een technologie die zich sneller ontwikkelt dan de kaders eromheen. Over hoe wetgeving die geschreven is voor menselijke besluitvorming vertaald wordt naar besluiten waarin een algoritme meebeslist. En over de rol van leveranciers, die nu door slechts 14 procent van de professionals als verantwoordelijk worden gezien wanneer hun product een fout maakt.
Dit zijn geen vragen die de zorgsector alleen kan oplossen. Ze raken direct aan het domein van beleidsmakers, toezichthouders en het bredere publieke debat over verantwoord bestuur van AI in publieke diensten.
De potentie is er, de infrastructuur niet
Er is ook een andere kant aan het verhaal. 56 procent van de zorgprofessionals vindt dat AI de zorg veiliger maakt dan wanneer professionals alleen op het eigen oordeel vertrouwen. De bereidheid om AI zorgvuldig in te zetten is dus aanwezig. De sector ziet de potentie, en ziet ook dat AI juist een extra controlelaag kan bieden in een omgeving waar menselijke fouten grote gevolgen hebben.
Odijk: "AI biedt juist de extra controlelaag waar de sector behoefte aan heeft in een werkomgeving met hoge tijdsdruk, waar menselijke fouten direct impact hebben op patiënten. Om die potentie te benutten, zijn duidelijke verantwoordelijkheden, heldere richtlijnen en een human-in-the-loop-principe nodig waarbij de professional het laatste woord houdt."
Dat vraagt om afspraken over wie verantwoordelijk is voor welk onderdeel van de keten: leverancier, organisatie, professional. Het vraagt om richtlijnen die concreet genoeg zijn om in de dagelijkse praktijk te gebruiken. En het vraagt om een consistente toepassing van dat human-in-the-loop-principe, waarbij het oordeel van de zorgprofessional niet alleen op papier het laatste woord heeft, maar ook gedragen wordt door de organisatie en de kaders eromheen.
De zorgsector loopt hier voorop, omdat de urgentie er groot is. Maar dezelfde vragen liggen op tafel bij toezicht, uitvoering, onderwijs en veiligheid. Wie ze in de zorg goed weet te beantwoorden, legt een basis die verder reikt dan één sector.
Het volledige onderzoek is hier te vinden.
Plaats een reactie
U moet ingelogd zijn om een reactie te kunnen plaatsen.