AI-transparantie

De medewerker spreekt een cliëntcontact in. De AI zet dat om naar een concept-rapportage in zorgtaal, verdeeld over leefgebieden, en signaleert neutraal wat ontbreekt: bijvoorbeeld dat een leefgebied al een aantal rapportages niet benoemd is. De medewerker controleert het concept op het scherm, past het aan en accordeert. Pas dan wordt er iets opgeslagen.

• Geen diagnoses en geen behandeladvies
• Geen zelfstandige zorginhoudelijke conclusies: de assistent verwoordt wat de medewerker zelf vertelde
• Niets opslaan zonder controle en accordering door de zorgprofessional
• Geen beslissingen over cliënten: de mens beslist, altijd

Die grens is bewust. Administratieve ondersteuning die zelf zorginhoudelijke conclusies zou trekken, schuift richting medisch hulpmiddel en hoog-risico AI. Wij bewaken die grens bij elke uitbreiding en leggen hem vast in onze documentatie.

Spraak- en tekstverwerking lopen via Microsoft Azure OpenAI in Zweden, met verwerking binnen de EU-datazone. Er loopt niets via servers buiten de Europese Unie en dat is technisch afgedwongen: een verkeerde configuratie faalt in plaats van stilletjes door te sturen. De gegevens worden niet gebruikt om AI-modellen te trainen.

• De spraakopname wordt live verwerkt en niet opgeslagen
• Cliëntnamen worden uit de tekst verwijderd voordat die een tekstmodel bereikt
• De assistent kent alleen de eigen caseload van de aangemelde medewerker, met achternaam en zorgsoort; geen geboortedatum, medicatie of aandachtspunten
• Een rapportage kan pas worden opgeslagen nadat de medewerker op het scherm heeft bevestigd bij welke cliënt die hoort

AI-uitvoer is feilbaar; spraakherkenning kan verhaspelen en een model kan iets verkeerd samenvatten. Daarom is de controle geen vinkje achteraf maar het hart van de flow: elk concept staat volledig op het scherm, is aan te passen via spraak of aanraking, en de zorgprofessional blijft verantwoordelijk voor elke rapportage die het dossier ingaat. Medewerkers die met Zorgflow werken krijgen uitleg over wat de AI wel en niet kan, in lijn met de AI-verordening.

Een rapportage bevat gezondheidsgegevens, en in de ambulante zorg wordt er ingesproken in de auto, in een gang of bij iemand thuis. De gebruikersinstructie schrijft daarom voor: spreek in buiten gehoorsafstand van anderen, of typ het in via de gelijkwaardige tekstroute. Noem alleen de cliënt over wie wordt gerapporteerd en beschrijf anderen bij hun rol in plaats van bij naam.

De verbinding staat alleen open zolang de sessie actief is en dat is op het scherm te zien. De instructie vraagt medewerkers de sessie af te sluiten als ze klaar zijn, en vraagt de zorgaanbieder om cliënten te vertellen dat er een AI-assistent wordt gebruikt bij de verslaglegging.

Vragen over de AI of deze afbakening: privacy@zorgflow.ai. Cliënten kunnen ook terecht bij hun eigen zorgverlener, die bepaalt hoe Zorgflow in de organisatie wordt ingezet.