Meer dan 7 procent van de werknemers die ChatGPT gebruiken hebben wel eens bedrijfsdata ingevoerd. Ongeveer 4 procent van de werknemers heeft vertrouwelijke data in prompts gebruikt. Dit kwam onlangs naar boven in een onderzoek door het cyber security bedrijf Cyberhaven.
Steeds meer werknemers maken gebruik van ChatGPT, omdat ze er veel productiever door worden. Zo kan het bijvoorbeeld helpen code te verbeteren of presentaties te maken van langere documenten. In beide gevallen kan het gaat om gevoelige data die niet zomaar het bedrijf mogen verlaten. Al geeft ChatpGPT in hun FAQ aan dat ze jouw data kunnen verwijderen, dit gaat alleen over jouw account en niet de specifieke prompts die je hebt ingevoerd.
Het kan voorkomen dat jouw ingevoerde data gebruikt voor het trainen van een model. Wanneer dit model publieke beschikbaar wordt gemaakt, zouden anderen deze data kunnen onttrekken uit het model. Onderzoekers hebben al laten zien (Zie dit onderzoek) dat ze individuele voorbeelden waarmee het model getraind is kunnen terughalen door het taalmodel te bevragen.
Het lekken van (vertrouwenlijke) data is een groot probleem voor bedrijven, omdat niet alleen bedrijfsgeheimen op straat kunnen belanden, maar ook privacy gevoelige data van klanten. Om deze reden zijn er al enkele bedrijven die toegang tot ChatGPT geblokkeerd hebben.
Wij zijn van mening dat er betere manieren zijn om te voorkomen dat vertrouwelijke data via AI tools lekken. Ten eerste is het belangrijk om werknemers bewust te maken van die risico’s die AI met zich meebrengt, om zo beter in te schatten voor welke taken ChatGPT gebruikt kan worden of hoe je prompts kan aanpassen om wel het resultaat te halen wat je wilt, maar geen gevoelige data te delen.
Een andere manier om het probleem op te vangen is door gebruik te maken van diensten zoals Azure OpenAI. Deze biedt dezelfde mogelijkheden als ChatGPT, plus een aantal extra’s. Zo wordt er beter rekening gehouden met compliance en privacy.
Wil je toch de voordelen van AI benutten, zonder vertrouwelijke data te lekken? Wij geven workshops voor werknemers om AI tooling effectief en veilig in te zetten, en wij kunnen helpen processen in jouw organisatie te optimaliseren met behulp van AI. Stuur ons een e-mail of bericht via linkedin, dan plannen we graag een kennismaking!
