‘Voice cloning’: we zijn ons bewust van de gevaren, maar herkenning van gekloonde stemmen is lastig. Dat blijkt uit een onderzoek dat we deden in opdracht van de Rijksoverheid, in het kader van de campagne ‘Laat je niet interneppen’.
Ruud de Wild of AI?
We werkten voor het onderzoek samen met PR-bureau Hagens en radiomaker Ruud de Wild. Meer dan 1.000 Nederlanders kregen stemfragmenten voorgelegd met de vraag of het de echte stem van Ruud de Wild was of een door AI gegenereerde stem. Het onderzoek bestond uit drie onderdelen:
- Herkenning van gekloonde stemfragmenten
- Identificeren van echtheid van stemfragmenten
- Vragen over ervaringen, kennis en risicoperceptie rondom stemmisleiding
Herkenning lastig
Gekloonde stemmen herkennen blijkt erg lastig. In het eerste deel van het onderzoek kreeg men drie door AI-gegenereerde geluidsfragmenten te horen, waarin de stem van Ruud de Wild was gekloond. Maar liefst 6 op de 10 mensen dachten de echte Ruud de Wild te horen in de fragmenten. 1 op 10 gaf zelfs aan dit zeker te weten. Ook bij het beluisteren van een tekstueel identiek echt en gekloond stemfragment, bestempelde ongeveer de helft de gekloonde stem als echt en de echte stem als gekloond.
Bewustzijn risico’s groot
Stemkloon-technologie is interessant, maar niet zonder gevaren. Ook veel Nederlanders zien de risico’s. Ongeveer de helft vindt het grootste gevaar dat gesuggereerd kan worden dat je iets gezegd heb, terwijl dit niet zo is. Daarna volgen het ‘voordoen als een bekende’ en de schending van privacy of identiteitsdiefstal als meest genoemde risico’s. 83% denkt dan ook dat stemkloon-technologieën ingezet gaan worden om mensen te misleiden en 58% vreest hier zelf slachtoffer van te worden.
Maatregelen ter bescherming
Joyce van Brecht, client director behaviour change bij Verian: “De aanname was dat gekloonde stemmen inmiddels niet meer van echt te onderscheiden zijn en daardoor ingezet kunnen worden voor misleiding. De resultaten van het onderzoek bevestigen dit beeld. Ondanks de zorgen die mensen hierover hebben, weet drie op de vier Nederlanders niet wat ze kunnen doen om misleiding door middel van gekloonde stemmen te voorkomen. Op de website van de Rijksoverheid is meer te lezen over de maatregelen die je kunt treffen.”
.svg)
Back
