Onderzoek: meer dan de helft van de Nederlanders hoort geen verschil tussen echte en gekloonde stem van bekende

• 6 op de 10 Nederlanders denkt dat een door ‘voice cloning’ gegenereerde stem van een bekende echt is
• Slechts 4% kan met zekerheid een gekloond stemfragment juist onderscheiden
• 83% van de Nederlanders denkt dat stemkloon-technologieën in de toekomst gebruikt gaan worden om anderen na te doen en zo mensen te bedriegen

De overgrote meerderheid van de Nederlanders ontvangt wel eens misleidende tekstberichten en e-mails van online criminelen die zich voordoen als een bekende of een betrouwbare organisatie. Met een door kunstmatige intelligentie (AI) gekloonde stem kunnen online criminelen nu ook écht zo klinken. De technologie ‘voice cloning’ is inmiddels zo ver ontwikkeld dat echte en gekloonde stemfragmenten voor veel mensen niet meer van elkaar te onderscheiden zijn, zo blijkt uit nieuw onderzoek van de Rijksoverheid met medewerking van radiopresentator Ruud de Wild. Meer dan de helft van de Nederlanders kan een gekloonde stem van een bekende niet onderscheiden van de echte. Dat is zorgelijk, aangezien online criminelen in het buitenland deze techniek al inzetten om mensen te misleiden. Met de campagne ‘Laat je niet interneppen’ roept de Rijksoverheid iedereen op om alert te zijn voor online misleiding en de afzender van (spraak)berichten en gesprekken altijd goed te controleren. Ook als het lijkt te gaan om een bekende in nood.

Ingrijpende manier van online misleiding

Met makkelijk toegankelijke én betaalbare online AI programma’s is een stem van elk willekeurig persoon eenvoudig na te maken. In Engelstalige landen zoals de Verenigde Staten en Groot-Brittannië maken online criminelen al misbruik van voice cloning technologie door zich voor te doen als een bekende. Omdat stemkloon-programma’s inmiddels Nederlandse stemmen al zeer realistisch kunnen nabootsen, verwacht de Rijksoverheid dat deze ingrijpende manier van online misleiding binnenkort ook hier zal opduiken.

Ruud de Wild

Slechts 4% van de respondenten uit het onderzoek herkende met zekerheid een gekloond stemfragment van radiopresentator Ruud de Wild als nep. Zelfs wanneer respondenten zich bewust waren dat er sprake was van gekloonde stemfragmenten, kon slechts de helft onderscheid maken tussen het origineel en de gekloonde kopie. Ruim 4 op de 5 Nederlanders (83%) geeft dan ook toe lastig te kunnen onderscheiden of een stem van een bekende echt of gekloond is. Een even groot deel van de Nederlanders (83%) denkt dat stemkloon-technologieën in de toekomst gebruikt gaan worden om anderen na te doen en zo mensen te bedriegen. “Dat de stem van iemand zoals ik, die zijn stem professioneel gebruikt, gekopieerd kan worden is al schrikken. Maar het wordt nog enger als zoiets bijvoorbeeld gebeurt met de stem van een vriend of familielid”, zegt Ruud de Wild.

Maatregelen

Online criminelen maken handig misbruik van menselijke eigenschappen. Vooral onder stress of in ongewone situaties zijn we minder goed in staat om trucs van online criminelen te doorzien. Als een spraakbericht of (online) gesprek gepaard gaat met veel emotie, tijdsdruk, iets ernstigs of iets dat te mooi lijkt om waar te zijn, is het belangrijk om op je hoede te zijn. Manon den Dunnen, Strategisch Specialist Digitaal bij de Politie: “Een makkelijke vuistregel is, zodra je een beslissing moet nemen die onomkeerbaar is zoals het overmaken van geld of het delen van vertrouwelijke informatie, dat je dan een stapje terug doet en de informatie op andere wijze probeert te verifiëren. Ook als je die persoon goed kent. Dat voelt misschien onbeleefd of onprettig, maar mensen zullen dit steeds normaler gaan vinden.”

De Rijksoverheid adviseert mensen om bij twijfel aan de echtheid van de afzender van een spraakbericht of gesprek altijd een extra check te doen:

• Verbreek het contact en neem direct zelf contact op met de persoon die je benadert. Maar dan op het nummer dat je selecteert uit je lijst met contactpersonen of zelf kent van die persoon;
• Heb je geen direct nummer? Probeer het dan via een vriend, collega of familielid die het nummer wel heeft. Kies in ieder geval nooit voor de terugbelknop waarmee je automatisch het nummer belt waarmee de mogelijke crimineel met jou contact opnam;
• Vraag iets dat alleen jouw bekende zelf kan weten. Dat is niet de naam van je hond of verjaardag; geen weetjes, geen wat-vragen, maar een belevings-vraag: iets dat je hebt meegemaakt met die persoon. Bij alle andere informatie moet je ervan uitgaan dat die ergens te achterhalen is;
• Tot slot: er is niks mis met ophangen. Criminelen maken gebruik van jouw behoefte beleefd te blijven.

Over het onderzoek

Het onderzoek is van 6 t/m 12 mei 2024 uitgevoerd door Verian (voorheen Kantar Public) in opdracht van de Rijksoverheid. Radiopresentator Ruud de Wild sprak voor het onderzoek een aantal geluidsfragmenten in, die met zijn toestemming zijn gekloond. In het eerste deel van het onderzoek kregen de respondenten drie gekloonde geluidsfragmenten te horen. In het tweede gedeelte kregen de respondenten twee versies van een fragment met identieke inhoud te horen: het een uitgesproken door de echte Ruud de Wild, het ander door zijn met AI gekloonde stem. Aan de representatieve steekproef deden 1.046 Nederlanders van 18 jaar en ouder mee.

Laat je niet interneppen

De meerjarige campagne van het Ministerie van Justitie en Veiligheid en het Ministerie van Binnenlandse Zaken en Koninkrijksrelaties roept mensen op de afzender van online berichten en gesprekken goed te checken. Bij twijfel is het advies: druk, klik of swipe weg. Op laatjenietinterneppen.nl kunnen mensen meer informatie vinden over hoe dit soort online misleiding te herkennen is en wat ertegen te doen.