Door AI is het klonen van iemands stem al mogelijk in een paar seconden. Wat doen we als we zelfs de stem van onze geliefden niet meer kunnen vertrouwen?
Stijn Bronzwaer beschrijft in NRC hoe voice cloning, de nieuwste vorm van online oplichting, in Amerika al vele slachtoffers maakt. Daarbij bootsen criminelen een stem na met behulp van artificiële intelligentie (AI), om daarna een vriend of familielid met die stem ertoe aan te zetten geld over te maken.
We lezen een paar van zijn bevindingen uit het veel grotere artikel:
In Nederland zijn er, zo meldt de politie, nog geen gevallen bekend. Dat is een kwestie van tijd. Door de snelle ontwikkelingen in AI-technologie wordt het klonen van stemmen snel eenvoudiger en goedkoper. Het Amerikaanse audiobedrijf ElevenLabs – een van de pioniers in deze technologie – claimt slechts een opname van een minuut nodig te hebben om een kloon te maken. Dat kan al in achtentwintig talen, inclusief het Nederlands.
Voice cloning kan geweldige toepassingen hebben, beweren de bedrijven die zich hierin specialiseren. Denk aan toeristen die zichzelf overal op vakantie verstaanbaar kunnen maken, met hun eigen stem. ALS-patiënten die weer hun stem kunnen gebruiken. De originele stemmen van historische figuren die kunnen worden gebruikt in games, films of audioboeken.
Maar aan voice cloning kleven ook enorme risico’s. Vrijwel direct na de lancering van de ElevenLabs-app kwam er nepaudio online waarin actrice Emma Watson voorlas uit Mein Kampf. Streamingdienst Spotify heeft een dagtaak aan het verwijderen van nummers van muzikanten wier stem zonder toestemming is gekopieerd. Tegenstanders van zowel Joe Biden als Donald Trump maken overtuigende nepfilmpjes waarin ze de Amerikaanse politici woorden in de mond leggen. En cybercriminelen krijgen met de technologie een enorm overtuigend nieuw wapen in handen om burgers geld afhandig te maken. (…)
Wat kun je als burger doen als je kind belt en ineens geld nodig heeft? Moet elk gezin in Nederland een codewoord afspreken, zoals de Fraudehelpdesk onlangs adviseerde? ‘Dat is geen goed idee, want een codewoord is ook weer makkelijk te kraken’, zegt Manon den Dunnen, Strategisch Specialist Digitaal bij de politie. ‘Stel liever een paar informele vragen. Over wat je de laatste keer dat je elkaar zag zoal besproken hebt. Heb het erover met elkaar. Dat lijkt nu heel vreemd, maar ik hoop dat we dit met z’n allen normaal gaan vinden.’
Stijn Bronzwaer: ‘Mam! Help! Kun je snel geld overmaken?’, in: NRC 1 september 2023
